기계가 사람을 표적으로 고르는 순간, 자율무기 국제규칙의 레드라인
기계가 사람을
표적으로 고르는 순간
유엔 사무총장과 ICRC 총재가 자율무기에 관한 국제규칙을 다시 촉구했습니다. 무엇을 당장 금지하고, 무엇을 엄격히 제한해야 하는지, 그리고 ‘인간의 통제’가 실제 전장에서는 어떤 조건을 뜻하는지 차분히 해부합니다.
2026년 8월 25일 안토니우 구테흐스 유엔 사무총장과 미르야나 스폴야리치 국제적십자위원회(ICRC) 총재는 각국에 자율무기 시스템을 규율할 새로운 국제규칙을 긴급히 채택하라고 공동 촉구했습니다. 두 사람은 기술의 진전과 규제 사이의 간격이 넓어졌으며, 기계가 인간을 자율적으로 표적화하는 ‘도덕적 레드라인’에 위험하게 가까워졌다고 경고했습니다.
이 공동호소는 모든 자동화 장비를 하나로 묶어 금지하자는 단순한 구호가 아닙니다. 예측할 수 없는 시스템과 사람에게 무력을 가하도록 설계·사용되는 시스템은 금지하고, 그 밖의 자율무기는 표적의 종류, 작동 시간과 공간, 사용 상황, 인간의 감독과 개입 가능성을 엄격히 제한하자는 구체적인 규율 구조를 담고 있습니다.
다만 현재 국제사회가 합의한 단일 정의나 새 조약이 이미 존재하는 것은 아닙니다. 국제인도법은 모든 무기에 적용되지만, 자율성이 만들어 내는 예측 가능성·책임·인간 판단의 공백을 충분히 명확하게 메우는 새 규칙이 필요한지를 두고 협상이 이어지고 있습니다. 이 글은 8월 26일 확인 가능한 공식 자료를 토대로 확정된 사실과 제안, 아직 합의되지 않은 부분을 분리해 설명합니다.
자율무기는 ‘AI가 들어간 모든 무기’가 아니다
자율무기를 이해할 때 먼저 버려야 할 오해는 외형으로 구분하려는 습관입니다. 드론처럼 생겼다고 모두 자율무기는 아니며, 사람이 원격으로 계속 조종한다고 해서 자동화 기능이 전혀 없는 것도 아닙니다. ICRC는 사람이 활성화한 뒤 시스템이 센서로 받은 환경 정보와 일반화된 ‘표적 프로필’을 바탕으로 특정 표적을 선택하고 무력을 가하는 체계에 주목합니다. 사용자는 발사 전에 모든 구체적 표적과 정확한 공격 시간·장소를 알지 못할 수 있습니다.
유엔 군축실도 인공지능이 자율무기의 필수조건은 아니라고 설명합니다. 사전에 정해진 규칙과 센서만으로 자율 기능을 수행할 수 있고, 반대로 AI가 표적 후보를 보여주더라도 최종 무력 사용을 사람이 직접 결정한다면 인간의 역할은 다르게 평가됩니다. 핵심은 ‘AI 탑재 여부’라는 제품 설명이 아니라 표적 선택과 무력 적용의 기능적 과정입니다.
따라서 논쟁의 대상에는 지상·해상·공중 플랫폼, 방어체계, 배회탄약 등 다양한 형태가 포함될 수 있습니다. 그러나 단순 자동항법, 장애물 회피, 정찰 데이터 분류까지 모두 같은 위험으로 취급하면 규제의 초점이 흐려집니다. 규칙은 어떤 기능이 사람의 생명과 민간시설에 직접 영향을 주는지, 인간이 구체적인 공격을 이해하고 제한할 수 있는지를 중심으로 설계해야 합니다.
왜 지금 다시 ‘레드라인’을 말하나
유엔과 ICRC의 첫 공동호소 이후 3년 동안 우려의 성격은 달라지지 않았지만 현실의 속도는 빨라졌습니다. 센서, 컴퓨터비전, 데이터 처리, 군집 운용, 통신 두절 상황에서의 독립 작동 능력이 발전하면서 시스템이 더 넓은 지역에서 더 오래, 더 적은 개입으로 기능할 가능성이 커졌습니다. 기술을 설계하는 과학자와 엔지니어들 스스로 한계를 요구한다는 점도 이번 호소가 강조한 대목입니다.
속도는 군사적 장점이 될 수 있지만 법적·윤리적 위험도 증폭합니다. 기계가 짧은 시간에 여러 표적을 분류하고 대응하면 인간은 내용을 이해하기 전에 승인 버튼만 누르는 ‘형식적 통제자’가 될 수 있습니다. 겉으로는 사람이 의사결정 고리에 남아 있어도, 정보량과 시간 압박 때문에 판단을 실질적으로 행사하지 못한다면 인간 통제의 목적은 달성되지 않습니다.
확산 위험도 중요합니다. 값싼 센서와 상용 AI, 무인 플랫폼의 결합은 첨단국만의 문제가 아닙니다. 한 번 널리 배치된 체계는 다른 국가와 비국가 행위자의 모방을 자극하고, 더 빠른 자동 대응을 요구하는 군비경쟁으로 이어질 수 있습니다. 개별 국가가 ‘우리는 신중하게 사용하겠다’고 약속하는 것만으로는 상대가 같은 기준을 지킬 것이라는 신뢰를 만들기 어렵습니다.
구별·비례·예방: 기존 국제인도법은 그대로 적용된다
구별 원칙
민간인과 전투원, 민간물자와 군사목표를 구분해야 합니다. 모호한 행동과 맥락을 센서가 신뢰성 있게 읽을 수 있는지가 관건입니다.
비례 원칙
예상되는 부수적 민간 피해가 구체적이고 직접적인 군사적 이익에 비해 과도해서는 안 됩니다.
예방조치
표적과 수단을 검증하고, 피해를 줄일 선택을 하며, 상황이 바뀌면 공격을 취소하거나 중단할 수 있어야 합니다.
새 기술이라고 기존 법의 바깥에 놓이는 것은 아닙니다. 국제인도법의 구별·비례·공격 시 예방조치는 자율무기를 포함한 모든 무기와 전쟁수단에 적용됩니다. 국가는 새로운 무기를 개발하거나 획득할 때 그 사용이 국제법에 의해 전부 또는 일부 상황에서 금지되는지 법률검토를 해야 합니다.
문제는 원칙을 말하는 것과 실제 시스템이 그 원칙을 지키도록 만드는 것 사이의 거리입니다. 민간인이 전투원처럼 보이는 물건을 들었는지, 부상자가 전투 능력을 잃었는지, 병원이 일시적으로 군사적으로 이용되는지 같은 판단은 데이터의 패턴만으로 끝나지 않습니다. 현장의 역사, 행동의 의도, 시간에 따라 변하는 상황을 이해해야 합니다.
비례성 판단 역시 단순 산술이 아닙니다. 예상되는 민간 피해와 군사적 이익을 맥락 속에서 평가하는 규범적 판단입니다. 알고리즘이 계산을 보조할 수는 있어도 무엇이 ‘과도한가’를 스스로 정당하게 결정하는 권한을 가졌다고 단정하기 어렵습니다. 그래서 법이 적용된다는 사실만으로 충분하지 않고, 설계와 사용에 특화된 금지·제한 규칙이 필요하다는 주장이 힘을 얻습니다.
제안된 해법은 전면금지 하나가 아니라 ‘금지+제한’이다
효과를 충분히 이해·예측·설명할 수 없는 자율무기. 작동 결과의 범위를 합리적으로 제한할 수 없다면 무차별적 효과의 위험 때문에 배제하자는 제안입니다.
사람에게 무력을 가하도록 설계되거나 사용되는 자율무기. 생사를 기계적 과정에 맡기는 윤리적 레드라인과 민간인 보호를 이유로 제시됩니다.
표적의 종류. 허용되는 체계도 본질적으로 군사목표인 물체 등 명확한 범위로 제약하는 방안입니다.
시간·공간·규모. 작동 기간과 지리적 범위, 동시에 대응할 표적 수를 줄여 인간이 구체적 공격을 판단할 수 있게 해야 합니다.
사용 상황과 인간-기계 상호작용. 민간인이 없는 환경으로 사용을 제한하고, 감독·개입·비활성화를 실제로 보장해야 합니다.
이 2층 구조는 기술적으로 유용한 자동화 기능까지 모두 포기하자는 주장과 다릅니다. 예측 불가능성과 사람 표적화를 명확히 금지해 바닥선을 만들고, 나머지는 위험에 비례해 엄격한 조건을 두는 방식입니다. 규제 대상과 허용 조건을 기능 중심으로 정의하면 특정 제품명이나 현재의 AI 방식에 묶이지 않고 미래 기술에도 적용할 여지가 생깁니다.
동시에 문구의 정밀함이 중요합니다. ‘사람을 표적으로 삼는다’는 표현이 어떤 센서 입력과 무력 적용을 포함하는지, 방어체계와 대물체계를 어디까지 허용할지, 예측 가능성을 누가 어떤 시험으로 입증할지에 따라 규칙의 효과가 크게 달라집니다. 선언문보다 검증 가능한 기술·운용 기준이 필요한 이유입니다.
블랙박스보다 더 어려운 것은 ‘책임의 사슬’이다
자율무기가 잘못된 표적을 공격했을 때 누구에게 책임을 물을 수 있을까요. 지휘관, 운용자, 개발자, 제조사, 데이터 공급자 가운데 어느 한 사람만 지목하면 해결되는 문제가 아닙니다. 책임은 법적 의무와 사실관계에 따라 판단해야 하지만, 시스템의 행동이 불투명하고 예측하기 어려울수록 누가 위험을 알고도 승인했는지 입증하기가 힘들어집니다.
‘알고리즘이 결정했다’는 말은 책임의 종착점이 될 수 없습니다. 기계는 법적·도덕적 책임을 질 주체가 아니며 처벌이나 반성을 통해 규범을 회복할 수도 없습니다. 따라서 배치 전에 성능 한계와 오작동 조건을 문서화하고, 운용 중에는 사람이 중단할 권한과 시간을 가지며, 이후에는 로그와 명령 경로를 감사할 수 있어야 합니다.
설명 가능성도 단순히 소스코드를 공개하는 문제가 아닙니다. 지휘관이 해당 환경에서 시스템이 무엇을 할 수 있고 할 수 없는지 이해했는지, 표적 프로필이 법적으로 타당했는지, 센서 오류와 적대적 교란을 고려했는지, 사건 뒤 독립적인 조사가 가능한지가 더 중요합니다. 영업비밀이나 국가안보를 이유로 모든 정보를 닫아 버리면 피해자는 사실을 확인하고 구제받기 어렵습니다.
실질적인 책임성을 위한 최소 질문
- 배치 승인자는 시스템의 한계와 실패 가능성을 충분히 이해했는가?
- 구체적 공격마다 인간이 취소·중단할 수 있는 시간과 통신수단이 있었는가?
- 센서 입력, 소프트웨어 상태, 명령과 개입 기록이 보존되는가?
- 민간 피해가 발생했을 때 독립적 조사와 피해구제 절차가 작동하는가?
- 업데이트된 모델과 데이터가 다시 법률검토·안전성 검증을 받는가?
민간인 보호는 정확도 숫자 하나로 증명되지 않는다
실험실에서 높은 인식 정확도를 기록한 시스템도 실제 전장에서는 성능이 달라질 수 있습니다. 연기, 비, 먼지, 파손된 건물, 통신 방해, 위장, 낯선 지역의 복장과 차량은 입력 분포를 바꿉니다. 공격자가 센서를 속이기 위해 의도적으로 패턴을 만들 수도 있습니다. 평균 정확도는 가장 위험한 실패가 언제, 누구에게 집중되는지 보여주지 못합니다.
특히 민간인과 전투원이 같은 공간에 섞인 도시전에서는 행동의 맥락이 중요합니다. 사람이 뛰는 이유가 공격인지 대피인지, 삽을 든 사람이 전투원인지 구조대원인지, 차량이 군수용인지 구급용인지 판단하려면 단일 이미지 이상의 정보가 필요합니다. 잘못된 긍정 한 번의 비용이 생명이라면 상업용 추천 시스템과 같은 허용 오차를 적용할 수 없습니다.
안전성 시험은 정상 작동뿐 아니라 실패 모드를 중심으로 설계해야 합니다. 통신이 끊겼을 때 시스템이 멈추는지 계속 탐색하는지, 위치정보가 왜곡되면 작동 구역을 벗어나는지, 예상치 못한 대상이 나타나면 보수적으로 중단하는지 확인해야 합니다. ‘페일 세이프’는 부가 기능이 아니라 허용 가능한 자율성의 전제조건입니다.
또한 민간인 보호에는 피해를 줄이는 기술 외에 경고, 조사, 보상, 재발 방지가 포함됩니다. 뛰어난 센서가 있다고 해서 공격의 필요성과 비례성이 자동으로 충족되는 것은 아닙니다. 기술적 정확도와 법적 정당성은 서로 관련되지만 동일하지 않습니다.
‘인간이 고리에 있다’는 문장만으로는 부족하다
인간 통제는 사람 한 명이 승인 버튼을 누르는 형식이 아닙니다. 운용자는 시스템이 어떤 정보를 바탕으로 무엇을 추천하는지 이해해야 하고, 합리적으로 검토할 시간이 있어야 하며, 거부해도 불이익을 받지 않는 지휘구조 속에 있어야 합니다. 무엇보다 통신과 인터페이스가 실제로 개입을 가능하게 해야 합니다.
자동화 편향도 경계해야 합니다. 사람은 복잡한 시스템이 제시한 결과를 자신의 판단보다 더 신뢰하는 경향이 있습니다. 여러 표적이 빠르게 제시되거나 경고가 반복되면 검토는 승인 의식으로 축소될 수 있습니다. 따라서 인터페이스는 확신도뿐 아니라 불확실성, 누락 가능성, 대안과 반대 근거를 함께 보여줘야 합니다.
인간에게 책임을 남기려면 권한도 남겨야 합니다. 작동 범위를 설정하고, 표적 유형을 제한하고, 변화한 상황에서 임무를 취소하고, 시스템을 즉시 비활성화할 수 있어야 합니다. 책임만 인간에게 돌리고 속도·정보·제어권을 기계에 넘기는 구조는 실질적인 인간 통제라 보기 어렵습니다.
왜 국내 가이드라인이 아니라 국제규칙이어야 하나
국가별 지침과 무기 법률검토는 중요하지만 공통 바닥선을 대신할 수 없습니다. 자율무기는 국경을 넘는 공급망에서 개발되고, 소프트웨어와 센서가 여러 나라에서 조달되며, 수출과 이전을 통해 빠르게 확산될 수 있습니다. 국가마다 금지선이 다르면 규제가 약한 곳으로 개발과 배치가 이동할 가능성이 있습니다.
국제적으로 합의된 법적 규칙은 경쟁국 사이의 예측 가능성을 높입니다. 무엇을 개발하지 않을지, 어떤 조건에서만 사용할지 공통 기준이 있으면 군비경쟁의 압력을 줄이고 책임 있는 연구의 방향도 분명해집니다. 기업과 연구기관도 서로 다른 조달 기준 사이에서 흔들리지 않고 설계 단계부터 금지 기능과 안전요건을 반영할 수 있습니다.
물론 조약만 체결하면 문제가 끝나는 것은 아닙니다. 소프트웨어는 빠르게 업데이트되고 군사기술은 검증 접근이 제한됩니다. 그래서 국가 보고, 무기 법률검토의 품질 기준, 시험과 감사, 사고 조사, 수출통제, 과학자와 시민사회의 참여가 함께 필요합니다. 법적 구속력은 출발선이며 실행 구조가 신뢰를 만듭니다.
한국도 이 논의를 먼 군축외교로만 볼 이유가 없습니다. AI·반도체·센서·로봇 산업 역량을 가진 국가일수록 민군 겸용기술의 설계와 수출, 연구윤리, 국방조달 기준이 국제규칙과 맞물립니다. 명확한 원칙은 혁신을 무작정 막는 장벽이 아니라 허용 가능한 연구와 금지해야 할 응용을 가르는 안전선이 될 수 있습니다.
11월 CCW 검토회의까지 확인할 다섯 가지
협상 개시 권한
제7차 특정재래식무기금지협약(CCW) 검토회의가 법적 구속력 있는 문서를 협상할 명확한 절차와 일정을 만들지 봐야 합니다.
금지 대상의 문구
예측 불가능한 시스템과 사람 표적화 금지가 기술 변화에도 견딜 수 있도록 기능 중심으로 정의되는지가 핵심입니다.
인간 통제의 기준
‘적절한 인간 판단’ 같은 추상어를 넘어 작동시간·공간·표적·감독·개입 요건이 구체화되는지 확인해야 합니다.
검증과 투명성
국가 법률검토, 시험 기록, 사고 조사, 보고와 신뢰구축 조치가 실제 이행을 확인할 수준으로 설계되는지 봐야 합니다.
합의가 지연될 때의 경로
CCW의 만장일치 관행이 진전을 막을 경우 유엔총회나 별도 협상 절차를 택할 정치적 의지가 형성되는지도 관전 포인트입니다.
이번 공동호소가 강조한 것은 더 많은 연구를 기다리자는 말이 아니라 올해를 전환점으로 만들자는 요구입니다. 당사국들은 유엔총회와 CCW 정부전문가그룹에서 인간 판단과 통제, 국제인도법 준수를 위한 조치에 관한 공통 이해를 축적해 왔습니다. 쟁점이 전혀 정리되지 않은 것이 아니라, 토론을 협상으로 바꿀 정치적 결단이 남아 있다는 진단입니다.
그렇다고 11월에 새 조약이 자동으로 완성된다고 예측해서는 안 됩니다. 공식 호소는 검토회의가 법적 구속력 있는 문서의 협상으로 이동할 가장 분명한 경로라고 제시합니다. 독자는 ‘합의 완료’라는 제목보다 협상 권한, 일정, 금지와 제한의 구체적 문구가 실제 결정문에 들어가는지를 확인해야 합니다.
기술이 빠를수록 한계는 먼저 세워야 합니다
자율무기 논쟁은 인간과 기계 가운데 누가 더 정확한지를 겨루는 기술대회가 아닙니다. 오류가 났을 때 누가 설명하고 책임질 수 있는지, 생명에 관한 판단을 어떤 가치와 절차 아래 두어야 하는지 결정하는 정치·법·윤리의 문제입니다.
자동화가 일부 상황에서 병사와 민간인의 위험을 줄일 가능성은 연구할 수 있습니다. 그러나 유용성의 가능성이 금지선의 필요성을 없애지는 않습니다. 오히려 기술이 빠르게 확산될수록 사람 표적화와 예측 불가능성을 먼저 배제하고, 허용되는 체계에도 시간·공간·표적·감독의 좁고 검증 가능한 조건을 붙여야 합니다.
역사는 무기가 널리 퍼진 뒤 규칙을 세우는 일이 훨씬 어렵다는 것을 반복해서 보여줍니다. 2026년의 질문은 기계가 무엇을 할 수 있느냐가 아니라, 인간이 아직 선택할 수 있을 때 무엇을 하지 않기로 합의할 것이냐입니다.
자주 묻는 질문
자율무기는 모두 인공지능 무기인가요?
아닙니다. 자율 기능은 사전 규칙과 센서로도 구현될 수 있으며 AI는 필수조건이 아닙니다. 반대로 AI가 정보를 보조해도 최종 표적 선택과 무력 사용을 사람이 직접 통제할 수 있습니다. 기능과 인간의 역할을 구체적으로 봐야 합니다.
현재 국제법은 자율무기에 적용되지 않나요?
적용됩니다. 구별·비례·예방조치를 포함한 국제인도법은 모든 무기와 전쟁수단에 적용됩니다. 다만 자율성 특유의 예측·인간통제·책임 문제를 명확히 다룰 새 법적 규칙이 추가로 필요하다는 것이 유엔과 ICRC의 주장입니다.
유엔과 ICRC는 모든 자율무기의 전면금지를 요구하나요?
공식 입장은 2층 구조에 가깝습니다. 예측 불가능한 시스템과 사람에게 무력을 가하는 시스템은 금지하고, 그 밖의 체계는 표적·시간·공간·상황과 인간 감독을 엄격히 제한하자는 접근입니다.
2026년에 이미 국제조약이 체결됐나요?
8월 26일 현재 새 조약이 체결됐다고 볼 수 없습니다. 공동호소는 국가들이 지금 협상을 시작해야 하며 11월 CCW 제7차 검토회의가 법적 구속력 있는 문서로 이동할 가장 분명한 경로라고 촉구한 것입니다.
‘인간이 최종 승인’하면 충분한가요?
형식적 승인만으로는 부족합니다. 시스템의 한계를 이해할 정보, 판단할 시간, 제안을 거부할 권한, 공격을 취소·중단할 통신과 제어수단이 실제로 보장돼야 의미 있는 인간 통제라고 할 수 있습니다.
① ICRC·유엔 공동호소, 2026.08.25 — 자율무기 국제규칙의 긴급성, 사람의 자율 표적화라는 도덕적 레드라인, 11월 CCW 제7차 검토회의
② ICRC 자율무기 공식 입장 — 작동 정의, 예측 불가능한 시스템·사람 표적화 금지, 나머지 시스템의 시간·공간·표적·인간감독 제한
③ UN Office for Disarmament Affairs, Lethal Autonomous Weapon Systems — AI와 자율성의 구분, 현재 논의와 유엔 사무총장의 2026년 법적 문서 권고
④ ICRC, Autonomous Weapon Systems and International Humanitarian Law: Selected Issues, 2026.03 — 구별·비례·예방조치와 새 규칙의 필요성
⑤ ICRC 자율무기 Q&A — 새 무기 법률검토와 국제인도법 적용 원칙
본문은 2026년 8월 26일 확인 가능한 1차 공식자료를 우선해 작성했습니다. 공동호소와 ICRC의 권고는 현재 체결된 조약과 구분했습니다. 사용한 이미지 10장은 설명을 위한 독자 제작 개념 이미지이며 실제 무기·작전·협상장 기록사진이나 실존인물을 담지 않았습니다.
기계가 아니라 인간의 법과 책임이 그어야 합니다.
댓글
댓글 쓰기