유엔 사무총장 안토니우 구테흐스는 월요일, 인간의 통제 없이 표적을 선정하는 기계는 "도덕적으로 혐오스럽다"며 국제법에 따라 치명적 자율 무기를 금지해야 한다고 촉구했다. 이는 AI 기업 앤트로픽과 미 국방부(펜타곤) 간의 자율 무기 내 AI 사용을 둘러싼 법적 분쟁이 5개월째 접어들고, 세 명의 민주당 미 상원의원이 군사 AI에 대한 제한을 성문화하는 법안을 발의한 가운데 나온 발언이다.
뒤로
유엔 사무총장, 킬러 로봇 금지 촉구… 3개 미 상원 법안, 펜타곤 AI 사용 규제 겨냥
유엔 사무총장 안토니우 구테흐스는 월요일, 인간의 통제 없이 표적을 선정하는 기계는 "도덕적으로 혐오스럽다"며 국제법에 따라 치명적 자율 무기를 금지해야 한다고 촉구했다. 이는 AI 기업 앤트로픽과 미 국방부(펜타곤) 간의 자율 무기 내 AI 사용을 둘러싼 법적 분쟁이 5개월째 접어들고, 세 명의 민주당 미 상원의원이 군사 AI에 대한 제한을 성문화하는 법안을 발의한 가운데 나온 발언이다.
"인간의 통제와 판단 없이 기계가 스스로 표적을 선택하고 공격하여 생명을 빼앗는 것. 그것은 도덕적으로 혐오스러운 일입니다." 구테흐스 사무총장은 제네바에서 열린 AI 거버넌스 연설에서 이렇게 말했다. "그것을 있는 그대로 부릅시다. 바로 킬러 로봇입니다." 그는 각국 정부에 "참사가 발생할 때까지 기다리지 말라"고 촉구하며, "일부 결정은 영원히 인간의 몫으로 남아야 하며, 그중 생명을 빼앗는 결정만큼 중요한 것은 없다"고 강조했다.
이 연설은 앤트로픽이 자율 무기 및 국내 대규모 감시를 포함한 '모든 합법적 용도'를 허용하라는 펜타곤의 요구를 거부하면서 2월에 촉발된 분쟁을 다시 수면 위로 떠올렸다. 펜타곤은 앤트로픽을 국가안보 공급망 위험 기업으로 지정했으며, 이는 미국 기업에 적용된 최초의 사례였다. 도널드 트럼프 대통령은 연방 기관에 앤트로픽 기술 사용 중단을 명령했다. 현재 두 개의 연방 법원이 별도의 소송을 심리 중이며, 캘리포니아 판사는 3월 펜타곤의 제재 조치가 '법률에 위배되고 자의적이며 변덕스러울 가능성이 높다'고 판단해 이를 일시적으로 차단했다.
이 분쟁이 드러낸 거버넌스의 공백은 입법부의 주목을 받았다. 세 명의 민주당 상원의원은 올해 군사 AI를 겨냥한 법안을 발의했다. 애덤 시프 상원의원의 HALO 법안은 자율 무기 시스템과 관련된 모든 무력 사용에 대해 인간 지휘관이 궁극적인 권한을 유지하도록 요구한다. 엘리사 슬롯킨 상원의원의 AI 안전장치 법안은 AI가 핵무기 발사를 승인하는 것을 금지하고, 자율 시스템이 인간의 승인 없이 치명적 타격을 수행하는 것을 차단한다. 커스틴 길리브랜드 상원의원의 안전하고 책임 있는 군사 AI 법안은 핵무기 배치, 국내 감시 및 완전 자율 시스템에서의 AI 사용을 제한한다. 이 법안들은 공화당이 장악한 의회에서 아직 진전을 보지 못하고 있다.
교황의 병행 촉구
교황 레오 14세는 올봄 회칙에서 AI 통제 무기 금지의 필요성을 주장하며, AI 시스템이 '반인간적 비전을 정상화'할 위험이 있다고 경고했다. 그는 AI 기반 무기가 고급 AI를 보유한 국가의 전쟁 정치적 비용을 낮춰 '전쟁을 더 '실행 가능하게' 만들고 인간의 통제를 덜 받게' 만들 수 있다고 말했다. 교황의 개입과 구테흐스 사무총장의 연설은 구속력 있는 규제를 요구하는 국제적 압력이 커지고 있음을 반영하지만, 아직 공식적인 조약 체결 절차는 진행되지 않고 있다.
시장의 이해관계
이번 분쟁은 방산업체와 AI 기업에 직접적인 영향을 미친다. 앤트로픽은 2025년 7월 2억 달러 규모의 펜타곤 계약을 체결했으며, 이는 최첨단 AI 모델을 기밀 군사 네트워크에 통합한 최초의 사례였다. 오픈AI는 트럼프의 금지 명령이 내려진 직후 펜타곤에 자사 모델을 공급하기 위해 나섰지만, 성급한 계약으로 인해 오픈AI의 로보틱스 책임자인 케이틀린 칼리노프스키가 '정책적 안전장치가 충분히 정의되지 않았다'며 사임했다. 펜타곤은 6개월간의 단계적 폐지 기간 동안 이란 분쟁에서 작전 표적 선정을 위해 계속 클로드를 사용한 것으로 알려졌으나, 국방부는 공식적으로 확인하지 않았다.
유엔 사무총장이 무기 기술에 대해 이와 유사한 촉구를 한 마지막 사례는 2018년 완전 자율 무기 금지를 주장한 것이었지만, 구속력 있는 국제적 합의는 이루어지지 않았다. 이번 움직임도 비슷한 난관에 직면해 있다. 미국, 러시아, 중국은 모두 유엔 회담에서 치명적 자율 무기에 대한 구속력 있는 제한에 반대해 왔다. 그러나 앤트로픽 분쟁은 논쟁을 추상적 원칙에서 구체적인 계약 조건으로 전환시켰으며, 세 건의 상원 법안은 AI가 생사의 결정을 내릴 수 있는 범위를 정의하려는 미 의회의 가장 진지한 입법 시도로 평가된다.
본 기사는 정보 제공 목적으로만 제공되며 투자 조언을 구성하지 않습니다.
