[이코리아] 전 세계의 분쟁 지역에서 AI가 활용되며 AI의 군사적 사용에 대한 윤리적 우려도 함께 나오고 있다.

하마스와 교전 중인 이스라엘이 AI를 군사적으로 활용하고 있다는 보도가 나왔다. 블룸버그 등 외신은 이스라엘 방위군 (IDF)이 공습 대상을 선정하고 전략을 수립하는데 복수의 AI를 활용하고 있다고 전했다. 

먼저 AI가 드론, CCTV, 위성 등을 활용해 수집한 정보를 분석하고 공습 대상을 선택하면 ‘파이어 팩토리(Fire Factory)’라는 군사용 AI가 탄약의 무게, 공격 순위 등을 제안하고 이에 필요한 전투기, 드론 등 병력의 배치와 공습 시기도 조율한다. 이스라엘 방위군은 복수의 AI가 전략 수립에 활용되고 있으며, 개별 목표물 설정과 승인은 사람이 감독한다고 밝혔다.

러시아와 전쟁 중인 우크라이나 역시 AI를 적극적으로 활용하고 있다. 포브스는 우크라이나군이 인간 조종사 없이 러시아군에 대해 자율적으로 공격을 수행하는 ‘사커 스카우트’ AI 드론을 활용하고 있다고 17일 전했다.

우크라이나 개발자들은 사커의 시스템이 머신 러닝을 기반으로 하며, 탱크, 장갑차 등 64가지 유형의 러시아의 군사 장비를 스스로 찾아 식별하고 공격할 수 있다고 설명했다. 또 사커의 AI 소프트웨어는 지상의 랜드마크를 활용해 시각적 내비게이션이 가능해 GPS가 끊어져도 스스로 길을 찾을 수 있으며, 지난달에 취역한 최신 모델은 약 12Km 범위까지 3Kg의 폭탄을 운반할 수 있다고도 설명했다.

조종사 없이 AI가 스스로 조종하는 무인 전투기 경쟁에도 불이 붙었다. AI 무인 전투기의 제작 비용은 조종사의 탑승을 반영해 설계되는 유인 전투기보다 훨씬 저렴하며, 활용성도 높다는 것이 장점으로 꼽힌다.

미국 공군은 지난 8월 AI를 장착한 무인 전투기 ‘XQ-58A 발키리’ 전투기의 시험 비행에 성공했다. 통제소에서 인간 조종사가 조종하던 기존의 무인기와 달리, 발키리는 AI가 인간의 조종 없이 스스로 비행하는 것이 특징이다. 미 공군은 앞으로 1,000대 이상의 무인 전투기를 제작해 인간 조종사와 함께 작전을 수행하도록 할 계획이다. 

캐슬린 힉스 미국 국방부 부장관은 지난 8월 연설을 통해 중국의 수적 우위를 상쇄하기 위해 미군에 대량의 자율 무인 무기를 배치할 것이라고 밝히기도 했다. 힉스 부장관은 "우리는 대량의 자율 병기로 인민해방군의 수적 우위에 대응할 것이지만, 우리는 계획하기 더 어렵고, 공격하기 더 어렵고, 이기기가 더 어려울 것이다."라고 말했다.

중국 역시 AI 전투기 연구에 뛰어들었다. 지난 2월 중국 난징항공항천대 연구진은 AI를 활용해 마하 11의 속도로 비행하는 극초음속 전투기의 공중전 시뮬레이션을 실시했으며, 미국의 최신 전투기 F-35에 준하는 가상 적기를 8초 만에 성공적으로 격추했다고 밝혔다. 

우리 국군도 AI를 적극적으로 활용하겠다는 계획을 수립한 상태다. 지난 3월 국방부는 ‘국방혁신 4.0 기본계획’의 주요 내용을 발표했는데, ‘AI 기반 핵심 첨단전력 확보’가 주요 과제로 포함되었다. 전방 감시 소초(GP)와 일반 전초(GOP), 해안‧해상과 후방의 주요 기지에 대해 AI 기반 유‧무인 복합체계를 활용한 경계작전 개념을 발전시키고, 작전사령부급 이하의 부대구조는 AI 기반 유‧무인 복합전투체계 중심으로 재설계하는 등의 내용이 포함되어 있다.

한편 AI의 군사적 활용이 현실화 됨에 따라 이에 반대하는 목소리도 나오고 있다. 폴 샤레 신미국안보센터 연구 책임자는 2014년까지 거슬러 올라가는 국제적인 논의에도 불구하고, 아직 AI 무기에 대한 국가적인 합의가 이루어지지 않고 있다고 포브스와의 인터뷰에서 지적했다. 

그는 "기술의 속도가 외교의 속도를 훨씬 앞지르고 있다. 특정 재래식 무기 금지 협약(CCW)이 수년 동안 거의 진전을 이루지 못한 가운데, 자율 무기 금지를 촉구하는 인도주의 군축 활동가들이 10월 말 유엔 총회에서 자신들의 주장을 제기할 예정이다. 하지만 이 과정을 통해 각국이 자율 무기에 대한 조치를 취하게 될지는 아직 미지수다."라고 우려했다. 

또 샤레는 "자율 무기가 처음에는 탱크나 레이더와 같은 군사적 표적에만 사용되더라도, 곧 인명을 표적으로 삼는 등 더 무차별적으로 사용되어 민간인 피해가 불어날 우려가 있다"고 말했다.

AI의 군사적 사용에 대한 국제적 논의도 활발하다. 지난 2월에는 네덜란드 헤이그에서 '군사적 영역에서의 책임 있는 인공지능에 관한 장관급 회의(REAIM)'가 열렸다. 한국과 네덜란드의 공동 주최로 열린 회의에 60여 개국에서 2천여 명이 참석해 군사 영역에서의 책임 있는 AI 사용에 대해 논의했다. 이날 참여한 국가들은 AI의 군사적 이용과 개발이 의도치 않은 결과를 초래할 수 있다며 이를 규제하는 국제 원칙 제정을 촉구했다.

미국 국무부는 이날 회의에서 ‘AI를 군사적으로 책임 있게 사용하기 위한 가이드라인’을 공개했다. 군용 AI 시스템을 감사할 수 있고, 용도가 명확하고 잘 정의되어 있으며, 수명 주기 전반에 걸쳐 엄격한 테스트와 평가를 받고, 중요도가 높은 애플리케이션은 고위급 검토를 거쳐 의도하지 않은 행동을 보일 경우 비활성화할 수 있도록 보장하는 것이 해당 가이드라인의 골자다.

미 국무부는 “우리는 네덜란드와 대한민국이 주도적으로 REAIM 정상회의를 공동 주최하고 이 주제에 대한 시의적절한 논의를 시작한 것에 대해 찬사를 보낸다. 우리는 군이 AI와 같은 신기술을 책임감 있게 사용하도록 보장해야 할 필요성을 공동의 과제로 인식하고 있다. 뜻을 같이하는 다른 이해관계자들과 협력하여 이 선언문에 대한 공감대를 형성하고 책임 있는 행동에 대한 강력한 국제 규범을 개발할 수 있기를 기대한다.”라고 밝혔다.

지난 5일에는 안토니오 구테헤스 유엔 사무총장과 미르야나 스폴야리치 국제적십자위원회 위원장이 정치 지도자들에게 자동 무기 시스템에 관한 새로운 국제 규칙을 시급히 제정할 것을 촉구하는 호소문을 내놓았다. 

이들은 호소문을 통해 “자율 무기 시스템은 일반적으로 사람의 개입 없이 표적을 선택하고 무력을 가하는 무기 시스템으로 이해되며, 심각한 인도주의적, 법적, 윤리적, 안보적 문제를 야기한다.” “자율 무기 시스템의 개발과 확산은 전쟁의 양상을 크게 바꾸고 전 세계의 불안정성과 국제적 긴장을 고조시킬 수 있는 잠재력을 가지고 있다. 군대와 민간인에 대한 위험이 감소했다는 인식을 심어줌으로써 분쟁에 개입할 수 있는 문턱을 낮추고 의도치 않게 폭력을 확대할 수도 있다.”라고 우려했다.

또 자율 무기 시스템에 관한 구체적인 국제 협약이 없다면 각 국가는 이러한 일반 규칙이 어떻게 적용되는지에 대해 다른 견해를 가질 수 있어 기존 법률을 명확히 하고 강화하기 위해서는 자율 무기에 관한 새로운 국제 규칙이 필요하다고 촉구했다.