[이코리아] 중앙선거관리위원회가 제22대 총선을 앞두고 시점에서 AI 기반 딥페이크 영상 등을 이용한 선거운동을 규제한다. 선관위는 “지난달 28일 개정된 공직선거법에 따라 누구든지 선거일 전 90일부터 선거일까지 선거운동을 위하여 딥페이크 영상등을 제작·편집·유포·상영 또는 게시할 수 없다.”라며 “다만, 부칙에 따라 공포 후 1개월이 경과한 오는 29일부터 금지된다.”라고 밝혔다. 

모니터링 역시 강화한다. 선관위는 변화된 선거환경에 선제적으로 대응하기 위해 허위사실공표·비방특별대응팀을 확대 편성·운영한다. 이에 따라 11일부터 AI 감별반을 조기 편성해 운영하고, 각 시도 선관위에 AI 모니터링 전담요원을 2~3명씩 확대해 운영한다.

이번 선관위의 조치는 전 세계적으로 AI가 민주주의에 악영향을 미칠 것이라는 우려가 나오는 가운데 시행되었다. 세계 각국이 대대적인 선거를 앞둔 2024년에 사실적인 영상과 음성을 만들어낼 수 있는 딥페이크, 딥보이스와 같은 AI 기술이 민주주의의 위협으로 다가오고 있다. 

뉴욕타임즈는 올해 세계 각지에서 전 세계 총인구의 약 절반에 해당하는 40억 명이 투표를 치르게 되며 이는 앞으로 수십 년 동안 세계가 어떻게 운영될지 영향을 미칠 중요한 민주적 행사라고 9일 짚었다. 

중국의 위협에 맞서고 있는 대만은 오는 13일 총통선거를 앞두고 있으며 6월에는 유럽의회 선거, 11월에는 미국 대선이 예정되어 있다. 또 인도, 인도네시아, 파키스탄 등 세계에서 가장 많은 인구를 지닌 국가들, 전쟁 중인 우크라이나와 러시아, 그리고 남아공, 멕시코와 같은 주변국에 영향을 미치는 국가에서도 올해 선거가 예정되어 있다.

하지만 뉴욕타임즈는 “선거를 부정하는 근거 없는 주장은 민주주의에 대한 신뢰를 무너뜨렸으며, 다른 국가의 양극화된 국내 문제를 표적으로 영향력을 행사하는 국가들도 존재한다.”라며 “AI가 허위정보 유포와 현실에 대한 왜곡된 인식을 더욱 강화하는 와중에 주요 소셜 미디어 기업들은 안전장치를 축소하고 있다.”라고 우려했다. 특히 러시아, 중국, 이란 등 글로벌 거버넌스 모델로서 민주주의를 불신하는 정부에서 미국 대통령 선거를 포함해 다른 국가의 선거를 방해하기 위해 영향력을 행사할 가능성이 있다고도 전했다.

대럴 웨스트 브루킹스 연구소 연구원은 “거의 모든 민주주의는 기술과 무관하게 스트레스를 받고 있으며, 여기에 허위 정보가 더해지면 악용될 소지가 많아진다.”라며 이를 "완벽한 허위 정보의 폭풍"이라고 표현했다.

AI로 만들어진 허위정보가 실제로 투표에 영향을 미친 사례도 발생했다. 지난해 5월 튀르키예 대선에서는 테러단체 인사가 여당 후보를 지지하는 딥페이크 영상이 퍼져나갔지만, 선거가 끝나 에르도안 대통령이 재선하고 난 뒤에야 영상이 가짜라는 점이 밝혀졌다. 현지 언론들은 양 후보의 격차가 5%도 나지 않았다며, AI발 가짜뉴스가 선거에 치명적인 영향을 미칠 수 있다는 것을 보여주는 결과라고 전했다.

9월에는 슬로바키아에서도 유사한 사례가 나왔다. 선거 직전에 한 후보가 언론인과 대화하는 영상에 선거 조작에 대해 논의하는 가짜 대화를 딥보이스로 삽입한 영상이 유포된 것이다. 해당 영상은 선거를 48시간 앞둔 기간에 유포되어 후보는 해당 영상이 허위라고 반박할 수도 없었으며, 결국 집권당의 승리에 영향을 미친 것으로 분석된다.

영국에서는 지난 10월 제1야당인 노동당의 키어 스타머 대표가 직원에게 폭언하는 가짜 음성 파일이 AI 딥페이크로 만들어져 퍼져나갔다. 특히 노동당은 내년 총선에서 유리한 고지를 선점하던 상황이라 더욱 주목받았다. 이에 노동당 예비내각의 기술 및 디지털 장관인 알렉스 데이비스 존스 의원은 "선거 전날이나 당일에 이런 일이 발생하면 대응하기 힘들다는 점이 위협적이다."라고 우려하며 대책 마련을 촉구했다.

미국 정치권 역시 AI로 몇 차례 혼란을 겪었다. 지난해 3월에는 도널드 트럼프 전 대통령이 체포당하는 AI 생성 사진이 인터넷에 퍼져나갔다. 또 5월에는 미 국방부 청사 펜타곤에서 폭발이 일어나는 AI 생성 이미지가 소셜 미디어를 통해 퍼져나가며 주가가 하락하고 국방부와 소방서 등 관련 기관들이 사진이 조작된 것이라고 해명하며 진화에 나서기도 했다. 

4월에는 미국 공화당이 AI를 활용해 만든 조 바이든 비판 광고가 구설수에 올랐다. 광고에서는 조 바이든 대통령이 재선된 상황을 가정해 중국이 대만을 침공하고, 불법 이민자들이 국경을 넘어오고 범죄율이 급증하는 등 미국이 디스토피아가 되어가는 이미지를 생성 AI를 활용해 만들어냈다.

잇따르는 사례에 전 세계 정치권에도 AI 딥페이크 기술에 주목하며 대책 수립에 나서고 있다. 미국의 경우 개별 주법이 아닌 연방법 단위로 딥페이크를 규제해야 한다는 주장이 나온다. 미국의 시민단체 ‘퍼블릭 시티즌’에 따르면 텍사스, 미시간, 워싱턴, 미네소타, 일리노이 등 5개 주에서만 딥페이크 규제법을 마련했을 뿐, 연방법 단위의 딥페이크 대책이 부재하다는 지적이 나온다. 

미국의 주요 빅테크도 AI의 정치적 악용을 막는 대책을 수립하고 있다. 구글은 지난해 9월에 미국 대선과 관련한 콘텐츠에 AI 기술이 사용될 경우 이를 표시하도록 하는 조치를 시행하기 시작했으며, 메타 역시 지난해 11월 광고주들이 정치 광고 제작에 생성 AI를 사용하는 것을 금지했다.

영국에서는 로버트 버클랜드 전 법무장관이 AI가 생성한 잘못된 정보를 두고 "명백하고 현존하는 위험"이라고 주장하며 빠른 조치를 촉구했다. 그는 “영국의 정책 입안자들이 강력하고 효과적인 국내 가드레일 세트와 국제적 노력의 필요성에 대해 어느 정도 리더십을 보여주지 않는 한, 우리는 뒤쳐지게 될 것이다.”라고 촉구했다. 이에 따라 미셸 도넬란 과학부 장관은 “정부는 AI 위협을 심각하게 받아들이고 있으며, 다음 총선까지 이러한 주제를 다룰 수 있는 강력한 메커니즘이 마련될 것으로 기대한다.”라고 밝혔다.

나렌드라 모디 인도 총리는 지난해 11월 딥페이크 제작을 위한 인공지능의 오용을 문제삼으며 언론이 대중들에게 딥페이크에 대해 적극적으로 알리도록 요청했다. 모디 총리는 “인공지능을 통해 생성된 딥페이크로 인해 새로운 위기가 나타나고 있으며, 사회적으로 검증 시스템은 아직 갖추어지지 못했다.”라며 미디어가 이에 대해 알리고, 담배와 같은 제품에 건강 경고가 표시되는 것처럼 딥페이크에도 정보 공개가 포함되어야 한다고 촉구했다. 이에 따라 인도 정부는 총선 이전에 딥페이크 악용을 근절하기 위한 계획을 도입할 예정이다.