[이코리아] 오픈 AI가 '챗 GPT'를 바탕으로 개발되던 미국 민주당의 대선 후보 딘 필립스 하원의원을 모방한 챗봇 ‘딘 봇(Dean.Bot)’의 개발을 중지시켰다. 이번 조치는 오픈 AI가 자사의 AI 도구를 정치적으로 활용하는 것에 적극적으로 대응한 첫 번째 사례가 되었다. 

딘 봇은 뉴햄프셔 예비선거를 앞두고 딘 필립스 의원의 후원단체인 '위 디저브 베터(We Deserve Better)‘가 AI 스타트업 델파이와 계약을 맺어 챗 GPT를 기반으로 개발했다. 웹사이트를 통해 딘 필립스 의원을 모방하는 AI가 유권자와 실시간 대화를 나눌 수 있도록 개발되었다. 개발에 참여한 지지자들은 딘 봇이 적절하게 사용될 경우 유권자들이 후보자에 대해 더 많은 것을 알 수 있는 재미있는 방법을 제공한다고 설명했다.

오픈 AI는 19일 AI의 정치적 오용을 막기 위해 델파이의 계정을 정지시켰고, 딘 봇 역시 삭제했다. 오픈 AI 대변인은 "우리 회사의 도구를 활용해 프로그램을 개발하는 사람은 누구나 우리의 사용정책을 따라야 한다."라며 "우리는 최근 정치 캠페인을 허용하지 않는 정책을 고의로 위반하거나 동의 없이 개인을 사칭한 개발자 계정을 삭제했다."라고 밝혔다.

오픈 AI는 이에 앞서 지난 15일 챗 GPT와 같은 자사의 AI가 각종 선거 결과에 악영향을 미치는 것을 방지하는 ‘허위정보 방지 대책’을 발표한 바 있다. 

해당 대책에는 자사의 AI를 활용해 정치 캠페인과 로비를 위한 애플리케이션을 만드는 것과 선거 후보자, 지방정부인 것처럼 가장하는 챗봇을 제작하는 것을 금지한다. 투표 절차 및 자격에 대해 잘못된 정보를 퍼뜨리거나 투표가 무의미하다고 주장하는 등 사람들이 민주적 절차에 참여하지 못하도록 방해하는 애플리케이션의 개발 역시 금지된다. 

또 대화형 챗봇 챗 GPT가 선거와 관련된 대화에 응답하지 않도록 차단하는 것과 이미지 생성 AI인 달리 (DALL-E)가 생성하는 선거 관련 이미지에 워터마크를 삽입하는 조치 역시 포함된다.

오픈 AI는 블로그를 통해 “2024년 세계 최대 민주주의 국가 미국에서 진행되는 선거를 준비하면서 정확한 투표 정보를 제공하고, 신중한 정책을 시행하며, 투명성을 개선함으로써 플랫폼 안전 작업을 지속할 것이다.”라며 “우리는 여러 팀의 전문성을 모아 잠재적인 악용 사례를 신속하게 조사하고 해결하기 위해 선거 업무에 전념하는 부서 간 협력 체계를 갖추고 있다.”라고 밝혔다.

다른 기술기업들도 자사 AI의 정치적 악용을 막기 위한 대책을 내놓고 있다. 구글은 지난해 9월에 AI로 만들어진 정치 광고에는 시청자가 AI 생성의 결과물이라는 것을 알아볼 수 있도록 광고주가 '이 영상은 AI로 생성되었다.'나 '이 이미지는 실제 사건을 묘사하지 않는다.'와 같은 문구를 추가하도록 하는 규정을 추가했다. 또 12월에는 대통령 선거 시점까지 자사의 챗봇 바드의 선거와 관련된 질문에 대한 응답을 차단하도록 했다.

메타 역시 가짜뉴스 방지에 총력을 가한다. 메타는 지난해 11월 블로그를 통해 2024년 미국 대선을 비롯한 여러 주요 국가와 EU의 선거에 체계적으로 대비하고 있다고 밝혔다. 메타는 올해부터 광고주는 AI 또는 기타 디지털 기술을 사용하여 정치 또는 사회 문제 광고를 만들거나 변경하는 경우에 투명하게 공개해야 한다고 밝혔다. 또 미국 선거 캠페인 마지막 주에는 새로운 정치, 선거, 사회 문제와 관련된 광고를 차단한다고 밝혔다. 

이에 더해 일반 사용자들이 게시하고 공유하는 콘텐츠 역시 메타의 정책을 위반한다면 적극적으로 삭제 조치를 취할 것이며, 선거 또는 여론에 영향을 미칠 수 있는 내용, 차별과 폭력 등을 조장하는 내용이 AI를 통해 콘텐츠에 포함된다면 메타가 나서서 이를 삭제할 것이라고 밝혔다.

이렇게 주요 기술기업들이 AI의 정치적 악용을 방지하기 위한 총력전을 벌이는 이유는 전 세계적으로 AI가 민주주의에 악영향을 미칠 것이라는 우려가 나오기 때문이다. 

실제로 지난해에 튀르키에, 슬로바키아에서는 AI로 만들어진 가짜 콘텐츠가 선거에 영향을 미친 사례가 나왔다. 튀르키에 대선에서는 테러단체 인사가 여당 후보를 지지하는 딥페이크 영상이 퍼져나가 에르도안 대통령의 재선에 영향을 미쳤으며, 슬로바키아에서는 야당 후보가 선거 조작에 대해 논의하는 가짜 대화를 딥보이스로 삽입한 영상이 유포되어 집권당의 승리에 영향을 미쳤다.

뉴욕타임즈는 올해 세계 각지에서 전 세계 총인구의 약 절반에 해당하는 40억 명이 투표를 치르게 되며 이는 앞으로 수십 년 동안 세계가 어떻게 운영될지 영향을 미칠 중요한 민주적 행사라고 짚었다. 

오는 4월 총선을 앞둔 한국에서도 29일부터 AI를 활용한 정치 광고가 금지된다. 지난 9일 선관위는 선거를 앞두고 AI 기반 딥페이크 영상 등을 이용한 선거운동을 규제하고 허위사실공표·비방특별대응팀과 시도 선관위 소속 AI 모니터링 전담요원을 확대 운영한다고 밝혔다.

또 선관위는 18일에는 딥페이크영상 등을 이용한 선거운동 관련 법규 운용기준을 마련했다. 기준에 따라 누구든지 선거일 전 90일부터는 선거운동을 위해 AI 등으로 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등(이하 ‘딥페이크 영상등’)을 제작·편집·유포·상영·게시할 수 없으며 이에 대한 위법행위 단속을 강화한다.

이와 함께 선관위는 기술의 발달로 실제와 구분하기 어려운 가상의 영상을 누구나 쉽게 만들 수 있는 상황이 된 만큼, 유권자들도 선거공보나 후보자토론회 등 공식 선거운동방법과 신뢰성 있는 언론매체 등을 통해 종합적으로 후보자의 자질과 공약을 따져 볼 것을 유권자들에게 당부했다.