가짜 영상으로 악용될 수 있는 딥페이크(deepfake) 기술 단속이 본격화되고 있다.

지난 14일 딥페이크 기술을 적용한 영화 백투더퓨처(Back To The Future)의 한 장면이 공개됐다. 영상에서 본래 등장하는 배우 대신 합성된 배우가 실제 연기하는 것처럼 보이자 네티즌들은 놀란 반응에 이어 악용되지 않도록 단속이 시급하다는 목소리를 냈다. 

실제 영상이라고 착각할 만큼 정교한 기술에 페이스북, 유튜브, 트위터는 잇따라 딥페이스 영상 단속에 나섰다. 의도적으로 조작된 사진이나 영상에는 가짜라는 표시를 붙여 혼란을 줄이겠다는 취지다. 

페이스북은 올해 초 페이스북 내 딥페이크 영상 게시를 금지한다고 밝혔다. 페이스북은 “허위 조작영상이 늘면서 산업계와 사회에 중대한 위기를 가져오고 있기 때문”이라며 게시될 시 삭제조치 하겠다고 밝혔다. 게시가 금지되는 콘텐츠의 조건으로는 “보통사람들이 알아챌 수 없는 방식으로 편집되고 합성된 영상으로, 영상의 주인공이 실제로 하지 않는 말을 한 것처럼 믿게 만드는 영상”이라고 규정했다. 

유튜브는 올해 미국 대선을 앞두고 조작된 선거관련 동영상을 삭제할 방침이라고 밝혔다. 유튜브는 “사용자를 오도하고 심각한 위해를 초래할 수 있는 기숙적으로 조작된 콘텐츠를 금지한다”고 설명했다. 

트위터 역시 3월 5일부터 딥페이크 등 정교하게 조작된 영상과 사진을 삭제하거나 별도의 표기를 붙일 예정이다. 트위터는 ▲합성·조작여부 ▲콘텐츠 의도 ▲피해유발 가능성 등 3가지를 기준으로 위반 여부를 판단한다. 

국내에서도 딥페이크 영상 단속에 나서고 있다. 지난해 연예인의 얼굴을 음란물에 합성하는 등 딥페이크 기술 악용이 논란을 일으키면서, 이를 처벌하는 법안이 발의된 상태다.

해당 법안에는 인공지능 기술을 이용해 사람의 음성이나 얼굴 신체를 합성함으로써 성적 욕망 또는 수치심을 유발하는 영상 등을 제작하는 사람은 5년 이하의 징역 또는 5천만원 이하의 벌금에 처한다는 내용이 담겼다. 또한 제작은 물론 유포를 하는 이에게도 처벌하도록 했다.

경찰도 4.15 총선을 앞두고 딥페이크 유포 단속에 나섰다. 지금까지 경찰에 적발된 선거사범의 약 29%는 흑색선전이며 딥페이크를 이용한 선거범죄가 적발된 사례는 없다. 

경찰은 그러나 최근 몇 년 사이 가짜뉴스가 확산함에 따라 딥페이크를 이용한 선거범죄가 발생할 가능성이 있다고 보고 단속을 강화하고 있다.