[이코리아] 페이스북, 유튜브 등 소셜 미디어 플랫폼이 AI를 활용해 폭력적인 유해 콘텐츠를 자동으로 삭제하면서 공익을 위해 게시된 전쟁 범죄와 인권 침해의 증거도 함께 삭제되고 있다는 주장이 나온다.

BBC는 잠재적인 인권 침해에 대한 증거가 기술 기업에 의해 삭제된 후 사라지고 있다고 1일 보도했다. 많은 플랫폼이 AI를 유해하고 불법적인 콘텐츠를 대규모로 삭제하는데 활용하고 있는데, AI는 단순히 선정적일 뿐인 유해 영상과 인권침해를 고발하는 공익적 영상의 맥락을 구분하지 못하고 있다는 지적이다. 이 때문에 가해자에게 책임을 물을 수 있는 증거들이 유해콘텐츠로 몰려 파괴되고 있다고 BBC는 전했다.

BBC는 전직 여행 저널리스트 이호르 자카렌코의 사례를 전했다. 러시아의 우크라이나 침공 이후 우크라이나에서 활동하며 민간인에 대한 공격을 기록하던 이호르는 불에 탄 시신과 같은 전쟁 범죄 증거를 수집해 이를 전 세계가 확인할 수 있도록 페이스북과 인스타그램에 게시해 왔다. 하지만 영상들은 게시되자마자 순식간에 삭제되었다.

BBC는 이호르의 영상을 받아 이를 인스타그램과 유튜브에 다시 게시했다. 하지만 인스타그램은 1분 만에 영상들을 삭제했으며, 유튜브는 영상에 연령 제한을 적용했다가 이후 모든 영상을 삭제했다. 전쟁 범죄의 증거가 포함되어 있다는 이유로 동영상을 복원해 달라는 요청 역시 기각되었다.

시리아에서 약국을 운영하던 이마드의 사례도 있다. 그는 2013년 시리아 정부의 폭발물로 다수의 사상자가 발생했던 현장에 있던 피해자다. 현지 방송국이 그의 모습을 포착해 영상은 소셜 미디어에 게시되었지만, 이후 유튜브와 페이스북은 해당 영상을 삭제했다. 이 때문에 그는 난민 신청 과정에서 자신이 시리아 정권의 전쟁 범죄 피해자라는 사실을 입증하기 힘들어졌다고 BBC와의 인터뷰에서 호소했다.

이와 같은 사태에 대응하기 위해 영상을 보존하는 단체도 있다. 베를린에 소재한 인권단체 ‘니모닉’은 시리아를 시작으로 예멘, 수단, 우크라이나 등 전 세계의 분쟁 지역에서 인권 침해 증거를 자동으로 내려받아 저장하는 도구를 개발했다. 이들은 소셜 미디어에서 삭제되기 전에 70만 개 이상의 이미지를 내려받아 저장했다. 하지만 민간 인권단체들이 전 세계의 모든 분쟁 지역에서 게시되는 게시물을 확인하기는 힘든 실정이라는 지적이 나온다.

인권 운동가들은 이런 식으로 삭제된 콘텐츠를 수집하고 안전하게 보관할 수 있는 공식적인 시스템이 시급히 필요하다고 주장하고 있다. 베스 반 샤크 미국 국제형사재판소 대사는 "향후 잠재적인 책임 추궁을 위해 해당 정보를 보존할 수 있는 체계를 만들어야 한다. 또 소셜 미디어 플랫폼 역시 이에 협력해야 한다."라고 말했다.

이에 대해 메타는 “전 세계 법 집행 기관의 유효한 법적 요청에 대응하고 있으며, 법적 및 개인정보 보호 의무에 따라 국제적 책임 절차를 지원하기 위한 추가 방법을 계속 모색하고 있다."라고 답변했다. 또 유튜브는 공공의 이익을 위한 그래픽 콘텐츠에 대한 예외 조항이 있기는 하지만, 자신들의 플랫폼은 아카이브가 아니라고 반박했다.

소셜 미디어에서 인권 침해의 증거가 삭제되고 있다는 비판은 이전에도 제기되었다. 국제인권감시기구 휴먼라이트워치에 따르면 유튜브는 우크라이나 전쟁이 시작된 이후 전쟁과 관련된 9,000개의 채널을 플랫폼에서 삭제했다.

휴먼라이트워치는 지난 2020년 10월 ‘"동영상을 사용할 수 없음", 소셜 미디어 플랫폼이 전쟁 범죄의 증거를 삭제하다’(“Video Unavailable” Social Media Platforms Remove Evidence of War Crimes)라는 보고서를 내놓았다.

휴먼라이트워치는 가해자, 피해자, 학대 목격자 등이 게시한 소셜 미디어 콘텐츠, 특히 사진과 동영상은 국제형사재판소(ICC)와 유럽의 국가 소송을 비롯한 일부 전쟁 범죄 및 기타 국제 범죄 기소의 핵심 자료가 되고 있다고 주장했다. 또 이러한 콘텐츠는 미디어와 시민 사회가 시리아의 화학무기 공격, 수단의 보안군 진압, 미국의 경찰 학대 등 잔혹 행위 및 기타 학대를 기록하는 데도 도움이 된다고 말했다.

하지만 소셜 미디어 회사들은 AI를 활용해 자사 규정이나 커뮤니티 가이드라인 또는 서비스 약관에 따른 기준을 위반하는 게시물을 플랫폼에서 영구적으로 삭제하는 노력을 강화하고 있는데 이 과정에서 법 집행 기관이 기존에는 공개 영역에 있었던 중요한 정보와 증거를 놓칠 가능성이 높아지고 있다고 지적했다.

휴먼라이트워치는 기업이 폭력을 선동하거나, 개인에게 해를 끼치거나, 국가 안보 또는 공공 질서를 위태롭게 할 수 있는 콘텐츠를 즉시 삭제할 권리가 있지만, 삭제한 콘텐츠를 보존하고 보관해 국제 범죄 수사관들이 이용할 수 있도록 하는 시스템을 구축해 이를 보완해야 한다고 주장했다. 

또 소셜 미디어 플랫폼은 알고리즘 사용 확대 등을 통해 게시 중단 과정을 더욱 투명하게 공개하고, 알고리즘이 지나치게 광범위하거나 편향되지 않도록 하며, 콘텐츠 게시 중단에 대해 이의를 제기할 수 있는 의미 있는 기회를 제공해야 한다고 덧붙혔다.

2022년 5월에는 미국의 국회의원들이 메타, 틱톡, 트위터, 유튜브 등 주요 소셜 플랫폼 기업의 최고 경영자들에게 우크라이나 전쟁 범죄의 증거가 될 수 있는 콘텐츠를 플랫폼에 보존하고 보관할 것을 촉구했다. 

캐롤린 말로니, 스티븐 린치, 그레고리 믹스, 빌 키팅 등 4명의 의원은 기업들에 서한을 보내 우크라이나의 전쟁 범죄 및 인권 침해의 증거가 될 수 있는 콘텐츠와 이 콘텐츠와 관련된 메타데이터를 보존하고, 관련 개인정보 보호법에 따라 국제 인권 조사관이 이 콘텐츠에 액세스할 수 있도록 할 것을 요청했다.