[이코리아] 미국에서 기업과 공공기업들의 지나친 AI 의존을 경고하는 보고서가 나왔다. 최근 유해 콘텐츠 차단이나 행정처리에 AI를 활용하는 기업과 공공기관이 늘면서, 부작용도 다양해지고 있기 때문이다.

◇FTC 국장 “AI 도구, 편향·차별적일 수 있다”

미국 연방거래위원회(FTC)는 지난 16일 보고서 ‘혁신을 통한 온라인 피해 해결’을 자국 의회에 제출했다. 온라인상에서의 문제를 해결할 때 인공지능에 의존할 경우 나타나는 폐해들을 담고 있다.

FTC는 기업과 정책 입안자들이 유해 콘텐츠 차단이나 행정처분에 AI를 활용하는 것을 자제해야 한다고 경고했다. 유해 콘텐츠 유형으로는 허위리뷰, 사기, 혐오, 가짜뉴스 등이 있다.

이에 관해 FTC 사무엘 레빈 소비자보호국장은 “우리는 보고서에서 AI를 유해 콘텐츠 확산의 해결책으로 취급해서는 안된다고 강조했다”며 “AI 도구는 편향적이고 차별적일 수 있기 때문”이라고 밝혔다.

FTC는 AI 설계 결함에 따른 부작용을 우려했다. AI가 잘못된 데이터셋을 학습해 의도와 다른 결과를 도출하거나, 새로운 현상을 발견하면 오류를 일으킬 가능성이 있다는 설명이다.

또한 AI에 개발자의 편견이 반영될 수밖에 없는 점도 지적했다. 개발자의 성향에 따라 AI도 특정 계층을 차별하거나, 콘텐츠를 과도하게 차단하는 경우가 생길 것이라는 주장이다.

◇’활용하면 편하다’ AI에 익숙해진 기업·공공기관들

FTC는 기업과 공공기업이 AI로 유해 콘텐츠를 차단하는 행위를 노력으로 인정한다면, 의존도가 더 커질 것이라는 입장이다.

세계 각국에서는 AI의 새로운 용도를 계속해서 발굴하고 있다. 일본 소비자원은 코로나19 예방 효과가 있다는 허위광고 제품을 판매 중인 웹사이트를 찾기 위해 AI를 활용한다.

폴란드의 소비자보호국은 기업과 소비자 간 계약에서 불법 조항을 자동 감지하는 AI를 개발 중이다. 오스트리아 정부는 사칭 사이트 탐지 AI 개발에 자금을 지원했다.

기업들의 활용사례도 다양하다. 미국 페이스북은 사기 관련 콘텐츠의 노출을 줄이는 데 AI를 도입했다. 구글과 마이크로소프트의 경우 피싱 메일과 스팸 콘텐츠를 차단할 때 적극 활용한다.

한국에서도 마찬가지다. 배달앱 사업자들은 ‘허위리뷰’를 탐지하고 삭제할 때 활용 중이다. 중고거래 플랫폼들은 술·담배 등 거래금지 품목들을 AI 모니터링으로 걸러낸다.

공공기관들 사이에서는 ‘AI 행정’ 바람도 불고 있다. 정부는 지난해 민원정보 서비스 ‘지능형 국민비서’, 출입국 시간 단축을 위한 ‘AI식별추적시스템’ 등을 구축했다. 올해는 AI로 지역사랑상품권 부정유통 의심사례를 탐지하는 시스템도 선보였다.

한편 전문가들 사이에서는 AI 활용으로 인한 부작용을 예방하려면 ‘설명가능성’에 관한 규제가 이뤄져야 한다는 의견이 나온다. 설명가능성이란 인공지능이 내린 결정에 대해 사람이 납득할 수 있도록 설명하는 것이다.