[이코리아] AI 기반 서비스의 부작용이 제기됨에 따라 최근 국내외에서 규제 논의가 활발하다.

미국 상·하원 의원들은 알고리즘 책임법안을 지난달 발의했다. 의회에 계류 중이었던 같은 이름의 법안을 보완한 것이다. 편향·차별 위험이 있는 AI 알고리즘을 개발하는 기업의 책임을 강화해야 한다는 취지다.

알고리즘이란 어떤 문제를 해결하기 위한 절차, 방법, 명령어들의 집합이다. 개발자가 설계한 대로 결과를 도출하기 때문에 부작용은 늘 따라붙는 문제였다.

‘필터 버블’은 AI 알고리즘의 문제점을 잘 보여주는 예다. AI가 이용자의 습관을 학습하고, 입맛에 맞는 콘텐츠만 소비하도록 추천하는 ‘개인화 추천 서비스’의 폐해로 꼽힌다.

미국 시민단체 무브온의 엘리 프레이저 이사장은 인터넷 이용자들이 필터 버블을 항상 경계해야 한다고 주장한다. 그는 구글·페이스북 등에서 필터 버블을 겪으면서, 개인화 콘텐츠를 의심할 필요성을 느꼈다.

미국 상·하원 의원들은 알고리즘 시스템 확산에 따른 오류와 편향성을 예방하기 위해 법안을 발의했다. 알고리즘이 어떻게 작동하는지 이용자들에게 투명하게 공개하는 등 사전에 정보를 제공하도록 규제하는 내용이 담겼다. 

미국 알고리즘 책임법안의 의의에 대해 한국지능정보사회진흥원은 지난 11일 보고서를 통해 “다양한 분야에서 인공지능 및 알고리즘 활용이 증가하고 국민 일상에 영향을 주는 중요한 의사결정 분야에서도 인공지능 사용이 예상된다”며 “서비스 이용자들의 존엄성 보호를 위한 입법이 필요하다”고 설명했다.

그러면서 “제정될 경우 연방거래위원회가 빅테크 기업들을 규제하는 규정을 공포할 수 있다”며 “시민단체들은 빅테크 기업들에 알고리즘에 의한 편경 및 차별을 예방할 의무가 있다는 점에서 강력하게 지지하고 있다”고 덧붙였다.

국내의 경우 AI 관련 법안이 21대 국회에서 총 8건 발의됐지만 모두 지지부진한 상황이다. 국내 법안들은 대체로 미국과 유럽의 규제 수위에 발맞추고 있다.

가장 최근 발의된 법안을 살펴보면 국무총리 산하에 관련 정책을 수립하는 고위험인공지능심의위원회를 설치할 수 있도록 하는 조항이 명시됐다. 또한 이용자 보호를 위해 설명요구권·이의제기권·거부권 등을 보장한다는 내용도 포함됐다.

해당 법안을 대표발의한 더불어민주당 윤영찬 의원은 “AI 알고리즘을 이용한 서비스가 이용자의 권리를 제약하고 차별할 우려가 있다는 지적이 꾸준히 제기된다”며 “지능정보화기본법에도 불구하고, 다음 세대를 이끌어갈 AI 알고리즘에 대한 법률이 없어 제정할 필요가 있다”고 밝혔다.

AI 알고리즘 관련 입법 추진은 향후에도 진통이 예상된다. 차기 정부를 지휘할 국민의힘 윤석열 대통령 당선자 측이 규제 완화에 초점을 두고 있기 때문이다. 현재 국회에 계류 중인 모든 관련 법안은 더불어민주당 의원들이 주도해 발의했다.