[이코리아] EU의 포괄적인 인공지능 규제법 인공지능법(AI Act)의 최종안이 현지시간 13일 본회의를 통과하며 공식 제정된다. 외신에 따르면 유럽의회는 프랑스 스트라스부르에서 개최된 본회의에서 인공지능법 최종안을 찬성 523표, 반대 46표, 기권 49표로 가결했다. 본회의를 통과한 인공지능법은 27개 회원국 장관의 승인을 거쳐 올해 연말부터 2026년까지 단계적으로 시행된다.

인공지능법은 지난 2021년 발의된 법안으로 모든 AI를 초래될 수 있는 위험에 따라 네 가지 등급으로 나누어 관리하는 것이 골자다. 특히 이중 가장 위험도가 높은 고위험 등급의 AI의 경우 AI 제조 기업에 위험관리 시스템을 구축하고 유지하는 등의 차등적인 의무를 부여한다.

챗 GPT와 같은 생성형 AI를 개발하는 기업이 어떤 자료를 언어모델 훈련에 사용했는지 공개해야 하며 딥페이크로 생성된 콘텐츠는 AI로 생성되었다는 점을 표기하도록 한다. 또 AI를 활용한 생체인식 식별 시스템 등의 사용은 금지된다.

금지 조항 위반 시 3천만 유로(약 430억 원) 또는 전년도 총매출액의 6%를 벌금으로 부과하게 된다.

유럽의 ICT 기업들은 유럽 각국의 규제가 일원화된 것을 환영하면서도 우려를 드러냈다. 유럽 디지털 업계의 이익단체 ‘디지털유럽’은 인공지능법이 가결된 직후 성명서를 발표했다.

세실리아 본펠드 달(Cecilia Bonefeld-Dahl) 디지털유럽 사무총장은 “우리는 27개가 아닌 하나의 규칙을 가지게 된 것을 기쁘게 생각한다.”라며 “그러나 인공지능법은 유럽의 기업에 유럽 이외의 기업이 갖지 않는 추가적인 부담을 지울 것이다.”라고 우려했다.

또 법안에서 고위험 AI로 분류하는 분야의 성장이 위축될 수 있다는 점도 우려했다. 특히 의료 AI 분야를 대표적인 예시로 지목했다. 그녀는 “AI 기반 음성 인식을 사용하여 의료 전문가가 찰나의 생명을 구하는 결정을 내릴 수 있도록 돕는 덴마크 스타트업 ‘Corti’나 스캔에서 암을 발견하기 위해 AI를 사용하는 헝가리 스타트업 ‘OnCompass’와 같은 회사는 이미 미국에서 사업을 확장하고 있다. 이 보석들이 유럽을 떠나는 것을 어떻게 막을 수 있는가?”라며 뛰어난 AI 스타트업 기업이 유럽에서 사업을 지속하도록 규제를 완화해야 한다고 주장했다. 

또 이를 위해서는 유럽의 GDPR, 데이터법 등 서로 꼬여 중복되는 ICT 분야 규제를 해결하고 세계 각국의 AI 지침에 공통된 답을 찾아 동일한 AI 표준을 따르도록 하며 AI 스타트업에 대한 투자를 늘리고 세금 인센티브를 조정해야 한다고 강조했다.

한편 생성형 AI를 개발하는 기업이 어떤 자료를 언어모델 훈련에 사용했는지 공개해야 한다는 조항에 대한 반발도 나온다.

유럽의 주요 기업들은 지난해 7월 해당 조항에 대해 반대하는 공개서한을 냈다. 서한에는 지멘스, 르노, 까르푸, 에어버스 등 유럽소재의 163개의 기업 관계자가 참여했으며 얀 르쿤, 헤르만 하우저 등 유럽 지역의 기술 전문가들도 참여했다.

서한은 인공지능법이 과도한 규제로 현재 유럽이 직면하고 있으며 앞으로 직면하게 될 도전과제를 효과적으로 해결하지 못한 채 유럽 AI 산업의 경쟁력과 기술 주권을 위태롭게 할 것이라고 주장했다. 또 혁신성이 뛰어난 기업들이 해외로 활동을 이전하고, 유럽 지역의 AI 개발 투자가 위축될 것으로 우려했다.

반대의 목소리에도 불구하고 최종안에 해당 조항이 포함되면서 유럽 지역 생성 AI 기업의 행보에 관심이 쏠린다.

한편 EU는 법안이 통과된 직후 현지시간 14일 빅테크의 생성 AI 활용과 딥페이크 관련 조치 대한 조사를 시작했다. 마이크로소프트, 메타, 틱톡, 스냅, X 등의 기업이 그 대상이며 해당 기업들이 소비자를 대상으로 출시한 생성 AI 도구의 위험성을 어떻게 관리할지에 중점을 맞췄다. 이번 조사는 올해 여름 유럽의회 선거를 앞두고 시작되었으며, 기업들은 오는 4월 5일까지 AI 도구가 선거와 관련된 잘못된 정보를 퍼뜨리는 것을 방지하기 위해 어떤 조치를 취할 것인지 위원회에 답변해야 한다.

EU 집행위원회 관계자는 “위원회는 이들 서비스에 AI가 허위 정보를 제공하는 이른바 '환각현상'과 딥페이크의 유포, 유권자를 오도할 수 있는 서비스의 자동 조작 등 생성형 AI와 관련된 위험에 대한 각자의 완화 조치에 대한 자세한 정보를 제공하도록 요청하고 있다.”라고 밝혔다.