[이코리아] 세계 각국이 AI 법제화에 분주하다. 관련 시장이 빠르게 성장하고 있는 만큼, 이를 뒷받침하고 부작용을 억제할 관련 법안의 제정은 필수적이기 때문이다.

국내 현황부터 살펴봤다. 한국법학원이 지난 4월 내놓은 '21대 국회 인공지능 관련 법안 현황 및 쟁점'에 따르면 21대 국회에서는 AI와 관련된 법안이 총 12건이 발의되었다. 이 중 7개의 법안이 2023년 2월 14일 법안소위에서 과학기술정보통신위원장 대안으로 처리하기로 합의하여 입법을 앞두고 있다. 국내에서 발의된 관련 법안들은 대부분 산업육성과 인력양성에 초점을 맞춘 것이 특징이다. 

발의된 12건의 법안 중 국회를 통과해 입법까지 이루어진 법안은 아직 한 건도 없다. 그나마 지난 2월 7개의 법률안을 통합한 ‘인공지능산업 육성 및 신뢰 기반 조성에 관한 법률안’이 법안소위를 통과한 것이 전부다. 해당 법안은 인공지능의 육성을 도모하면서도 인공지능을 개발하고 제공하면서 지켜야 할 윤리적 원칙 등을 규정해 인공지능을 신뢰할 수 있는 기반을 마련하는 것을 목적으로 하는 법안이다.

해당 법안은 ‘우선 허용, 사후 규제’를 원칙으로 산업육성에 초점을 둔 법안이며, 고위험 인공지능에 대한 사후규제 역시 규정하고 있다. 하지만 민변, 정보인권연구소, 진보네트워크센터, 보건의료단체연합, 참여연대 등 시민단체들은 해당 법안이 안전과 인권에 미치는 인공지능의 위험을 규제할 수 있는 조항이 전무하며, 산업육성에만 초점이 맞추어져 있다고 비판하고 있다. 

법학원은 이런 비판에 대해 인공지능 기술을 산업영역에 적용하는 전 세계적인 추세에서 우리나라 인공지능 산업의 육성 필요성이 크므로 법안의 방향이 타당한 것으로 보인다고 밝혔다. 또 인공지능이 초래할 수 있는 위험과 부작용에 대응하기 충분하지 않다는 비판에 대해서는 이러한 사후 규제의 내용들도 기존 법률보다는 진일보한 내용이므로 최소한 위원회 대안의 규제라도 조속히 도입하는 것이 타당하다고 주장했다. 

법학원은 “인공지능산업 육성 및 신뢰 기반 조성에 관한 법률안”이 조속히 입법된다면 EU 인공지능법이 통과되지 않은 상황에서 세계 최초의 인공지능입법으로 평가될 수 있다고 짚었다. 또 사후규제의 내용이 충분하지 않지만 이러한 규제들도 인공지능을 법체계로 포섭하기 위한 진일보한 내용이므로 조속히 입법을 추진하는 것이 타당하다고 말했다. 다만 인공지능이 발생시키는 사고 및 위험에 대해서는 보다 명확한 책임문제 및 대응방안이 필요할 것이라고 덧붙혔다.

미국 의회도 AI 관련 법안 제정 준비에 한창이다. CNN은 미국 상원 의원들이 인공지능 규제 법안의 입법에 앞서 AI 분야에 대해 파악하기 위해 노력 중이라고 8일 보도했다. 상원 의원들은 규제 법안 발의에 앞서 챗 GPT와 같은 AI 도구가 사회 전반에 걸쳐 어떤 영향을 미칠 수 있는지 심층적으로 살펴보고 있다는 것이다.

척 슈머 상원 원내대표는 앞으로 몇 주 동안 브리핑을 개최해 AI 기술의 현주소, AI 개발 경쟁부터 미국 국가 안보 및 국방 기관이 이미 이 기술을 어떻게 활용하고 있는지에 이르기까지 다양한 주제에 대해 의원들과 논의할 예정이라고 6일 밝혔다. 이를 통해 의원들의 해당 분야에 대한 이해도를 심화시킨 뒤 포괄적인 인공지능법을 제정하겠다는 계획이다.

슈머 대표는 "상원은 이 시급한 주제에 대한 우리의 전문성을 심화시켜야 한다. AI는 이미 우리의 세상을 바꾸고 있으며, AI는 국가 안보부터 교실, 노동력에 이르기까지 모든 분야에 지대한 영향을 미칠 것이다."라고 밝혔다.

다만 CNN은 상원이 실질적으로 법안을 도입하기까지는 몇 달이 더 걸릴 것으로 관측되며, 이는 생성 AI를 받아들이는 업계의 빠른 투자 속도와는 대조적이라고 꼬집었다. 시민 사회 단체와 업계에서 AI의 부작용에 대한 보호 장치를 마련해야 한다는 긴급한 요구에도 불구하고 많은 의원이 여전히 AI 분야에 대해 제대로 파악하지 못하고 있다는 지적이다.

포괄적인 인공지능법 외에도 여러 관련 법안들이 미국 의회에 발의되고 있다. 로이터에 따르면 8일에는 미국 상원에서 초당적인 두 개의 AI 관련 법안이 발의되었다. 게리 피터스 민주당 상원 의원은 미국 정부 기관이 AI를 사용하여 국민과 소통할 때 이를 국민에게 알리도록 하는 법안을 발의했다. 

또 해당 법안은 기관이 AI가 내린 결정에 대해 사람들이 이의를 제기할 수단을 마련하도록 요구한다. 법안을 함께 발의한 마이크 브라운 의원은 "연방 정부는 AI 활용에 있어 선제적이고 투명해야 하며, 사람이 운전석에 앉지 않은 상태에서 결정이 내려지지 않도록 해야 한다."라고 밝혔다.

마이클 베넷 민주당 상원 의원은 미국이 AI 기술 개발에서 선두를 유지할 수 있도록 하는 ‘글로벌 기술 리더십 법’을 발의했다. 해당 법안은 중국과 같은 경쟁국과 비교하여 미국이 AI와 같은 핵심 기술에서 얼마나 경쟁력이 있는지 분석하는 기관을 설립하도록 한다. '글로벌 경쟁 분석실'로 명명된 해당 기관은 정보 커뮤니티, 국방부 및 기타 관련 기관의 전문가들로 구성되며, 정보 및 민간 부문의 상업 데이터를 모두 사용하여 이러한 평가를 수행하게 된다.

베넷 의원은 법안 요약에서 “국방부는 전함, 탱크, 항공기의 성능을 다른 국가와 비교하며 평가하지만, AI와 같은 핵심 기술에 대해서는 이에 상응하는 프로세스가 없다.”라고 밝혔다. 또 "반도체, 양자 컴퓨팅, 인공 지능과 같은 전략 기술 분야에서 중국과 같은 경쟁국에 경쟁 우위를 잃을 수는 없다."라고 말하며 해당 법안을 통해 미국의 경쟁력을 강화하고 정책 입안자들에게 정보를 제공하며 전략적 혁신에 대한 미국의 리더십을 강화할 수 있다고 주장했다.

유럽연합은 세계에서 가장 강도 높은 포괄적인 인공지능 규제 법안을 준비하고 있다. 해당 법안은 인공지능으로 인해 초래될 수 있는 위험을 ‘수용 불가능한 위험’, ‘고위험’, ‘제한된 위험’, ‘최소 위험’의 4단계로 나누어 관리한다. 또 AI 제조 기업에 위험관리 시스템을 구축하고 유지하는 등의 차등적인 의무를 부여하며 금지 조항 위반 시 3천만 유로(약 430억 원) 또는 전년도 총매출액의 6%를 벌금으로 부과한다.

유럽연합은 지난 2021년부터 인공지능법의 제정을 준비했다. 최근 챗 GPT와 같은 생성 AI가 부상하면서 모델 공급자가 편향 검증을 거친 데이터를 사용하도록 하고, AI의 훈련에 사용된 저작물의 정보를 공개하도록 하는 등의 조항을 추가했다.

유럽연합은 올해 안에 인공지능법을 통과시키는 것을 목표로 하고 있다. 다만 인공지능법의 제정이 완료되어 발효되기까지 많은 시간이 걸릴 것으로 예상되는 만큼, 입법 공백을 메꿀 방안도 함께 강구하고 있다.

미국과 유럽연합은 31일 AI의 위험성을 억제하는 'AI 행동강령'의 초안작업에 착수했다. 해당 강령에는 관련 업계와 외부기관의 의견이 반영되었으며, 수주 내 최종 초안을 마련할 예정이다. 마르그레테 베스타게르 EU 경쟁 담당 집행위원은 "생성 AI는 완전한 게임 체인저다. 업계가 적용할 수 있는 최종안을 신속히 확정할 수 있게 하겠다."라고 밝혔다.

토니 블링컨 미 국무장관은 "신기술이 등장할 때 마다 해당 기술이 사람들에게 영향을 미치는 시점과 정부가 규제방안을 마련하는 시점에는 격차가 생긴다. 이는 정부와 기관이 입법 또는 규제 방법을 파악하는 데 걸리는 시간이다." "생성 AI에 대해 조치를 취해야 할 긴급함을 느꼈고, 같은 생각을 가진 국가들에게도 행동 강령에 동참할 것을 요청할 것이다."라고 밝혔다.

한편 유럽연합은 AI로 생성된 가짜 뉴스와 허위 정보를 방지하기 위한 행동에도 나섰다. 5일 유럽연합은 구글, 페이스북 등 주요 소셜 미디어 기업에 AI로 생성된 이미지라는 것을 사용자들이 알아볼 수 있도록 표시하라고 촉구했으며, 새로운 ‘디지털 콘텐츠법(DSA)’을 준수하지 않을 경우 신속한 제재에 직면할 것이라고 경고했다. 

8월 25일부터 시행되는 디지털 콘텐츠법은 온라인 플랫폼을 통해 허위정보나 혐오발언들이 무차별 확대 재생산되는 것을 방지하기 위한 법안으로, 소셜미디어가 유해 콘텐츠를 걸러내지 못할경우 글로벌 매출의 6%까지를 벌금으로 부과한다.

베라 주로바 유럽위원회 부위원장은 "기업들은 악의적인 행위자가 허위 정보를 만들어내는데 자신들의 서비스를 이용할 수 없도록 안전장치를 만들어야 한다. AI가 생성한 콘텐츠를 사용자들이 알아볼 수 있도록 즉시 표시하라."라고 촉구했다. 

중국도 올해 안에 자체적인 인공지능 규제를 마련할 예정이다. 사우스차이나모닝포스트는 중국이 AI 기술에 대한 새로운 규제를 도입하는 데 있어 세계를 선도하기 위해 움직이고 있으며, 올해 안에 중국 인공지능 법 초안이 의원들의 검토를 받게 될 것으로 예상된다고 8일 전했다.

최근 중국을 방문한 일론 머스크 테슬라 CEO 역시 중국 정부가 인공지능 규제에 착수할 것이라고 언급했다. 로이터에 따르면 머스크는 5일 민주당 대선 후보인 로버트 F. 케네디 주니어와 트위터 음성 채팅 서비스 '스페이스'를 통해 이와 같이 언급했다. 머스크는 "주목할만한 것은 최근 중국 방문 때 중국 고위 관료들과 AI의 리스크와 일부 감독 또는 규제에 대해 매우 생산적인 대화를 나눴다는 것이다." "대화를 통해 내가 이해한 바로는 중국이 AI 규제를 시작한다는 것이다."라고 밝혔다.

중국은 지난 4월에는 챗GPT와 같은 생성 AI 서비스를 대상으로 하는 새로운 규칙의 초안을 공개했다. 규정에 따르면 AI의 제조사는 생성 AI의 훈련에 사용되는 데이터의 합법성에 책임을 지고, 알고리즘 설계와 데이터 훈련 시 차별을 방지하고 허위 정보의 생성을 방지하는 조치를 취해야 한다.

또 서비스 이용자는 반드시 실명을 사용해야 하며, 모든 회사는 제품 출시 이전에 보안 평가를 실시해 그 결과를 당국에 제출해야 한다. AI가 사회주의 가치를 담도록 하는 내용도 포함되어 있다.