[이코리아] 빅테크 기업들이 AI 경쟁에 몰두하면서 AI의 부정적인 측면에 대해 연구하는 윤리 연구자들을 해고하고 윤리팀을 축소하고 있어 논란이 일고 있다. 워싱턴포스트, 파이낸셜타임즈, 포춘 등 다수의 외신들이 이와같은 현상에 대해 우려하는 보도를 최근 내놓았다.

아마존이 보유한 게임 생방송 플랫폼 트위치는 자사의 알고리즘이 여성과 유색인종에 대해 편향성을 드러내며 성차별과 인종차별적 괴롭힘이 만연해 있다는 지적에 대응하기 위해 ‘책임감 있는 AI팀’을 운영해 왔다.

해당 팀은 자사의 추천 알고리즘의 편향성을 조사해 성차별과 인종차별이 발생하지 않도록 조사하는 역할을 했다. 하지만 지난주에 트위치는 대규모 감원을 하는 과정에서 책임감 있는 AI팀의 구성원들을 해고하거나 다른 팀으로 이동시켰다.

해당 팀에서 근무하다가 해고된 전 직원은 워싱턴포스트와의 인터뷰에서 “우리는 모든 배경을 가진 스트리머에게 더 공평하고 안전한 트위치를 만들고 싶었다. 트위치의 이번 해고는 큰 퇴보다.”라고 비판했다.

기술 기업이 AI 윤리 담당 인력을 감축한 또 다른 사례로는 마이크로소프트가 있다. MS는 지난해 10월 30명이던 AI 윤리사회팀의 규모를 7명으로 축소했는데, 최근에는 윤리사회팀을 완전히 해체한 것으로 드러났다.

윤리사회팀은 엔지니어, 디자이너, 철학자 등으로 구성되어 인공지능으로 인해 발생할 수 있는 잠재적 피해를 예측하고, 오픈 AI의 기술을 MS의 기술과 통합하는 과정에서 위험성을 평가하는 역할을 담당했다.

MS의 윤리사회팀 해체에 대해 플랫포머는 “이번 결정은 ‘책임있는 AI 원칙과 제품 설계가 밀접하게 엮이도록 노력한다’라는 MS의 약속에 의문을 제기한다.”라고 지적했으며, 포춘지는 “MS는 윤리사회팀을 해체하면서 ‘광적인 경쟁의 시기’에 성가신 마찰을 제거했다. 국민과 전문가 모두가 이에 대해 우려하고 있다.”라고 꼬집었다.

이 외에도 메타는 지난 9월 인스타그램과 페이스북에서 인권과 윤리에 대해 평가하는 임무를 맡은 20여 명의 기술자와 윤리학자로 구성된 책임 있는 혁신 팀을 해산했다. 또 트위터 역시 지난해 11월 일론 머스크의 인수 이후 대규모 감원 속에서 소규모의 윤리적 AI 팀들이 해체되었다.

워싱턴포스트는 “기술 업계에 해고의 물결이 밀려오면서 윤리의식이 무너졌다.”라고 지적했다. AI 분야가 급성장하며 시장은 커지고 있지만, 기업들은 비용 절감을 위해 윤리 부서를 축소하고 윤리적 AI 연구에도 뒷전인 모습이라는 것이다. 또 기업들이 AI가 내놓을 결과에 대해 충분히 검토하지 않는 상황이 지속되면 해로운 AI 제품이 출시될 수도 있다고 우려했다.

2020년 12월에 해고당하기 전까지 구글의 윤리적 AI 팀을 이끌었던 팀닛 게브루는 이런 흐름에 대해 “나는 그들(기업들)이 경주에 임하고 있는 것처럼 느껴진다. 그들은 단지 경주에서 이기기만을 원하며, 다른 일을 하는 사람은 쓸모없다고 생각하는 것으로 보인다.”라고 말했다.

앤드류 스트레이트 에이다 러브레이스 연구소 부국장은 "경쟁이나 시장 출시를 위해 책임감 있는 AI 관행이 우선순위에서 밀려나는 것은 문제가 있다. 안타깝게도 지금 우리가 보고 있는 것은 바로 그런 일이 일어나고 있다는 것이다."라고 우려했다.

AI 업계의 전문가들과 석학들 역시 기업들이 AI 윤리에 소홀한 현 상황을 비판하고 나섰다. 29일 미국의 비영리 단체 퓨처 오브 라이프 인스티튜트(Future of Life Institute)는 '거대 AI 실험 일시중지 공개서한 (Pause Giant AI Experiments: An Open Letter)'을 공개했다. 서한에는 AI 업계 관계자와 교수, 학자 등의 전문가가 참여했는데 일론 머스크 테슬라 CEO, 유발 하라리 '사피엔스' 저자, 스티브 워즈니악 애플 창업자, 얀 탈린 스카이프 창업자, 앤드루 양 미국 정치인, 이마드 모스타크 스태빌리티 AI CEO, 김대식 카이스트 교수 등이 동참했다. 

서한에서 전문가들은 “최근 몇 달 동안 AI 연구소는 개발자를 포함한 그 누구도 이해하거나 예측하거나 안정적으로 제어할 수 없는 더욱 강력한 AI를 개발하고 배포하기 위해 통제 불능의 경쟁에 몰두하고 있다. 하지만 AI의 수준 맟는 계획과 관리가 이루어지지 않고 있다.”라고 지적했다. 또 6개월 동안 강력한 인공지능의 연구를 잠시 중지하고, AI의 위험을 통제하기 위한 체계를 마련해야 한다고 주장했다.

챗 GPT의 서비스를 중단해야 한다는 주장도 나왔다. 미국의 기술 윤리 그룹인 '인공지능 및 디지털 정책 센터'는 30일 FTC에 오픈 AI가 GPT-4를 상용으로 출시하는 것을 중단해 달라고 요청했다. FTC는 미국 연방거래위원회의 약자로, 한국의 공정거래위원회와 같은 규제기관이다. 

센터는 청원서를 통해 “GPT-4는 편항성을 보이고 기만적이며 사생활과 공공 안전을 위협한다. 이는 FTC의 투명하고, 설명 가능하고, 공정하고, 경험적으로 타당하면서도 책임을 강화하는 기준을 충족하지 못한다.”라고 주장했다.

유네스코 역시 AI 윤리에 대해 우려하는 성명을 냈다. 31일 유네스코는 각국 정부에 유네스코 AI 윤리 권고를 조속히 이행하라고 촉구했다. 오드레 아줄레 유네스코 사무총장은 성명을 통해 “산업계의 자율 규제만으로는 윤리적 해악을 예방하기 충분치 않다.”라고 주장했다. 아줄레 사무총장은 “시대의 도전인 AI 기술과 관련해 더 강력한 윤리 규정이 필요하다. 유네스코의 권고는 적절한 규범적 틀을 설정하고 필요한 모든 안전장치를 제공한다.”라고 말했다. 

‘유네스코 AI 윤리 권고’는 지난해 11월 채택되었으며, AI의 이점을 극대화하는 대신 AI 사용 시 발생 가능한 위험을 줄이기 위한 방안을 담고 있다.