[이코리아] 미국 핵과학자회 (Bulletin of the Atomic Scientists)가 23일 '지구 종말 시계'의 초침을 자정까지 90초 남은 것으로 발표했다. 이는 지난해와 동일하며, 75년이 넘는 종말 시계의 역사 동안 자정에 가장 가까운 시간이다. 지구 종말 시계는 지난 2020년부터 100초 전으로 유지되다가 러시아-우크라이나 전쟁 발발 이후 90초로 당겨졌으며 올해에도 그 시간이 유지되었다. 

핵과학자회는 올해의 종말 시계 설정의 근거로 다양한 지정학적 위험과 전쟁 발발로 인한 핵 위협, 기후변화, AI나 생명 공학과 같은 위험성이 높은 기술을 올해 시계 설정의 근거로 들었다. 핵과학자회는 종말 시계가 지난해와 같은 90초로 설정된 것은 국제 안보 상황이 완화되었다는 신호가 아니며, 오히려 세계 지도자들과 시민들은 오늘이 현대사에서 가장 위험한 순간인 것처럼 이 발언을 엄중한 경고로 받아들이고 긴급하게 대응해야 한다고 밝혔다.

우선 핵 위협의 경우 러시아가 우크라이나에서 벌이고 있는 전쟁의 종식은 요원해 보이며, 이 분쟁에서 러시아가 핵무기를 사용할 심각한 가능성이 여전히 남아있다고 짚었다. 또 중국과 러시아가 핵 능력을 확장하고 있으며, 미국도 이에 상응하는 대응을 해야 한다는 압력이 워싱턴에서 거세지고 있다는 점과 이란과 북한의 핵 개발, 이스라엘과 하마스 간의 가자지구 전쟁의 중동 확전 가능성에 대해서도 언급했다.

기후변화 역시 위험요인이다. 2023년 세계는 기록상 가장 더운 해를 보냈으며, 전 세계 온실가스 배출량이 계속 증가하면서 미지의 영역에 진입했다고 말했다. 핵과학자회는 국제사회의 온실가스 배출을 줄이기 위한 노력이 부족하고 이미 약속한 사항의 이행이 미흡하여 세계는 이미 파리 기후 협약의 목표인 산업화 이전 대비 섭씨 1.5도 이상 기온 상승을 초과할 위험에 처해 있다고 설명했다. 

또 전 세계가 2023년에 청정에너지에 사상 최대 규모인 1조 7,000억 달러를 투자했지만, 1조 달러에 달하는 화석 연료에 대한 투자가 이를 상쇄했다고도 지적했다. 온실가스 배출을 줄이기 위한 현재의 노력은 기후변화로 인한 위험한 인적, 경제적 영향을 피하기에는 턱없이 부족하며, 획기적으로 노력을 증가시키지 않는 한, 기후변화로 인한 인류의 고통은 끝없이 증가할 것이라고 주장했다.

핵과학자회는 AI 등 발전하고 있는 신기술에 대해서도 경고의 목소리를 냈다. AI가 허위 정보를 확대하고 민주주의가 의존하는 정보 환경을 훼손할 수 있는 큰 잠재력을 지니고 있으며, AI를 이용한 허위 정보는 전 세계가 핵 위험, 팬데믹, 기후변화에 효과적으로 대처하는 것을 방해하는 요인이 될 수 있다는 것이다.

AI의 군사적 활용에 대해서도 우려했다. 이미 정보, 감시, 정찰, 시뮬레이션, 훈련 분야에서 AI가 광범위하게 사용되고 있으며, 이에 더해 사람의 개입 없이 목표물을 식별하고 파괴하는 치명적인 자율 무기가 개발되거나 핵무기와 같은 중요한 물리적 시스템을 AI에 맡기기로 결정하게 되면 인류에게 직접적인 실존적 위협이 될 수 있다고 경고했다.

또 새로운 AI 도구와 생물학 기술의 융합으로 인해 개인이 생물학을 오용할 수 있는 권한이 급격히 강화될 수 있다는 점도 있다. 예를 들면 대규모 언어 모델을 사용하면 충분한 노하우가 없는 개인이라도 다수의 인간, 동물, 식물 및 기타 환경 요소에 해를 끼칠 수 있는 생물학적 작용제를 식별, 획득, 배포할 수 있게 되며, 위험한 생명과학 연구를 수정하고 감독을 강화하기 위해 더 많은 노력이 필요하다고 말했다.

다행히 많은 국가에서 AI 규제의 중요성을 인식하고 있으며, 피해 가능성을 줄이려는 조치를 시작했지만, 이는 미미한 단계에 불과하며 AI를 관리하는 데 효과적인 규칙과 규범을 제정하려면 훨씬 더 많은 노력을 기울여야 한다고 말했다.

핵과학자회는 이러한 위협은 개별적으로나 상호 작용할 때나 그 성격과 규모가 너무 커서 어느 한 국가나 지도자가 통제할 수 없으며, 공동의 위협에는 공동의 행동이 필요하다는 공통의 신념을 바탕으로 각국의 지도자와 국가가 협력해야 한다고 주장했다. 세계 3대 강대국인 미국, 중국, 러시아는 글로벌 위협에 대해 진지한 대화를 시작해야 하며, 역량을 지닌 세 나라가 현재 세계가 직면한 실존적 위험에 대한 책임을 져야 한다고도 주장했다.

지구 종말 시계는 지난 1947년 알베르트 아인슈타인 등 시카고대의 과학자들이 '불리틴' 잡지의 표지에 시계 이미지를 실은 것이 시초로, 이후 자정을 지구 종말의 시간으로 정하고, 국제 정세에 따라 매년 인류가 종말에 얼마나 가까워져 있는지 발표해왔다. 지난 2007년부터는 핵무기 외에도 기후변화 등 인류 전체에 영향을 미치는 각종 이슈가 반영되고 있다.

한편 핵과학자회가 AI에 대해 언급한 것은 올해가 최초지만, AI로 인한 인류 종말에 대한 경고는 지난해에도 나왔다. 지난해 5월 비영리 단체인 AI 안전 센터(CAIS)는 'AI 위험에 대한 성명'을 통해 인류가 현재 AI로 인해 멸종의 위기에 처했으며, 이에 높은 우선순위로 대응해야 한다고 주장했다. 해당 서한에는 제프리 힌튼 교수, 요슈아 벤지오 교수 등 AI 분야 연구자 350여 명이 이름을 올렸으며 샘 알트만 오픈 AI CEO, 데미스 하사비스 구글 딥마인드 CEO, 다리오 아모데이 앤트로픽 CEO 등 3명의 AI 제조사 수장이 참여했다.

센터는 AI가 가져올 수 있는 8가지 위협으로 △자동화된 사이버 공격, 화학 무기 합성 등 AI의 무기화 △AI로 생성된 잘못된 정보, 가짜뉴스의 확산과 범람 △AI가 목표 달성을 위해 개인 및 사회적 가치를 희생하게 되는 ‘프록시 게임’ 현상 △AI 의존으로 인한 인간의 능력 약화 △AI가 소규모의 사람들에게만 권한을 부여하게 되는 권력 집중 △인간의 고급 AI에 대한 통제력 상실 △AI가 무엇을 하고 있는지 인간들에게 숨기는 기만 △AI가 권력을 추구하는 행위 등을 꼽았다.