[ESG경제=김강국 기자] 인류의 미래로 불리는 첨단 인공지능(AI)은 엄청난 능력 때문에 어떻게 사용하느냐에 따라 인류에게 약(藥)이 될 수도, 아니면 독(毒)이 될 수도 있다는 평가를 받고 있다.

미국과 영국 등 주요 선진국과 인공지능(AI) 기업들이 인공지능이 갖는 잠재적 위험성과 관련, 새로운 첨단 모델을 출시하기 전에 안전성을 시험하기로 합의했다.

리시 수낵 영국 총리는 2일(현지시간) 'AI 안전 정상회의' 후 가진 기자회견에서 "뜻을 같이하는 국가 및 AI 기업들과 함께 기념비적 합의에 이르렀다. 새로운 AI 모델이 출시되기 전에 안전성을 시험하기 위해 함께 노력할 것"이라고 말했다.

영국은 1∼2일 블레츨리 파크에서 주요국 정상급 인사와 세계적인 AI 선도 기업의 고위인사, 학계 관계자 등 100여명이 참석한 가운데 AI 안전 정상회의를 개최했다. 이번 회의는 국제사회가 AI 안전과 관련해서 처음으로 모였다는 점에서 의의가 크다.

이번 회의에는 미국, 영국, 캐나다, 프랑스, 한국, 일본 등 주요 국기와 구글 딥마인드, 메타, 마이크로소프트, 오픈 AI 등의 기업 대표들이 참석했으며 차세대 AI 모델의 안전성을 시험하는 데 협력하는 게 중요하다는 점을 인식했다.

회의 첫날엔 첨단 AI의 위험이 파국적일 수 있으며, 국제사회가 공동 대응해야 한다는 취지의 '블레츨리 선언'이 공개됐는데, 이는 AI 안전과 관련한 국제사회의 첫 협력 선언으로 미국 중국 한국 등 28개국과 EU가 동참했다.

영국은 이와 관련 지난주 AI 안전 연구소 설치와 ‘과학의 상태’ 보고서 발간을 발표했고 미국도 비슷한 기관을 운영하겠다고 밝혔다.

수낵 총리는 기자들에게 AI로 인한 혜택이 있지만, 한편으론 위험이 팬데믹(전염병의 세계적 대유행)이나 핵전쟁만큼이나 심각할 수 있다고 경고하면서 ”리더들은 사람들을 보호하는 조처를 할 책임이 있으며, 그게 지금 우리가 하는 일"이라고 강조했다.

미·영 등 AI 출시 전 안전성 시험…중국은 동참 안해

중국 참석은 이번 회의에서 계속 논란이 됐다. 중국은 우자후이 과학기술부 부부장(차관)이 대표로 참석해서 공동 선언에 동참했으나 둘째 날 '가치를 공유하는 국가들' 간의 소그룹 논의에선 초청받지 않았다. 수낵 총리는 중국과 협력하면서도 위험에서 보호하려는 정부 정책에 따라 행사 일부에만 초청하는 것이 옳았다고 주장했다.

우르줄라 폰데어라이엔 EU 집행위원장은 성명에서 과학계가 독립적으로 AI 시스템을 평가할 수단을 갖춰야 하고, AI 관련 국제 기준을 만들어야 한다고 말했다. 문제 발생 시 신속하게 보고하고 대응하는 표준 절차와 국제 경보 시스템이 마련돼야 한다고 강조했다.

한편 이번 회의에 참석한 안토니우 구테흐스 유엔 사무총장은 "AI와 연계된 위험은 많고 다양하다"며 "AI가 그런 것처럼 위험들은 여전히 생겨나고 있으며 새로운 해법을 요구한다"라고 말했다.

구테흐스 사무총장은 “AI 위험을 막기 위해 단합되고, 지속적이며, 세계적인 전략이 필요하다”며, "AI 관리의 원칙은 유엔헌장과 세계인권선언에 기초해야 한다"고 주장했다.

한편 한국은 내년 5월 영국과 공동으로 AI 미니 정상회의를 개최키로 했다. 내년 5월에 열리는 미니 정상회의는 2025년 프랑스에서 열리는 2차 정상회의에 앞서 1차 정상회의의 후속 조치 상황을 중간 점검하는 목적으로 열린다.