EU, 세계 최초 포괄적인 AI 규제 도입

[ESG경제=박가영 기자] 인공지능(AI) 기술이 나날이 발전하는 가운데 유럽연합(EU)이 세계 최초로 포괄적인 인공지능 규제를 위한 법을 제정하기로 했다.

로이터에 따르면 지난 8일(현지시간) 유럽의회와 27개 EU 회원국 대표는 벨기에 브뤼셀에서 열린 약 37시간 이상의 ‘마라톤’ 회의 끝에 ‘AI법(The Artificial Intelligence Act)’ 제정에 잠정적으로 합의했다. 이 법안은 공적 차원의 생체 정보 수집 AI부터 ChatGPT 등 민간에서 사용되는 AI까지 포괄적인 규제를 담고 있다. 

합의된 초안은 EU 역내에서 사용되는 AI 시스템이 기본권을 비롯한 EU의 가치를 보장하는 것을 목표로 하고 있다. 초안에는 ▲AI를 이용한 생체 정보 수집 제한 ▲ChatGPT와 같은 민간 AI 시스템 규제 ▲AI 데이터의 투명한 공개 등 엄격한 관리감독 기준이 담겼다. 

OpenAI의 ChatGPT와 같은 민간 AI시스템이나 범용AI(GPAI) 같은 모델의 경우 시장에 출시되기 전에 투명성 의무를 준수해야 한다. 알고리즘 학습 방법과 학습에 사용된 데이터를 모두 공개해야 하고 EU의 저작권법 역시 반드시 준수해야만 한다. 시스템적 위험이 있는 모델의 경우 모델 평가를 수행해야 하며, 에너지 효율성 보고와 함께  시스템적 위험에 대한 평가와 완화 조치도 제시해야 한다. 또한 심각한 사고가 발생할 경우 사업자는 EU 집행위원회에 반드시 보고해야 한다. 

EU는 납치, 인신매매, 성착취 범죄 피해자를 식별하거나 테러 공격과 같은 예측 가능한 위협을 예방할 때에만 공공장소에서 실시간으로 AI를 이용해 생체 정보를 수집할 수 있도록 했다. 테러나 인신매매, 성착취, 살인, 압치, 강간 등 중범죄 혐의가 있는 사람을 추적하는 경우에도 허용된다.

정치적·종교적·철학적 신념, 성적 지향, 인종 등으로 사람을 분류하는 것, 얼굴 인식 데이터베이스를 만들기 위해 인터넷 혹은 CCTV 등에서 얼굴 이미지를 무작위로 수집하는 행위, AI를 이용해 개개인에 사회적 점수를 매기는 행위 등은 금지된다.

법을 위반한 기업에게는 경우에 따라 적게는 750만 유로(약 106억 원) 혹은 매출액의 1.5%부터 많게는 3,500만 유로(약 495억 원) 또는 매출액의 7%의 벌금이 매겨진다. 

카르메 아르티가스(Carme Artigas) 스페인 AI 및 디지털화 국무장관은 “이번 합의는 빠르게 발전을 거듭하고 있는 기술에 대한 국제 사회가 직면한 문제 해결을 위한 것”이라며 “이러한 노력 속에서 시민들의 기본권을 보호하는 동시에 유럽 전역에서 인공지능의 혁신과 활용을 촉진할 수 있을 것으로 기대하고 있다”고 말했다.

일각에서는 이번 법안이 혁신을 가로막을 수도 있다는 우려가 나온다. 기업들의 모임인 디지털유럽(DigitalEurope)은 이번 합의안이 기업들에 부담이 될 것이라고 밝혔다.

EU는 지난 12일부터 AI법의 초안을 구체화하기 위한 세부사항 논의에 들어갔다. 법안은 2026년부터 발효될 것으로 예상된다. 

AI 규제, 이제는 ‘국제적 추세’

포괄적인 AI 규제 법안을 마련한 건 EU가 처음이지만, AI 사용을 규제하려는 움직임은 세계 각국에서 나타나고 있다.

로이터에 따르면 조 바이든 미국 대통령은 지난 10월 30일 미국의 국가안보, 경제, 공중보건, 안전에 위험을 초래하는 AI 개발자에게 안전 테스트 결과를 정부와 공유하도록 요구하는 행정명령을 내렸다. 지난 7월에는 미국 연방거래위원회(Federal Trade Commission)가 OpenAI가 소비자 보호법을 위반했다는 주장에 대해 조사를 시작했다.  

중국은 지난 10월 AI 모델 학습에 사용할 수 없는 데이터를 공개하고 생성형 AI를 기반으로 서비스를 제공하는 기업에 보안 요구 사항을 발표했다. 

G7 국가들은 10월 30일 전 세계적으로 안전하고 신뢰할 수 있는 AI의 발전을 목표로 하는 11가지의 “AI 기업 행동 강령”에 합의하기도 했다. 

지난 11월 2일 영국에서 개최된 AI 안전 정삼회담에서는 한국, 미국, 중국, 영국, EU 등 28개국 이상이 '블레츨리 선언’에 합의했다.  

이 선언은 프런티어 AI가 몰고 올 위험을 파악하고 이해를 도모해 초국적인 정책을 마련한다는 합의가 담겼다. 실존하는 AI 위험을 식별하고 이를 완화하기 위한 안전 테스트·평가 지표를 마련해야 한다는 내용도 담겨있다. 

국내 AI 규제는 어디까지 왔나?

국내에서도 AI 규제 법안이 계속해서 발의되고 있으나, 대부분 국회에서 계류 중이다.

2022년 발의된 ‘인공지능 산업 육성 및 신뢰 기반 조성에 관한 법률안’은 ▲인공지능 기술에 대한 우선허용 및 사후규제 원칙 ▲고위험영역에서 활용되는 인공지능에 대한 사전고지의무외 신뢰성확보 조치 의무 등의 내용을 담고 있다. 그러나 지난 2월 과학기술정보방송통신위원회 법안소위를 통과한 이후 현재까지 진행되고 있지 않다.

한편, 정부는 영국과 공동으로 2024년 5월 ‘미니 AI 정상회의’를 개최할 예정이다.