[ESG경제=김강국 기자]  인공지능(AI) 챗봇 ‘챗GPT’가 법률 자료를 찾아달라는 한 미국 변호사의 요청에 실제 자료가 아닌 가상의 '창작물'을 제시한 일이 발생했다.

28일(현지시간) 뉴욕타임스(NYT)에 따르면 로베르토 마타라는 미국 시민은 2019년 8월 엘살바도르에서 미 뉴욕으로 가는 콜롬비아 아비앙카항공 여객기에서 음식 운반용 철제 카트에 부딪혀 무릎을 다쳤다며 법원에 소송을 냈다.

아비앙카항공은 공소시효가 지났다며 뉴욕남부연방법원에 기각해줄 것을 요청했으나, 마타의 변호인인 스티븐 슈워츠는 소송을 계속해야 한다며 6건 이상의 유사 판례를 담은 10쪽 분량의 의견서를 법원에 제출했다.

문제는 항공사 측 변호인은 물론 판사도 슈워츠 변호사 의견서에 담긴 판례와 인용 문구를 도저히 찾을 수 없었다는 사실이다. 항공사 측 변호인은 슈워츠 변호사의 의견서에 담긴 중국 남방항공 사건 판례는 물론 그 안에 인용된 2008년 제11 연방고등법원의 대한항공 판결문도 찾아낼 수 없었다고 케빈 카스텔 뉴욕남부연방지법 판사에게 호소했다. 아비앙카항공을 대리한 바트 바니노 변호사는 의견서에 담긴 판례들이 실제 판결이 아니라 AI 챗봇이 관여됐을 가능성을 제시했다.

카스텔 판사의 문의를 받은 제11 연방고법도 슈워츠가 제시한 판례의 사건번호로 검색한 결과 전혀 무관한 다른 사건의 번호였다고 답했다. 나머지 5건의 판례 역시 가짜였다. 카스텔 판사는 "위조된 사법부 결정과 가짜 인용문으로 가득찬 가짜 의견서"라며 다음달 8일 슈워츠 변호사 제재 여부를 논의할한 공판을 열겠다고 밝혔다.

슈워츠 변호사는 지난 25일 법원에 선처를 호소하면서 챗GPT의 도움을 받았다는 사실을 인정했다. 30년 경력의 슈워츠 변호사는 법원과 항공사를 속일 의도가 아니었다며 "AI 챗봇을 써본 적이 없어서 챗봇의 답변이 가짜일 수도 있다는 생각을 전혀 하지 못했다"고 호소했다. 특히 슈워츠 변호사는 챗GPT에 '진짜 판례가 맞느냐'고 거듭 확인 질문을 했으나, 챗GPT가 끝까지 "그렇다"고 주장했다고 전했다.

슈워츠 변호사가 법원에 제출한 진술서에 따르면 그가 챗GPT에 '남방항공 판례가 실제 사건이냐'고 묻자 챗GPT는 "그렇다. 실제 사건이다"고 답했다. '네가 제시한 다른 판례들은 가짜냐'는 슈워츠의 추가 질문에도 "아니다. 내가 제공한 다른 사건들도 진짜이고 저명한 법률 데이터베이스에서 찾을 수 있다"라고 주장했다는 것이다.

NYT는 AI가 변호사를 비롯한 상당수 전문직의 존립을 위태롭게 할 것이라는 우려가 커지는 가운데 불거진 이번 사건은 "AI가 이들 직종을 대체할 때까지 준비할 말미가  더 있음을 보여준다"고 평했다.