[SOH] 미국 한 변호사가 항공 분쟁관련 법원제출 서류 준비 과정에서 생성형 AI(인공지능) 서비스 '챗GPT'에 의존했다가 법원 청문회에 회부될 위기에 놓였다. AI가 거짓 정보를 제공했기 때문이다.
지난달 28일(이하 현지시간) ‘뉴욕타임스(NYT)’ 등에 따르면 로베르토 마타라는 남성은 지난 2019년 8월 엘살바도르에서 미국 뉴욕으로 가는 콜롬비아 아비앙카항공의 여객기에서 음식 운반용 철제 카트에 부딪혀 무릎을 다쳤다며 법원에 소송을 제기했다.
항공사 측은 공소시효가 지났다며 뉴욕남부연방법원에 기각해줄 것을 요청했으나, 마타의 변호인인 스티븐 슈워츠는 소송을 계속 진행해야 한다며 6건 이상의 유사 판례를 담은 10페이지 분량의 의견서를 법원에 제출했다.
슈워츠는 챗GPT를 통해 유사 판례를 수집했는데, 이것이 문제가 될 줄은 몰랐다.
아비앙카항공 측의 바트 바니노 변호사는 "슈워츠 변호사의 의견서에 담긴 중국 남방항공 사건 판례는 물론 여기에 인용된 2008년 제11 연방고등법원의 대한항공 판결문을 도저히 찾을 수 없다"며 케빈 카스텔 뉴욕남부연방지법 판사에게 서한을 보냈다.
이어 “의견서에 담긴 판례들이 실제 판결이 아닐 수 있다”며 AI 챗봇이 관여됐을 가능성을 제시했다.
카스텔 판사의 문의를 받은 제11 연방고법도 슈워츠가 제시한 판례의 사건번호로 검색한 결과 전혀 무관한 다른 사건의 번호였다고 답했다. 나머지 5건의 판례 역시 가짜로 밝혀졌다.
이에 카스텔 판사는 "위조된 가짜 사법부 결정과 가짜 인용문으로 가득찬 의견서"라며 6월 8일 슈워츠 변호사에 대한 제재 여부를 논의하기 위한 공판을 열겠다고 밝혔다.
논란에 대해 30년 경력의 슈워츠 변호사는 “법원과 항공사를 속일 의도는 없었다. AI 챗봇이 가짜 정보를 낼 수 있다는 것을 생각지 못했다”며 선처를 호소했다.
슈워츠 변호사가 법원에 제출한 진술서에 따르면 그가 챗GPT에 '남방항공 판례가 실제 사건이냐'고 묻자 챗GPT는 "그렇다. 실제 사건이다"라고 답했고, '네가 제시한 다른 판례들은 가짜냐'는 추가 질문에도 "아니다. 내가 제공한 다른 사건들도 진짜이고 저명한 법률 데이터베이스에서 찾을 수 있다"라고 주장했다.
디지털뉴스팀
(ⓒ SOH 희망지성 국제방송 soundofhope.kr)
