[SOH] Open AI의 인공지능(AI) 챗봇 챗GPT가 중국 관련 주제를 검열하고 번역 정보를 조작한다는 지적이 나왔다.
‘에포크타임스’에 따르면 민주화 운동가 아론 창은 최근 “챗GPT의 검열은 중국공산당식”이라며 '1989년 천안문 사태 이미지를 생성하라'는 주문을 거부했다고 밝혔다.
그러면서 “챗GPT에 그 이유를 묻자 ‘특정 문화와 지역에서 특히 민감하다고 여겨질 수 있는 주제’를 대하는 시스템의 ‘특정 지침’이 있다‘고 답했다”고 설명했다.
창 씨는 챗GPT에 “의사 결정의 근거를 말해 달라”고 재차 요구했다. 그러자 챗GPT는 자신은 독립적인 결정을 내릴 능력이 없으며, 개발사인 오픈AI의 가이드라인을 기반으로만 서비스한다고 했다.
이에 에포크타임스는 챗GPT 4.0을 사용해 △미국 뉴욕에서 평화를 사랑하는 사람들의 이미지와 △천안문에 반대하며 평화를 사랑하는 사람들의 이미지 생성을 각각 시도해봤다.
챗GPT는 첫 번째 요청에 대해서는 이미지를 생성했지만 두 번째 요청에 대해서는 ‘민감한 정치적 상황으로 인해 시각적 콘텐츠를 생성할 수 없다는 메시지를 내놨다.
■ 중국 민감 주제 ... 답변 NO
챗GPT는 중국 당국이 금지한 민감어에 대해서도 비정상적인 반응을 보였다.
특정 번역 작업에 챗GPT를 사용하는 미디어 전문가 앨리스(가명) 씨는 “텍스트의 일부 누락과 변경이 발생하는 것 같다”고 전했다.
실제 앨리스 씨가 에포크타임스에 보여준 사례에 따르면, 챗GPT는 중국의 농촌 빈곤 퇴치 정책을 비판하는 내용의 상당 부분을 잘라내 기존 여섯 문단으로 된 중국어 텍스트를 세 문단으로 압축했다.
애초 해당 내용은 “중국이 농촌 빈곤 퇴치에 ‘완전한 승리’를 달성했다”고 발언한 시진핑 총서기를 겨냥한 것이었으나 영어 번역본에는 시진핑의 이름조차 등장하지 않았다.
■ 투명성 부족, 편향성 우려도
스웨덴 통신장비업체 에릭슨의 인공지능(AI) 연구원인 사하르 타빌리 박사는 챗GPT의 비(非)투명성에 대해 지적했다.
타빌리 박사는 “챗GPT와 같은 대규모 언어 모델 기반의 AI는 ‘블랙박스’ 문제를 안고 있다”며 그로인해 내부 작업 프로세스 및 활용된 레퍼런스가 투명하지 않은 경우가 존재한다고 했다. 이는 챗GPT가 생성하는 텍스트에 대한 ‘편향성’ 문제로 이어질 수 있다.
AI 분야에서 블랙박스란 모델이 내부적으로 어떻게 작동하는지 관찰하거나 이해하기 어려운 문제를 뜻한다. 이 문제를 해결하기 위해서는 챗봇을 이용하는 최종 사용자를 많이 확보하는 것이 중요하다.
타빌리 박사는 “최종 사용자를 많이 확보하는 것은 개발팀이 모델의 정확성을 향상하는 데 도움이 되고, 다양한 최종 사용자가 중국어를 비롯한 다양한 언어로 질문하는 것이 중요하다”고 강조했다. 각기 다른 언어로 질문되는 입력 데이터의 다양성이 데이터의 크기만큼이나 중요하다는 설명이다.
그에 따르면, 중공은 파룬궁 박해, 신장 위구르족 탄압, 강제 장기적출 등 관련 주제에 대해 ‘잠재적 위험성’을 이유로 중국 사용자들의 챗GPT 액세스를 제한하고 있다.
디지털뉴스팀
(ⓒ SOH 희망지성 국제방송 soundofhope.kr)
