日, 생성형 AI 활용 범죄 유죄 판결... “돈 벌려고 랜섬웨어 제작”
한지연 기자 |
2024-11-05 16:22:42
[SOH] 일본에서 생성형 인공지능(AI)을 이용해 랜섬웨어(컴퓨터 바이러스)를 만든 20대 남성이 유죄 판결을 받았다.
‘교도통신’ 등 현지 언론에 따르면 도쿄지방법원은 지난달 25일 ‘부정지령(不正指令) 전자적 기록 취득’ 등 혐의로 기소된 20대 남성 A씨에게 징역 3년에 집행유예 4년을 선고했다.
A씨는 지난 3월 자택 PC와 스마트폰을 사용해 인터넷에 공개된 '챗GPT' 비공식판 등 복수의 AI 도움을 받아 랜섬웨어 수준의 컴퓨터 바이러스를 만들었다.
그는 IT 관련 전문 지식이 없었지만, AI 도움으로 어렵지 않게 컴퓨터 바이러스를 만들었다고 진술했다.
생성형 AI는 범죄에 악용될 지시에는 응답하지 않도록 제한이 걸려있지만, A씨는 위법이라고 판단되지 않을 만한 질문을 여러 번 하는 방식으로 받아낸 답변을 조합해 바이러스를 만들었다.
이 바이러스에는 공격 대상이 된 컴퓨터의 데이터를 암호화해 잠그는 등의 기능이 포함됐다. 컴퓨터를 이용하기 위해 암호화된 데이터를 푸는 과정에 금품을 요구하는 ‘랜섬웨어’를 만들어낸 것이다.
A씨는 경찰 조사에서 “랜섬웨어로 돈을 벌고 싶었는데, 인공지능에 물어보면 무엇이든 할 수 있다고 생각했다"고 말했다.
재판부는 “돈을 벌려고 컴퓨터 바이러스까지 만드는 것은 자기중심적 범행으로 형사책임이 무겁다”고 판결했다. 다만 범행 사실을 인정하고 반성 태도를 보인 점을 참작해 집행 유예를 선고했다.
A씨의 랜섬웨어 제작은 그가 다른 혐의로 경찰에 체포돼 컴퓨터가 압수되면서 적발된 것으로 알려졌다.
이번 사건으로 유사 범죄가 크게 늘어날 것이란 우려가 나온다. 미국 오픈AI 등 생성형 AI 개발사들은 인공지능에 범죄에 악용될 만한 답변을 이끌어내지 못하도록 대응을 강화하고 있지만, 실제로는 엄격하게 차단되지 않는 게 현실이다.
컴퓨터 보안에 정통한 일본 엔티티(NTT) 관계자는 “사용 범위에 제한이 없거나 느슨한 생성형 AI를 사용하면 랜섬웨어의 설계도(소스코드)나 감염시키고자 하는 컴퓨터의 침입 방법, 가짜 쇼핑 사이트 등도 만들 수 있다“며 “사용자가 전문 지식이 없더라도 범죄를 저지를 수 있다”고 지적했다.
한지연 기자
(ⓒ SOH 희망지성 국제방송 soundofhope.kr)
관련기사
24.11.16