[SOH] 인공지능(AI)은 최근 수년 간 상당한 발전을 거듭해 왔으며, 그 잠재력은 산업의 많은 분야에서 혁명을 일으킬 것으로 기대된다.
하지만 △일자리 감소를 비롯해 △경제적 불평등, △사생활 침해, △보안 위협, △심지어 AI가 인류를 배신할 가능성 등 AI의 부정적 일면에 대한 다양한 우려도 제기되고 있다.
미국, 영국, 스위스의 전문가들로 구성된 국제 연구팀이 신약 개발 용도로 고안된 AI 모델이 화학무기 개발에 악용되는 사례에 대한 연구 결과를 발표해 세걔를 놀라게 했다.
놀랍게도, 해당 모델은 불과 6시간 만에 4만 종류의 독성이 높은 화합물 설계를 제안했다. (이 연구의 상세는 과학 학술지 ‘Nature Machine Intelligence’ 2022년 3월 7일자에 게재돼 있다.)
신약 개발로 인류를 구해야 하는 AI가 반대로 인류를 죽음으로 내모는 치명적인 기술이 될 수 있음이 밝혀진 것이다.
AI는 한정된 분야에서는 인간의 지능을 훨씬 뛰어넘는 일을 할 수 있다. 그러나 AI에 선악(善惡)의 개념은 없어, 인류를 돕기 위해 만들어진 AI라고 해도, 사용하는 인간이 악의를 가지고 그 지능을 이용한다면 인류의 재앙이 될 수도 있다.
그런 AI의 ‘악의 스위치’를 기동시키는 아이디어는 스위스 슈피츠 연구소(Spiez Laborator)가 주최하는 ‘컨버전스 컨퍼런스(Convergence Conference)’에서 제안됐다.
2년마다 열리는 이 회의에서는 과학과 군사 전문가들이 모여 핵·생물·화학 무기의 현상과 위협에 대해 연구·토론한다. 목적은 인류에게 유용한 도구나 기술이 화학 무기의 영역에서 의도치 않게 가질 수 있는 ‘부정적 측면’을 이해하기 위한 것이다.
미국 바이오벤처 기업 콜라보레이션 파머스티컬즈(Collaborations Pharmaceuticals)이 이끈 이 국제 연구팀은 AI를 악용했을 경우의 결과를 발표했다.
AI 기술은 보통 질병 치료에 사용할 수 있는 화합물의 생성에 이용되고 있지만 여기서는 ‘악의 스위치’를 작동시켜 치명적인 화합물의 조합을 찾아내게 했다. 이에 AI는 단 6시간 만에 약 4만 종류의 화합물을 생성했다.
연구팀은 “악의 스위치를 한 번 작동시키면 AI는 수천 가지 독물 조합을 빠르게 생성했고, 그것의 대부분은 현재 사용되는 가장 위험한 신경가스와 유사했다”고 밝혔다.
AI가 만들어낸 화합물 중에는 맹독성 신경가스 ‘VX’와 유사한 물질도 있었다. 이 화학물질은 소량만으로도 심한 경련을 일으켜 호흡을 정지시킬 수 있다.
연구 책임자 중 한 명인 파비오 우르비나(Fabio Urbina) 박사는, 'AI가 비교적 쉽게 구입해 사용할 수 있는 독성 화학물질 데이터 세트를 사용하고 있다는 점'을 가장 심각한 점으로 꼽았다.
접근이 용이한 화학물질을 사용해 치명적인 화학무기와 다를 바 없는 물질을 만들어내는 게 얼마나 쉬운 일인지를 지적한 것.
우르비나 박사는 “우리가 사용한 많은 데이터 세트는 무료로 공개됐으며, 누구든지 언제 어디서나 다운로드할 수 있는 것”이라며, “그러나 현재 이런 악용에 대한 예방 대책은 매우 취약하다”고 전했다.
프로그래밍이나 기계 학습에 대한 지식이 있는 사람이라면, 이러한 데이터 세트로 악성 화합물 생성 모델을 언제든 손쉽게 만들 수 있다는 의미이다.
만약 이런 우려가 현실화되거나 AI가 스스로의 학습능력으로 인류에게 반기를 든다면 어떤 상황이 펼쳐질까? 고도의 과학 기술은 ‘양날의 검’이라는 점을 다시 생각하게 된다.
디지털뉴스팀
(ⓒ SOH 희망지성 국제방송 soundofhope.kr)
트위터
페이스북
카카오톡
카카오스토리
맨위로