[SOH] 영국 철도당국이 런던의 주요 기차역에서 인공지능(AI) 카메라 시스템을 시범 운영하면서 철도 승객의 연령, 성별 뿐 아니라 감정에 관련된 정보까지 수집해 논란이 일고 있다.
19일(현지시간) 영국 ‘데일리메일’ 등에 따르면 영국 철도 공기업인 '네트워크 레일'은 2022년부터 런던 워털루·유스턴역, 맨체스터 피카딜리역, 리즈역, 글래스고역, 레딩역 등에서 AI 카메라 시스템을 시범 운영해왔다.
목적은 무단 침입, 과밀, 자전거 절도 등의 해결과 고객 서비스 향상, 광고 수입 증대 등을 위해서였다. 해당 역에는 개찰구에 5∼7대의 카메라가 설치됐고 촬영 정보는 아마존 인식 소프트웨어로 전송됐다.
그런데 운영 초기에는 촬영한 승객의 연령대와 성별뿐 아니라 행복과 슬픔, 배고픔 등의 감정까지 분석했던 것으로 드러났다.
이 같은 사실은 시민단체 빅브러더워치(BBW)의 정보 공개 청구로 밝혀졌다. BBW는 AI 기반 감시가 개인 정보를 위험에 빠뜨릴 수 있으며 네트워크 레일이 인권를 침해했다고 비판했다.
BBW 연구조사 총괄 제이크 허트퍼트는 “‘투명성 부족’과 ‘AI를 사용한 감시의 일상화’라는 측면에서 우려된다”며 “시스템을 오남용할 시 승객들의 사생활을 위험에 빠뜨릴 수 있다”고 우려했다.
BBW는 정보보호 당국인 정보위원회(ICO)에 해당 사안에 대한 조사를 요청했다.
앞서 ICO는 AI 감시 기술이 미성숙하다는 경고를 내놓은 바 있다. ICO 부국장 스티븐 보너는 “생체 인식 및 감정 AI 시장은 아직 미성숙하다”며 “데이터의 잘못된 분석이 부정확한 판단을 초래해 차별로 이어질 수 있다”고 했다.
네트워크 레일 측은 해당 시스템의 목적은 “범죄 및 기타 위협으로부터 승객, 동료, 철도 인프라를 보호하기 위한 것”이라며 “감시 기술 사용과 관련된 관련 법률을 항상 준수한다”고 해명했다.
해당 시스템은 범죄 예방에 대한 순기능도 있는 것으로 나타났다. 자전거 절도가 빈번하게 일어났던 레딩역에서는 2022년 카메라 시스템 설치 이후 1년 만에 절도 건수가 72% 급감했다.
디지털뉴스팀
(ⓒ SOH 희망지성 국제방송 soundofhope.kr)
