‘컴퓨터는 늘 실수한다’… 얼굴인식 기술, 엉뚱한 사람 범인 만들다

가 +
가 -

미국에서 얼굴인식 기술의 오작동으로 엉뚱한 사람을 범인으로 몰게 된 사건이 발생했다. 기술 발전에서 늘 수반되는 결함이 인재(人災)와 맞물릴 때 생기는 부작용이 여실히 나타났다는 평가다.

<뉴욕 타임즈(New York Times)> 등 외신은 지난 24일(현지시각) 아프리카계 미국인 로버트 윌리엄스(Robert Williams)가 얼굴인식 기술 오류로 인해 무고하게 절도범으로 몰린 사례를 소개했다.

윌리엄스는 디트로이트 경찰이 운영하는 얼굴인식 시스템 작동 과정에서 범인으로 지목됐다. 2018년 디트로이트 시내에서 벌어진 상점 도난 사건 수사 도중 보안 영상 속 잡힌 진짜 범인의 사진을 시스템이 그의 신분증 속 얼굴과 잘못 일치시킨 탓이다.

경찰은 지난 1월 윌리엄스의 아내와 두 딸이 보는 앞에서 체포됐다. 그의 DNA 샘플과 지문, 머그샷 등이 범죄 데이터베이스에 등재됐다. 하지만 상점 보안 직원이 범행 현장에서 그를 목격하지 않았다고 말하면서 혐의를 벗었다.

사태가 불거지자 미국시민자유연맹(ALCU)은 윌리엄스 사건을 기각해달라고 요청했고, 디트로이트 검찰은 그의 데이터를 범죄 데이터베이스에서 삭제하기로 했다. 이 사건에 대해 담당 형사 중 한 명은 “컴퓨터가 잘못된 것”이라 밝혔다.

얼굴인식 기술은 그 유용성과 별개로 공적 업무 수행 과정에서의 결함 문제로 수차례 비판을 받았다. 특히 최근 미국 내 흑인 인권 운동이 일면서 동시에 몇 주간 사법 기관에서의 사용이 더 논란이 됐다.

윌리엄스 사태가 알려지자 IBM과 마이크로소프트, 아마존 테크 기업들은 경찰 업무를 위한 얼굴인식 기술 작업을 중단하거나 보류할 것이라 밝혔다. IBM의 CEO 아르빈드 크리슈나(Arvind Krishna)는 이달 초 낸 성명서에서 “현재 국내 법 집행 기관이 얼굴 인식 기술을 사용해야하는지 여부와 방법에 대해 국가와 대화를 시작할 때가 됐다”고 말했다.