IBM, 얼굴인식 연구 전면 중단 선언…”인종 프로파일링 멈춰야”

가 +
가 -

아르빈드 크리슈나 IBM CEO /사진=IBM

IBM이 더 이상 어떤 형태의 얼굴인식 소프트웨어를 개발하거나 제공하지 않겠다고 선언했다.

IBM은 대량 감시, 인종 프로파일링(인종 및 종교 등을 기준으로 차별적 대우를 하는 행위), 인권과 자유 침해, 신뢰와 투명성의 원칙과 일치하지 않는 목적 달성을 위해 기술 기업이 제공하는 모든 얼굴인식 기술 사용을 강력히 반대한다는 입장을 피력했다. 그런 측면에서 현재 IBM의 얼굴인식 소프트웨어 연구도 모두 중단하겠다는 의지도 밝혔다.

8일(현지시간) 아르빈드 크리슈나(ArvindKrishna) IBM CEO는 ‘의회에 보내는 인종 정의 개혁’이란 이름의 서안을 발표하고, ‘책임 있는 기술 정책’에 대한 IBM의 입장을 전달했다. 서안은 “기술이 투명성을 높이고 지역사회 보호에 도움을 줄 순 있지만 인종 불평등을 조장해선 안 된다”는 내용을 담고 있다.

얼굴인식 기술은 인공지능(AI) 발달에 힘입어 지난 10년간 크게 발전했다. 특히 스마트폰 잠금해제, 기업 출입관리 시스템 등 여러 분야에 접목되며 인간 편의 증진에 기여해왔다. 코로나19 대유행으로 언택트 서비스 수요가 높아진 지금, 얼굴인식은 가장 주목받는 기술 중 하나이기도 하다.

그러나 동시에 얼굴인식 기술 오남용으로 발생하는 그림자에 대한 우려도 꾸준히 제기돼 왔다. 사생활 침해 문제가 대표적이다. 외국의 한 인공지능 기업은 SNS 등을 통해 수집한 30억장 이상의 이미지를 학습한 얼굴인식 도구를 민간 기업과 법 집행 기관 등에 무분별하게 제공해온 사실이 들통나 현재 조사를 받고 있다.

또한 작년 12월 미국 국립 표준기술 연구소(NIST)가 공개한 결과에 따르면, 현재 세계 최고 수준으로 분류되는 얼굴인식 알고리즘 상당수가 나이, 인종, 민족성 같은 요소에 따라 부정확한 결과를 제시하고 있는 것으로 드러났다. 특히 아시아계와 흑인에 대한 얼굴인식 정확도는 상대적으로 낮은 데 비해, 백인 중년 남성 그룹에서는 높은 정확도가 나타나는 편향성이 관측돼 우려를 낳았다.

즉, 이런 연구 결과는 얼굴인식 알고리즘이 아직 법 집행이나 국가 안보와 같은 공적 분야에서 사용할 준비가 되지 않았다는 사실을 암시한다. 더 많은 기술적 성숙이 필요한 단계라는 의미다.

크리슈나 CEO는 편지에서 “바로 지금, 얼굴인식 기술이 법 집행 기관에 의해 사용되는 문제와 어떻게 적용돼야 하는지에 대한 국가적인 대화를 시작할 때라고 믿는다”고 밝혔다.