MS, “안면인식 기술 규제 필요해”

여성과 유색인종에 대한 높은 오류율을 문제 삼았다.

가 +
가 -

마이크소로프트가 안면인식 기술에 대해 정부 규제가 필요하다고 재차 주장했다. 여성과 유색인종에 대한 높은 오류율로 인해 사회적 편견과 차별을 조장할 가능성이 있다는 이유에서다. 또 프라이버시 문제, 인권 보호 차원에서도 안면 인식기술의 무분별한 사용을 제한하고 올바른 기술 활용 방안을 마련해야 한다고 촉구했다.

브래드 스미스 마이크로소프트 사장은 12월6일(현지시간) 미국 워싱턴 DC에 위치한 브루킹스 연구소에서 정부의 안면인식 기술 규제를 촉구하는 연설을 했다. 마이크로소프트는 지난 7월에도 미국 정부에 안면인식 기술에 대한 정부 규제 및 조치의 필요성을 제기한 바 있다. 브래드 스미스 사장은 “정부가 2019년부터는 안면인식 기술에 관한 법률을 마련하는 게 중요하다”라며 “우리가 행동하지 않으면 이제 막 시작되는 안면인식 기술이 사회적 문제를 악화시키는 방향으로 가는 걸 5년 뒤에나 깨닫게 될 것”이라고 말했다.

이처럼 마이크로소프트가 안면인식 기술에 제동을 걸기 시작한 건 자사의 인공지능(AI) 안면인식 소프트웨어가 편향적이라는 문제를 인지하면서부터다. 안면인식 기술은 여성과 유색인종에 대한 오류율이 높아 인간의 편견과 차별을 재현할 수 있다는 우려가 제기됐다.

지난 2월 <뉴욕타임스>는 조이 부올라미니 MIT 미디어랩 연구원의 논문을 인용해 ‘안면인식 기술이 백인 남성에게 편향적으로 만들어졌다’라고 보도했다. 이 연구 결과에 따르면, 백인 남성은 99% 이상 정확하게 인식하지만, 흑인 여성의 경우 오류율이 최대 35%까지 증가했다. 백인 여성은 오류율이 7%, 흑인 남성은 12% 수준으로 나타났다. 실험은 마이크로소프트, IBM, 중국 메그미 등 3개 사의 AI 안면인식 소프트웨어를 이용해 진행됐다.

| 조이 부올라미니 MIT 미디어랩 연구원이 진행한 기술 알고리즘에 내재된 편견을 찾아내는 ‘젠더 쉐이드’ 프로젝트

당시 <뉴욕타임스>는 개발에 활용되는 안면인식 데이터의 편향성을 지적했다. 일부 조사 결과에 따르면 AI 학습에 활용되는 안면인식 데이터 중 남성이 75%, 백인이 80%를 차지하는 것으로 나타났다.

마이크로소프트는 이번 연설에서 안면인식 기술의 문제점으로 ▲사회적 편견 및 차별 조장 ▲프라이버시 침해 ▲민주주의의 자유 및 인권 침해 등 세 가지로 꼽았다. 안면 인식 기술이 가져올 편리와 새로운 기회들을 인정하지만, 잠재적 문제에 대한 보호장치를 마련하지 않으면 기술이 지속 가능하지 않다는 게 마이크로소프트 측의 문제 인식이다.

실제로 안면인식 기술과 관련된 문제들은 곳곳에서 터져나오고 있다. 특히 ‘빅브라더’를 연상시키는 사회적 감시 문제가 불거져 나온다. 중국은 감시사회에 대한 우려가 기우가 아님을 보여준다.

| 안면인식 기술과 AI, 감시카메라의 조합은 사생활 침해로 이어질 수 있다.

중국 정부는 안면 인식을 비롯한 AI 기술과 감시카메라를 이용해 범죄자를 식별하고 추적한다. 중국 공안 당국은 2015년부터 AI 감시카메라를 통해 범죄 용의자를 추적하고 관리하는 시스템 ‘톈왕’을 구축했다. 하늘의 그물이라는 뜻을 지닌 이 시스템은 범죄용의자 데이터베이스와 연동돼 움직이는 사람과 사물을 판별하고 범죄자를 추적한다. 안면 인식 기반 감시 인프라는 범죄자뿐만 아니라 시민을 향한 감시와 사생활 침해로 이어질 가능성을 내포하고 있다. 중국 정부는 온·오프라인을 통해 수집된 정보를 바탕으로 주민의 행동 양식을 평가해 개인에게 점수를 매기는 ‘사회신용시스템’을 2020년까지 구축할 계획이다.

마이크로소프트는 정부의 규제 촉구와 더불어 자사의 6가지 안면인식 기술 개발 및 사용 원칙을 발표했다. ▲개발과 적용에 있어 모든 인간을 공평하게 대하는 공정성 유지 ▲기술의 사용 및 제한에 대한 문서화와 투명성 확보 ▲인간에게 영향을 미칠 수 있는 사용에 대한 적절한 수준의 인류적 통제를 보장하도록 장려하고 지원하는 책임감 ▲불법적인 차별을 목적으로 한 기술 사용을 금지하는 비차별 원칙 ▲기술을 사용하는 민간 기업이 고객에게 기술 사용 통지 및 동의를 구하도록 장려 ▲국민의 민주적 자유를 위한 안전장치 마련 및 자유를 위험에 빠뜨릴 수 있는 경우에 대한 기술 사용 제한 등이다.

브래드 스미스 사장은 “안면인식 기술이 초기 단계 있다는 점을 고려했을 때 우리는 아직 문제에 대한 답은 물론 어떤 문제점들이 있는지 모두 알지 못하지만, 원칙에 입각한 접근이 가치 있는 경험을 제공하고 우리가 더 빨리 (안면인식 기술 문제를) 배우게 할 수 있다고 믿는다”라고 말했다.

네티즌의견(총 0개)