페이스북 인공지능(AI)이 흑인 남성의 모습을 담은 동영상을 ‘영장류(Primates)’로 분류한 데 대해 사과하고 시스템 개편을 약속했다.
4일(현지시간) <뉴욕타임즈>에 따르면 페이스북은 흑인 남성과 백인 경찰이 말다툼하는 동영상을 본 사용자에게 원숭이 등을 일컫는 ‘영장류’에 관한 동영상을 계속 볼 것인지 묻는 문구를 띄웠다.
이 같은 오류가 알려지자 페이스북은 자동 추천 기능을 비활성화했다. 다니 레버 페이스북 대변인은 “용납할 수 없는 오류다. 다시는 이런 일이 발생하지 않도록 근본적인 원인을 조사하고 있다”면서도 “AI를 개선하고는 있지만 아직 완벽하지 않다는 것을 알고 있다. 앞으로 발전시키고자 한다”고 해명했다.
AI 알고리즘의 편향 논란은 이번이 처음이 아니다. 앞서 구글 포토는 2015년 흑인 사진에 ‘고릴라(gorillas)’ 태그를 자동 지정했다가 사과한 바 있다. 국내서는 AI챗봇 ‘이루다’가 흑인을 비롯해 여성‧장애인‧성소수자 혐오발언을 해 논란이 일었다.
미국 정보기술(IT)전문매체 <엔가젯>은 “페이스북은 약 4만개 데이터 세트를 구축하고, 조명에 따른 피부색 인식 작업까지 거쳤지만 페이스북의 AI 편향을 해결하기엔 충분하지 않았다”며 “AI 연구를 위해 아직 해야 할 일이 많다는 것을 보여준다”고 논평했다.