페이스북에 올라오는 게시물 1000건 중 1건은 혐오 발언(헤이트스피치)인 것으로 나타났다. 페이스북은 인공지능을 활용해 혐오 발언 증가를 선제적으로 감지하해 필터링하고 있다고 밝혔다.
20일 <더 버지(The Verge)>와 <바이스(VICE)> 등 외신에 따르면 페이스북 3분기 보고서에 회사 측은 페이스북 이용자가 보는 게시물 조회 수 중 0.10~0.11%가 혐오 발언에 해당한다고 밝혔다. 1000건 중 1건에 해당하는 숫자다.
문제 게시물은 ‘홀로코스트 부정’과 ‘큐어넌’(QAnon) 콘텐츠 등에서의 혐오 발언과 함께 비영어권 시장에서의 험오성 발언 등도 포함됐다. 페이스북이 삭제한 혐오 발언 컨텐츠는 지난 7~9월 사이 2210만 건에 달했다. 페이스북은 인공지능 시스템을 활용해 사용자 신고 전 95%의 혐오 게시물을 포착했다고 설명했다.
이 같은 조사는 게시물의 무작위 표본을 바탕으로 진행됐다. 페이스북이 직접 삭제하는 문제 게시물을 조사하는 방식이 아니라 마치 ‘공기 속 오염물질 농도’를 측정하는 것과 같은 방식이라는 게 페이스북 측 설명이다.
다만 이 조사는 외부적 검증을 받진 못한 것으로 보인다. 가이 로젠(Guy Rosen) 페이스북 부사장은 회사가 "감사를 계획하고 있다"고 말했다.
페이스북이 자사 플랫폼에 혐오 발언의 확산에 관한 수치를 공개하는 것은 이번이 처음이다. 때문에 0.11%가 과거에 비해 증가했는지 감소했는지는 확인하기 어렵다. 또 인공지능이 잡아내기 어려운 풍자성 발언은 여전히 사용자 신고와 계약직 컨텐츠 리뷰어에 의존하고 있는 상태다.