인스타그램, 머신러닝으로 악성댓글 차단한다

가 +
가 -

인스타그램이 머신러닝을 이용해 부적절한 댓글 필터링을 시작한다. 인스타그램은 6월29일(현지시간) 안전한 인스타그램 커뮤니티 조성을 위해 머신러닝을 활용한 2가지 새로운 댓글 필터 기능을 선보인다고 공식 블로그를 통해 밝혔다. 이번 기능을 통해 인스타그램은 부적절한 내용을 담은 댓글을 사전 차단하고, 스팸 댓글을 자동으로 걸러낼 수 있다.

먼저 부적절한 내용의 댓글 때문에 자유로운 표현이 꺼려지는 사용자들을 위한 차단 기능이 있다. 인스타그램은 해당 사용자들을 위해 게시물과 라이브 방송에서 불쾌한 댓글을 막을 수 있는 필터를 도입했다. 해당 기능은 프로필 화면의 ‘…’를 눌러 옵션에서 ‘댓글’를 선택하고 ‘부적절한 댓글 숨기기’를 설정하면 된다. 현재 이 댓글 필터는 영어로만 지원되며, 향후 지원 언어가 추가될 예정이다.

이 필터를 적용해도 다른 모든 댓글은 정상적으로 표시된다. 인스타그램은 이 부적절한 댓글 차단 기능 외에도 댓글을 개별적으로 신고하거나 지우는 기능과 함께 게시물에 댓글 다는 기능을 끄는 기능도 제공한다.

옵션에서 ‘부적절한 댓글 숨기기’가 가능하다.(사진=인스타그램)

다음은 스팸 필터다. 스팸 필터는 피드 게시물과 라이브 비디오에 올라오는 댓글 중 스팸형 댓글을 걸러내 차단한다. 현재 스팸 필터는 영어를 포함해 스페인어, 프랑스어, 독일어, 일본어 등 8개 언어로 적힌 스팸 댓글을 제거할 수 있다. 아직 한국어 서비스는 이에 포함되지 않았다.

앞선 2가지 기능은 모두 머신러닝을 통해 작동한다. 인스타그램은 사용자의 안전하고 깨끗한 소통 공간 경험을 위해 구글 팀이 일정 기간 동안 시스템이 특정 유형의 댓글들을 거를 수 있도록 시스템 트레이닝을 진행해왔다고 밝혔다. 또한 구글 알고리즘이 보다 개선되면 더 많은 언어로 해당 기능을 이용할 수 있을 것이라고 전했다.

케빈 시스트롬 인스타그램 CEO은 해당 게시물을 통해 “아직 완벽하게 개발 작업이 마무리된 것은 아니지만, 머신러닝으로 인스타그램 사용자들이 안심하고 자기표현을 할 수 있도록 보호 도구를 만드는 것은 안전하고 친절한 커뮤니티를 조성하기 위한 중요한 단계다”라며 “팀의 지속적인 노력을 통해 사용자들이 안전한 환경에서 편안하게 인스타그램을 경험할 수 있기를 희망한다”라고 밝혔다.