삶에서 디지털을 떼어내는 것은 거의 불가능에 가까워지고 있다. 이에 따라 대부분의 행동이 알고리즘의 영향을 받게 된다. 문제는 이 알고리즘이 겉보기에 객관적인 데이터 처리 방식으로 이해되고, 인간의 행동에 스며드는 식으로 작동하기 때문에 그 영향을 쉽게 인지하기 어렵다는 데 있다.
맞춤형 광고의 경우 쿠키를 통해 내가 봤던 상품군을 파악하고, 관련 광고를 띄워주는 식으로 작동한다. 사려고 마음먹었던 제품의 광고를 자주 접하다 보면 구매확률도 높아진다. 분명 나의 선택이지만, 알고리즘이 개입하는 것도 분명한 사실이다. 단순한 광고지만 사회적인 문제로 비화하기도 한다. 구글의 온라인 광고는 여성보다 남성에게 보다 높은 임금의 직업 광고를 추천하는 경향과 흑인에게는 저렴한 상품을 집중적으로 보여주는 경향이 높다는 연구결과가 대표적이다.
최근에는 이런 알고리즘의 문제가 사회 전반에 영향을 미칠 수 있다는 문제 제기도 터져 나왔다. 페이스북의 ‘가짜뉴스’ 논란이다. 사실과 전혀 다른 뉴스가 페이스북을 통해서 유통됐는데, 이 뉴스가 신뢰할만한 기존 미디어가 만들어 낸 뉴스 콘텐츠보다 더 퍼져 문제가 됐다. 이와 맞물려 페이스북의 뉴스피드를 통한 뉴스 소비양식을 지적하는 목소리도 크다. 자꾸 입맛에 맞는 의견만 띄워주면 결국 건강한 민주주의를 헤칠 수 있다는 비판이다.
지난 12월26일 정보통신정책연구원에서 ‘EU의 알고리즘 규제 이슈와 정책적 시사점’이라는 보고서를 냈다. 이 보고서에서는 알고리즘 규제가 필요한 이유를 설명하고, 알고리즘 규제의 중요한 전환점을 제공한 것으로 평가받는 EU의 일반 데이터 보호 규정(GDPR) 중 ‘설명을 요구할 권리’를 중심으로 최근 알고리즘 규제 이슈를 소개했다.
- 알고리즘이 내리는 자동화된 의사결정에는 우선순위 결정, 분류, 관련짓기, 필터링이라는 과정이 존재하는데, 이 과정이 인간 개입에 따른 오류와 편향성, 검열의 가능성 등 본질적으로 차별적인 성격을 내포하기 때문임
- 알고리즘은 정의된 명령에 따라서만 작동하는 것이 아니라 이용하는 사람 혹은 객체와의 상호작용 속에서 끊임없이 수정 및 조정되므로 인간(소프트웨어 개발자)의 편견이나 선입견이 반영될 가능성 상존
- 특히, 알고리즘은 과거로부터 쌓여온 데이터를 학습하면서 인종차별, 성차별 등 역사적 편향성을 반영할 가능성도 매우 높음
보고서를 작성한 이원태 정보통신정책연구원 연구위원은는 “알고리즘을 구축하는 단계에서 개발자의 성향과 판단, 사회적 풍토, 외적인 압력이 개입되기 때문에 알고리즘은 편향적일 수밖에 없으며, 기술적이든 제도적이든 알고리즘의 책임성, 공정성, 투명성을 제고하기 위한 사회적 노력이 요구된다”라고 강조했다.
설명을 요구할 권리
GDPR는 1995년에 제정된 EU의 데이터 보호 지침에서 한 단계 더 나아갔다. ‘지침’과 달리 ‘규정’이 되면 회원국 차원의 입법 절차 없이 즉시 법으로서의 효력이 발휘된다. 디지털 기술이 일상에 미치는 영향력이 늘어남에 따라 개인정보를 보호하기 위해 제정됐다. 개인정보보호에 대한 책임성을 대폭 강화한 것이 특징이다.
이번에 특히 강조되는 것은 ‘설명을 요구할 권리’다. ‘설명을 요구할 권리’는 직접 명시된 권리는 아니다. 옥스퍼드대의 굿맨과 플랙스먼이 자신들의 논문에서 GDPR의 13~15조를 해석하면서 유명해진 개념이다. 보고서에서 설명한 ‘설명을 요구할 권리’를 요약하면 다음과 같다.
- 알고리즘에 의해 행해진 결정에 대해 질문하고 반박할 수 있다.
- 데이터를 다루는 사람은 개인에게 언제, 왜 데이터를 모으고 처리하는지 알려야 한다.
- 개인의 권리행사를 위해 투명하게 공개된 정보, 쉬운 의사소통 요구.
다만 ‘설명을 요구할 권리’를 둘러싸고는 다소간의 논란이 있다. 긍정하는 측은 알고리즘의 공정성 이슈를 해결하는 데 사용자의 통제 가능성이 생겼다는 것에 주목한다. 우려하는 측은 규제가 유용한 혁신을 저해할 가능성을 생각한다. 이 외에 심층신경망 같은 불투명하고 복잡한 알고리즘에는 누가 참여하는지 알 수 없어 규제가 어렵다는 견해, 인간을 간접적 우회적으로 통제 과정에 포함해 규제를 우회할 수 있다는 입장도 제기된다.
[bloter_quiz_container id="1" title=""][bloter_quiz_item id="1" type="survey"][bloter_quiz_message id="1" img=""]'설명을 요구할 권리'에 대한 당신의 생각은?[/bloter_quiz_message][bloter_quiz_choice_list][bloter_quiz_choice num="1" sub="필요하다"][bloter_quiz_choice num="2" sub="혁신을 제한할 수 있다"][/bloter_quiz_choice_list][/bloter_quiz_item][/bloter_quiz_container]