구글·페북·아마존·MS·IBM, 윤리적 인공지능 연구 맞손

가 +
가 -

‘알파고’의 아버지 데미스 허사비스는 본인이 창업한 딥마인드를 구글에 매각할 때 한 가지 조건을 내걸었다. 반드시 구글 사내에 ‘인공지능 윤리 이사회‘ 구성해야 한다는 것이다. 그는 올해 3월 블로터와 인터뷰에서도 인공지능 윤리 기구와 관련해 “현재 학자들과 많은 논의를 하고 있다”라며 “어떤 진행사항들이 있는지는 몇 달 안에 발표할 것 같다”라고 밝힌 바 있다.

그의 바람은 구글 밖에서 실현될 조짐이다. 인공지능 기술을 대표하는 구글과 페이스북, 아마존, MS, IBM 5개 기업들이 9월28일 ‘인간과 사회에 혜택을 주는 인공지능 파트너십‘(이하 ‘인공지능 파트너십’)을 출범시켜서다. 이 파트너십의 논의 테이블에도 구글 본사 관계자뿐 아니라 딥마인드 인공지능 담당자가 별도로 참여했다.

Leading tech industry researchers from Amazon, DeepMind/Google, Facebook, IBM and Microsoft convened to announce a partnership on artificial intelligence (AI) best practices, at IBM’s Watson headquarters in New York City, Weds., September 28, 2016. Founding members of the Partnership on Artificial Intelligence from left: Eric Horvitz, Microsoft; Francesca Rossi, IBM; Yann LeCun, Facebook and Mustafa Suleyman, Google/DeepMind. Not pictured is Ralf Herbrich, Amazon. (Jon Simon/Feature Photo Service for IBM)

‘인간과 사회 혜택을 위한 인공지능 파트너십’에 참여한 5개 IT 기업 담당자들. 아마존 랄프 헤드브리히가 빠져있다. (사진 : 플리커 Jon Simon/Feature Photo Service for IBM, by-nc-nd/2.0/)

인공지능 파트너십 결성 논의는 5개사 핵심 연구진들이 워크숍이나 콘퍼런스, 세미나 등에서 만나 인공지능 기술이 사회에 미칠 잠재적 영향을 토론하면서 자연스럽게 시작됐다. 최종 합의에는 MS의 에릭 호비츠, IBM의 프란시스카 로시, 페이스북의 얀 러쿤, 구글 딥마인드의 무스타파 슐레이만과 구글의 그레그 코라도, 아마존의 랄프 헤르브리히 6명이 참여했다.

인공지능 파트너십은 출범 일성으로 대정부 로비 조직이 아니라는 사실을 강조했다. 이들은 발표문에서 “이 파트너십은 정부나 정치인 일반에게 로비를 의도하지는 않을 것”이라고 했다. 여타 협회들과 달리 IT 기업들의 대정부 로비 창구로 운영하지 않을 것이라는 약속이다.

대신 인공지능 파트너십은 연구 작업을 수행하고 실행 방안을 제안하며 오픈 라이선스로 연구 결과물을 공개하는 데 집중할 계획이라고 밝혔다. 윤리, 공정성, 포용성 분야를 비롯해 투명성, 프라이버시, 상호호환성, 그리고 신뢰성과 기술의 강건성 등이 주요 연구 분야다.

개별 연구결과의 공개 외에도 일반 시민들의 인공지능에 대한 오해를 불식시키고 이해도를 높이기 위한 교육도 진행할 계획이라고 밝혔다.

“우리 그룹은 엄청난 사회적 혜택과 기회가 올 것이라고 전망하고 있다. 하지만 모든 새로운 기술들이 그랬던 것처럼 우려가 존재한다는 점, 새로운 활용 방식과 기능으로 인해 혼란이 있다는 사실을 이해하고 있다. 우리는 이 같은 중요한 이슈들에 대해 함께 논의해갈 것으로 기대하고 있다.”

인공지능 파트너십은 이사회를 기업 쪽 5인, 학계 포함 비영리 쪽 5인으로 구성할 방침이라고 했다. 윤리나 실천 방안 등이 지나치게 상업적 이해만 반영하는 흐름을 견제하기 위해서다. 인공지능 파트너십은 이사회 구성을 위해 앨런 인공지능 연구소와 같은 인공지능 관련 학계나 그룹과 접촉을 진행 중이다.

다음은 지난 3월 <블로터>와 인터뷰에서 데미스 허사비스 구글 딥마인드 CEO가 인공지능 윤리기구 관련 그룹 출범을 암시했던 내용이다.

블로터 : 제가 알고 있는 수준에서 예전에 구글에 인수될 때 페북에 제안을 받았는데. 구글에 인수했을 때 인공지능의 윤리에 대한 위원회를 만들어서 같이 봐달라라고 말했던 것으로 알고 있습니다. 현재 그 활동이 어떻게 진행되고 있고 본인은 이 기준에 대해서 어떻게 생각하고 접근하고 있나요?

두 번째는 레이커즈 와일의 기술적 특이점에 대해서 보통은 2029년이면 인간 수준의 AI 개발이 가능하다고 말하고 있었고, 2045년이면 인간의 지능을 넘어서는 수준까지 갈 것이라 예측을 했었어요. 본인은 커즈와일의 견해에 어느 정도 동의를 하는지 궁금합니다.

데미스 허사비스 : 일단은 그 윤리위가 존재하는 이유가 말씀하신 대로 저희가 윤리를 중요하게 생각하고 있고 이런 기술들을 만들어내는 과학자들의 책임이기 때문입니다. 그런데 여기서 물론 구글뿐 아니라 모든 과학자들의 책임이 아닌가 싶습니다.

어떤 기술을 개발할 때는 이 기술이 어떤 파장을 가지고 올지를 반드시 고려해야 한다고 생각합니다. 그래서 AI 같이 강력한 기술일 경우에는 이 기술 자체는 중립적이지만 인간이 어떻게 이용하느냐에 따라서 좋고 나쁘다라고 말하기 때문에 그런 부분들이 중요하다고 생각하고 있고, 저희가 그런 부분들을 선도하고 있다고 생각합니다.

저희가 여러 콘퍼런스를 연다든지 학자들과 많은 논의를 하고 있습니다. 윤리위는 1년에 한 번씩 모이고 있고 작년에 저희가 한번 모였고요. 어떤 진행사항들이 있는지는 몇 달 안에 발표할 것 같습니다. 그런데 지금까지 저희가 윤리위에서 했던 것은 어떤 문제가 발생할 것이다라는 것보단 복잡한 기술이기에 복잡한 기술에 대한 업데이트를 해드리는 정도였습니다.

두 번째 질문에 관해서는, 레이 커즈와일이 많은 얘기를 하고 있는데 저는 그 분의 책을 읽지는 않았습니다. 제가 특별히 이 분에게서 영감을 얻거나 그러진 않습니다. 저는 말씀하신 기한보다는 오래 걸릴 거라고 봅니다. 이 분의 말씀에 의견이 있지는 않습니다.

네티즌의견(총 0개)