[2015] 인공지능, 희망에서 위험까지

가 +
가 -

테슬라 CEO 일론 머스크가 인공지능을 향해 “핵보다 위험할 수 있다”고 발언했습니다. 심지어 “악마를 부른다”는 자극적 표현도 서슴지 않았습니다. 왜일까 궁금했습니다. 그는 누구나가 인정하는 사업가이자 실력 있는 소프트웨어 엔지니어입니다. ‘아이언맨’ 토니 스타크의 실제 모델이기도 하죠. 그런 그의 입에서 인공지능을 거침없이 비판하는 목소리가 터져나왔습니다. 의아하지 않을 수 없었습니다.

바통은 세계적인 천재 물리학자 스티븐 호킹 박사가 받았습니다. 그 또한 “지금 우리는 인류 역사상 최고의, 어쩌면 최악의 사건을 목전에 두고 있다”라고 했습니다. 세계적인 엔지니어와 물리학 연구자마저도 인공지능에 위험을 경고했습니다. 왜 일까요? 저는 궁금해졌습니다.

인공지능과 기술적 특이점

레이 커즈와일의 저서 '특이점이 다가오다'(출처 : 플리커 Gisela Giardino, CC BY-SA 2.0)

레이 커즈와일의 저서 ‘특이점이 다가오다'(출처 : 플리커 Gisela Giardino, CC BY-SA 2.0)

이 궁금증에 대한 답을 찾기 위해 유신 런던 유니버시티칼리지 교수가 쓴 ‘인공지능은 뇌를 닮아가는가‘를 읽었습니다. 강한 인공지능과 약한 인공지능의 구분, 연결주의와 계산주의의 공학 전통, 분할 후 정복이라는 인공지능 개발 메커니즘, 지능이란 무엇인가에 대한 철학적 질문. 하나하나가 쉬운 것 없는 내용들이었죠.

이 책에서 충격적인 한마디를 발견했습니다.

“레이 커즈와일 같은 기술주의자들은 특이점 이후에 무슨 일이 벌어질지는 알 수 없다는 입장이다. 하지만 어떻게든 인공지능의 성능을 높여보려고 하는 것도 이들 기술주의자들이다.” (유신; 229쪽)

레이 커즈와일은 구글 엔지니어링 이사입니다. 일부 언론사는 그를 천재 발명가라고 평가합니다. 그는 구글 검색엔진의 미래는 인공지능에 있다고 설파합니다. 인공지능 전문가를 넘어 신봉자라고 해도 그리 과하지는 않다는 것이 제 생각입니다.

그는 일론 머스크나 스티븐 호킹의 대척점에 서 있는 연구자입니다. 인공지능이 인류를 더욱 행복하게 해줄 것이라는 믿음을 갖고 있습니다. 기계가 인간의 두뇌를 대체할 수 있다고 주장합니다. 하지만 그것이 가져올 미래와 사회적 영향에 대해선 ‘공학자들이 고민할 거리가 아니다’라는 식으로 어물쩍 떠넘깁니다.

인간 지능 넘어설 날 10여년 앞으로

단적으로 그는 ‘특이점주의자'(Singularitarians)라는 평가를 받습니다. 이 특이점(singularity)이라는 개념은 흥미롭고도 위험해보입니다. 특이점은 버너 빈지라는 미래학자가 1993년 “초지능을 만들어 낼 수 있다면 인간은 더 이상 미래의 발전 속도를 예견하지 못할 것”이라고 주장한 데서 탄생했습니다. 일반적으로 인공지능이 인간의 지능을 넘어서는 시점을 특이점이라고 부른다고 합니다.

버너 빈지와 함께 레이 커즈와일은 대표적인 특이점주의자로 불립니다. 그는 2045년을 특이점이 도래하는 시점이라고 주장합니다. 2029년이면 인간이 만들어낸 인공지능이 인간 수준으로 진화할 것으로 예측하는데요. 그 이후에 세상이 어떻게 될지는 예측이 불가능하다고 강조합니다. 그 시점까지 불과 14년밖에 남지 않았습니다. 일부 연구자는 2017년이면 특이점에 도달할 수 있다고까지 얘기합니다. 그들의 예측이 들어맞는다면 우리는 살아 있는 동안 우리보다 뛰어는 지능을 지닌 로봇과 마주하게 될 것입니다. 마치 영화 ‘터미네이터’처럼 말이죠.

특이점을 이야기하는 글과 말 속에서 그것이 인간 사회를 어떻게 재구성할지는 중요하게 다뤄지지 않습니다. 어떻게 하면 그 시점을 더 빨리 당길 수 있을지, 이를 위해 어떤 기술이 더 개발돼야 할지에만 관심을 갖습니다. 닉 보스트롬 옥스퍼드대 철학과 교수는 “현재 인공지능 연구가 특이점을 향해 달려가는 경쟁력만을 강조하고 이를 어떻게 통제할 것인가 하는 문제는 등한시한다”고 지적합니다.(유신; 222쪽)

레이 커즈와일은 반박합니다. “인공지능을 두려워할 필요가 없다”고. 문제는 인공지능 기술에 있는 것이 아니라 범죄와 폭력을 부르는 인간 사회에 존재한다고 말합니다. 인공지능의 위험을 제거할 수 있는 근본적인 처방은 인간 사회가 범죄 없는 이상적 사회로 한발 더 나아가는 것이라고 주장합니다. 사회적 악이 존재하지 않는 속세, 그것이 인공지능의 위험을 덜 수 있는 진정한 처방전이라는 것이죠. 그는 이렇게 인류의 역사와 동떨어진 불가능을 이야기하고 있습니다.

인공지능을 어떻게 바라봐야 할까

DARPA 등과 계약해 인공지능 무기를 개발하고 있는 록히트 마틴의 고등기술연구소(출처 : 록히드 마틴)

DARPA 등과 계약해 인공지능 무기를 개발하고 있는 록히드마틴의 고등기술연구소(출처 : 록히드 마틴)

일부 철학자들과 과학자들은 인공지능 연구자를 프로메테우스에 비유합니다. 아시다시피 프로메테우스는 흙으로 인간을 주조한 뒤 하늘에서 불을 훔쳐 인간에게 건네줬다 참혹한 형벌을 받게 됩니다. 신화에 불과한 이야기가 가끔은 섬뜩하게 느껴질 때도 있습니다. 인공지능 연구는 프로메테우스처럼 기계에 지능을 부여하는 작업과도 닮아 있기에 그렇습니다.

이초식 고려대 철학과 명예교수는 “인공지능은 기술이나 과학의 차원을 넘어 그 자체가 하나의 철학적 지평에 이르고 있다”고 말합니다. 지능이란 무엇인가에 대한 고찰, 그것이 기계에 의해 재현될 수 있느냐에 대한 끊임없는 물음, 그렇다면 인간은 왜 존재해야 하는가에 대한 근본적인 고민 등이 이어져야 한다는 사실을 강조하기 위해서였습니다.

2015년, 저는 위험하기도 특별하기도 한 인공지능을 더 깊이 파고들 생각입니다. 새로운 인공지능 기술이 등장했다는 단편적인 보도를 넘어서 그것이 미칠 사회적 영향, 그리고 그것이 만들어진 과정 등을 맥락을 담아서 여러분들께 전달해드리겠습니다.

새로운 관련 기술의 등장에 찬사만을 내놓지 않겠습니다. 인공지능과 관련된 기술의 맥락을 들여다보고 우리는 어떻게 해석해야 할지 조목조목 파헤쳐볼 계획입니다. 위험하다면 경고 신호를 보낼 것이고, 유익하다면 칭찬도 아끼지 않을 것입니다.

지금 우리에겐 기술을 바라보는 인문사회과학적 근육이 필요한 시점입니다. 기술은 엔지니어의 전유물이 아닙니다. 기술은 우리의 일상을 지배하고 있고 통제하고 있습니다. 그 가운데 인공지능은 우리 사회에 큰 변화를 몰고 올 핵심적인 기술 분야입니다. 백스터 로봇처럼 인공지능으로 무장한 로봇은 우리의 일자리를 대체합니다. 록히드 마틴의 B-1 폭격기는 인간의 제어 없이 목표물을 공격하고 인간을 살상합니다. 누구를 죽일 것인지 인간이 아니라 인공지능이 판단합니다. 미래가 아니라 이미 일어난 현실입니다.

인공지능은 제게도 도전이 될 것 같습니다. 인공지능을 둘러싼 난해한 용어들, 과학적 지식들, 수많은 논문들과도 힘든 싸움을 벌여야 합니다. 제가 힘들어져야 독자 여러분들이 더 편해질 수 있다는 사실, 잘 알고 있습니다. 여러분들께 더 친절한 뉴스를 제공해드리기 위해 2015년을 힘들게 보내볼 계획입니다. 그런 만큼 많은 관심을 부탁드리겠습니다. 아낌 없는 질책과 비판, 칭찬은 블로터 기사 독자 댓글을 이용해주셨으면 합니다. 직접 해명하고 피드백을 드리겠습니다.

참고 자료

  • 유신.(2014). 인공지능은 뇌를 닮아가는가.
  • 이초식.(1994). 인공지능의 철학적 성찰. 계간 과학사상.

[새소식]

레이 커즈와일은 2029년을 인간 수준의 인공지능이 등장하는 해로, 2045년을 특이점이 도래하는 시점으로 예측했습니다. 2029년을 특이점 도래 시점으로 기재한 부분을 수정했습니다.(2015년 1월3일 오후 1시11분)

네티즌의견(총 26개)