‘제다이’ 따낸 MS, 윤리적 책임에서 자유로울까

가 +
가 -

미국 국방부 클라우드 컴퓨팅 공급 업체가 결정됐다. 미 국방부는 지난 10월25일(현지시간) ‘제다이(JEDI, Joint Enterprise Defense Infrastructure)’라는 국방부 클라우드 서비스 공급 업체에 마이크로소프트(MS)를 선정했다고 밝혔다. 마이크로소프트가 클라우드 업계 강자 아마존웹서비스(AWS)와 경쟁 끝에 이뤄낸 초대형 수주다. 이를 계기로 AWS가 독주해온 퍼블릭 클라우드 시장이 재편될지 관심이 쏠린다.

제다이 프로젝트는 100억달러(약 11조6650억원) 가치로 추산되고 있다. AWS가 수주한 미 육군과의 계약보다 규모가 크다. 제다이는 미 육군, 해군, 해병대, 공군을 포괄하는 미 국방부에 기업 수준의 상업적 클라우드 서비스를 제공하는 프로젝트다. 인터넷이 끊긴 환경, 인트라넷 환경에서도 동작하며, 최전선 영역부터 전술적인 영역에 이르는 모든 단계에서 제공돼야 한다. 또한 현대적인 전투에서 요구되는 업계 표준의 지표들을 생성할 수 있어야 한다. 상업적으로 사용 가능한 새로운 기술의 적극적인 도입도 도와야 한다. 미 국방부는 인공지능(AI)과 클라우드 컴퓨팅을 활용해 대량의 데이터를 저장, 분석함으로써 전쟁 계획과 공격력의 현대화에 이용한다는 계획이다.

| 존 섀너핸 미 국방부 디렉터 (출처=엔비디아)

미 국방부에서 전투 지원을 담당하는 존 섀너핸 디렉터는 2017년 11월 ‘엔비디아 GTC DC’ 기조연설에서 국방부의 GPU 기반 딥러닝 활용을 공유하며 “보안, 정보 및 국방 분야에서 AI 역할이 중요해지고 있다”라며 “철저한 훈련을 통해 양성된 세계적인 수준의 분석 요원들이 풀 모션 영상을 한번 탐독하는데 6-11시간을 소비한다. 2차 세계대전 당시 사진 판독 요원들이 하던 비생산적인 일이고 이는 기계가 더 잘 할 수 있다”라고 강조했다. 그는 AI가 전세계의 안보, 정보 및 국방 분야에 얼마나 큰 영향을 미치고 있는지를 거듭 강조하며 “지금 우리는 데이터 중심의 변화된 환경 속에 살고 있다. 정답은 인력을 늘리는 것이 아니라, 더 나은 도구를 활용하는 것이다”라고도 했다.

국방 분야 IT 기술 활용, 어디까지 허할 것인가

마이크로소프트, AWS, 오라클, IBM 등 테크 기업들은 국방 프로젝트에 대한 야심을 감추지 않는다. 정부 역시 이들 테크 기업의 최신 IT 기술 껴앉기에 급급하다. 이에 대해 테크 기업 직원들의 반발이 거세다. 테크 기업이 인명 살상이나 파괴가 불가피한 정부 기관과 제휴 시 불거질 수 있는 윤리적 책임에서 자유롭지 못해서다.

구글은 2018년 10월 제다이 입찰에서 철수했다. 회사가 만든 AI 윤리 지침이 제다이와 상충된다는 이유에서다. 2018년 5월 미 국방부는 AI를 이용해 방대한 영상 자료를 분석하고 무인 항공기의 타깃 식별력을 향상시키기 위한 ‘프로젝트 메이븐’을 발표했다. 미 국방부는 여기에 구글의 오픈소스 AI 알고리즘 ‘텐서플로우(TensorFlow)’ 지원을 요청했고 구글은 이에 응했다. 국방부가 구글 AI를 활용해 적군의 은밀한 곳까지 고화질 영상을 확보하기 위함이다. 이 사실을 알게 된 일부 직원이 탄원서를 제출했다.

탄원서에서 구글이 프로젝트 메이븐에서 ‘비 공격적(non-offensive)’ 부문에 관여하고 있다고 해도 이것은 구글 이미지를 심각하게 훼손할 것이라고 주장했다. 마이크로소프트, 아마존 같은 다른 기술 기업이 참여하고 있다고 해서 구글도 괜찮다고 해서는 안 된다며 ‘악마가 되지 말자(Don’t Be Evil)’라는 구글의 모토를 지킬 것을 촉구했다. 직원들의 완강한 저지 움직임에 결국 선다 피차이 구글 최고경영자(CEO)는 국방부와 계약을 맺지 않고 앞으로 AI 개발에 대한 윤리적 기준을 엄수할 것을 약속했다.

| 마이크로소프 홀로렌즈

마이크로소프트 또한 내부 직원들의 비판에 직면한 바 있다. 지난 2월 미 육군과 체결한 4억8천만달러(약 5400억원) 규모의 계약을 파기할 것을 요청하는 공개서한을 사티아 나델라 CEO, 브래드 스미스 최고법무책임자 앞으로 보냈다. 이 서한을 통해 직원들은 마이크로소프트 기술이 살상을 효율적으로 하기 위한 도구로 사용되고 전쟁을 ‘시뮬레이션 비디오 게임’으로 만들고 있다고 비난했다.

최대 10만대 이상의 홀로렌즈 공급이 포함된 국방부와 계약에는 ‘병사들이 현재, 미래의 적들과 대결에서 필요한 살상력, 이동성, 상황 인지 능력 개선을 위한 실전, 연습에서 효과적인 플랫폼을 신속하게 개발하는 것’이라고 적혀있다. 마이크로소프트 직원들은 무기 개발을 위해 일하는 것이 아니며, 우리가 하는 일이 어떻게 사용되고 있는지 명확히 알아야 한다며 계약 파기를 요청했다. 마이크로소프트는 당시 이에 대한 입장을 밝히지 않았다.

구글이 프로젝트 메이븐 때 그랬던 것처럼 마이크로소프트의 이번 미 국방부와 클라우드 공급 계약은 논란의 중심에 설수 있다. 상용 기술을 방어 목적으로 활용하자는 국방부 요청에 마이크로소프트가 ‘수호천사’ 역할을 해야 하기 때문이다.

2018년 10월 마이크로소프트 직원들은 경영진에게 “제다이 입찰을 하지 말라”는 서한을 보냈다. 이민세관단속국(ICE)이 국경 지역과 미국내 이민자 대상의 ‘중요한 임무’를 애저 클라우드 서비스를 통해 수행한다고 지적하며 “우리의 반대에도 불구하고 거래는 지속되고 있다. 마이크로소프트가 제다이 입찰을 추진하기로 결정한 것은 명백한 윤리적 지침, 책임성, 투명성에 어긋나는 행위다”라고 짚었다.

네티즌의견(총 0개)