디지털라이프

디지털 기기, 게임, IT 정책

arrow_downward최신기사

ai

MS, "규제가 AI 기술 발전에 지침 될 수도"

1%, 7%, 12%, 35%. 각각 백인 남성, 백인 여성, 흑인 남성, 흑인 여성이 안면인식 소프트웨어를 사용했을 때 인식 오류율이다. 인공지능(AI) 학습에 사용되는 안면인식 데이터가 백인 남성 위주로 편향됐다는 점이 기술적 차별을 낳았다. 미국 아마존이 개발한 AI 고용 시스템은 소프트웨어 개발자나 기술직군에서 여성 지원자를 배제했다. 아마존은 지난 10년간 회사에 접수된 입사 지원서를 기초로 훈련 데이터를 구축했는데, 당시 지원자 대부분이 남성이었던 점을 반영해 데이터 편향이 발생한 탓이다. 지난해 AI 분야에서 논란이 된 부분은 기술에 내재된 차별 가능성이다. 기술은 중립적이라는 말이 무색하게 다양한 부작용들이 불거져 나왔다. AI 기술의 부작용에 대한 우려가 늘면서 자성의 목소리도 커졌다. 글로벌 IT 기업들은 '윤리적 AI'를 강조하기 시작했다. 마이크로소프트는...

ai

"AI 차별 논란, 규제가 답은 아니다"

미국 아마존은 2014년부터 인공지능(AI)을 활용한 고용 시스템을 준비했다. AI가 입사 지원서를 검토하고 인재를 추천하는 방식이다. 하지만 지난해 초 관련 개발팀을 해산시켰다. 해당 프로그램에 성차별적 요소가 발견됐기 때문이다. AI가 소프트웨어 개발자나 기술직군에서 추천한 지원자의 대다수는 남성이었다. 아마존은 지난 10년간 회사에 접수된 입사 지원서를 기초로 훈련 데이터를 구축했는데, 당시 지원자 대부분이 남성이었던 점을 반영해 데이터 편향이 발생한 탓이다. 최근 AI에 의한 차별 논란이 곳곳에서 불거지고 있다. 공정성이 중요한 사회적 가치로 떠오르면서 AI에 의한 합리적인 의사결정이 이뤄질 거라는 기대도 커지고 있지만, 훈련 데이터의 편향성과 AI 의사결정 과정의 불투명성 등이 문제로 지적되면서 윤리적 AI에 대한 연구도 늘고 있다. 네이버가 12월4일 발간한 ‘네이버 프라이버시 백서’에도...

ai

카카오, 유네스코 주최 포럼서 'AI 기업 윤리' 소개

카카오가 유네스코 주최 인공지능(AI) 정책 포럼에 초청돼 AI 기업 윤리에 대해 발표한다. 유네스코 본부가 11월15일(현지시간) 프랑스 파리에서 여는 AI 정책 포럼의 주제는 '지식사회의 발전과 올바른 거버넌스 구축을 위한 AI 활용'이다. 세계 각국의 관련 분야 전문가들이 참석해 AI 기술의 개발 및 활용에 대해 기술·윤리·정치·사회·법률 등 다양한 측면에서 논의하고, 발전적 대안을 모색하는 자리다. 카카오는 정책 포럼에서 AI 기업 윤리 사례로 '카카오 알고리즘 윤리 헌장'을 소개한다. 카카오가 AI 기술을 통해 구현하고자 하는 사회적 가치도 함께 설명할 예정이다. 카카오는 지난 1월 국내 기업으로는 처음으로 AI 기술 개발 및 윤리에 관한 원칙인 카카오 알고리즘 윤리 헌장을 발표했다. 카카오 알고리즘 윤리 헌장에는 인류의 편익과 행복을 추구하는...

ai

삼성전자, AI 국제협력단체 가입…윤리적 AI 만든다

인공지능(AI)의 영향력이 커지면서 윤리적 AI에 대한 요구도 커지고 있다. 각 기업은 지속가능한 책임성 있는 AI 개발에 힘쓰고 있다. 삼성전자는 공정성·투명성·책임성 등 AI에 대한 사회적 논의에 적극적으로 참여하기 위해 AI 국제협력단체 'PAI'에 가입했다고 밝혔다. 삼성전자는 구글 등 글로벌 AI 기업들과 함께 윤리적 AI를 개발하기 위한 협력을 확대해나갈 예정이다. 삼성전자는 11월9일 AI 국제협력단체 'PAI(Partnership on AI)'에 가입했다고 밝혔다. 국내 기업이 PAI에 가입한 건 이번이 처음이다. PAI는 2016년 AI의 잠재적 위험성이 사회적 이슈로 떠오르면서 설립된 국제협력단체다. 사람과 사회를 위한 윤리적인 AI 연구와 개발을 통해 사회에 긍정적인 영향을 미치는 걸 목적으로 하며, 현재 아마존, 구글, 마이크로소프트 등 70여개 글로벌 기업이 회원사로 참여하고 있다. PAI의...

ai

사티아 나델라 MS CEO, "AI는 윤리적이어야 한다"

"프라이버시, 사이버보안, 윤리적 AI." 4년 만에 한국을 찾은 사티아 나델라 마이크로소프트 CEO는 인공지능(AI) 기술로 인한 '기회와 책임'을 말했다. 기술의 영향력이 커진 만큼 AI 개발과 활용에 대해 책임감을 갖고 기술에 대한 신뢰를 구축해야 한다는 이유에서다. 사티아 나델라 CEO는 "컴퓨터가 무엇을 할 수 있는지가 아니라, 무엇을 해야 하는지 물어야 할 때"라며 윤리적 AI에 대해 강조했다. 한국마이크로소프트는 11월7일 서울 홍은동 그랜드 힐튼 호텔에서 '퓨처 나우' AI 컨퍼런스를 열었다. 국내외 AI 전문가를 비롯한 관계자 1500명이 참석한 가운데 열린 이번 행사에서는 AI 기술로 창출되는 비즈니스 기회 및 이와 함께 동반되는 책임에 대한 AI 방향성이 제시됐다. 이날 기조연설에 나선 사티아 나델라 CEO는 기업의 규모와 관계없이 최신...