기업의 인공지능(AI) 도입 프로젝트 대다수가 실패하는 이유는 AI 모델이 아니라 데이터다. 이에 글로벌 AI 데이터 클라우드 기업 스노우플레이크가 데이터 전략 중심의 AI 구현 방법론을 제시한다. JP모건 등 글로벌 금융사 사례와 함께 국내 적용 가능성도 공개한다.
이달 20일 서울 강남구 강남파이낸스센터에서 <블로터>와 만난 김도현 스노우플레이크 전무는 "복잡성을 단순화해야만 AI를 실제로 실행할 수 있다"며 "여전히 많은 기업이 AI 모델에만 집중하는데, AI가 필요로 하는 데이터 기반에 먼저 관심을 가져야 한다"고 강조했다.
김 전무는 오라클 등에서 데이터·분석 플랫폼 사업을 담당하다 4년 전 스노우플레이크 한국 지사 설립과 함께 합류했다. 현재 금융서비스와 일반기업(커머셜) 사업을 총괄하고 있다.
스노우플레이크는 2012년 오라클 출신 데이터베이스 전문가들이 설립한 클라우드 데이터 플랫폼 기업이다. 오픈소스를 쓰지 않고 자체 기술로 데이터베이스를 개발한 게 특징이다. 2014년 아마존웹서비스(AWS) 환경에서 서비스를 시작했고 지난해에만 200개 이상의 새 기능을 내놨다.
"AI 실패, 모델 탓 아니다"
AI 프로젝트가 줄줄이 좌초하는 배경에는 데이터 문제가 있다. 포춘에 따르면 기업 AI 도입 프로젝트의 75%가 실패로 끝난다. 세일즈포스 조사에서는 데이터 시스템의 62%가 AI를 제대로 활용할 준비가 안 됐고, 스노우플레이크 자체 조사에서도 64%가 생성형 AI에 필요한 데이터 통합에 어려움을 겪는다고 답했다.
김 전무는 "고객사를 만나보면 AI 프로젝트가 실패하는 건 AI 모델 때문이 아니다"라며 "대부분 기업에서 시스템이 부서별로 따로 놀고, 데이터 형식도 운영 방식도 제각각이라 AI가 바로 쓸 수 있는 데이터가 준비되지 않은 상태"라고 진단했다.
AI도 진화하고 있다. 전통적 AI는 정해진 규칙대로만 움직였고, 생성형 AI는 글을 이해하고 만들어내지만 사람이 계속 지시해야 한다. 반면 '에이전틱(Agentic) AI'는 스스로 학습하고 판단해 최소한의 감독만으로 복잡한 업무를 처리한다.
김 전무는 "2년 전 젠슨황 엔비디아 최고경영자(CEO)가 AI를 '대학 졸업한 인턴'에 비유했고, 올해 샘 올트먼 오픈AI CEO는 '주니어 데이터 엔지니어'라고 표현했다"며 "사람이 일일이 지시하는 보조 역할에서 벗어나 처음부터 끝까지 알아서 처리하는 단계로 넘어가고 있다"고 설명했다.
스노우플레이크는 데이터 수집부터 저장, 통합, 분석, AI 적용까지 하나의 플랫폼에서 처리하는 방식을 내세운다. 표 형태로 정리된 정형 데이터와 문서·이미지 같은 비정형 데이터를 함께 다루고, 외부 데이터까지 연결할 수 있다.
핵심은 보안이다. 김 전무는 "다른 서비스는 데이터를 AI 모델이 있는 곳으로 옮겨야 하는데, 스노우플레이크는 AI 모델이 플랫폼 안에 들어와 있어 데이터가 밖으로 나가지 않는다"며 "기존에 정해둔 보안·관리 정책을 그대로 적용할 수 있다"고 말했다.
JP모건, 자연어로 금융 데이터 분석
대표 사례가 JP모건이다. 기관투자자들은 투자 판단을 위해 사내 데이터와 외부 지표, 환율 등 여러 출처의 정보를 분석해야 하지만, 데이터가 흩어져 있어 통합하기 어려웠다. 데이터베이스에서 정보를 꺼내 오는 명령어인 SQL을 다룰 줄 모르는 투자자는 매번 분석을 요청하고 기다려야 했다.
JP모건은 자체 데이터 서비스를 스노우플레이크 기반으로 통합하고, AI 기능인 '코텍스'를 결합했다. 이제 기관투자자들은 "브라질에 대한 내 주식 위험 노출액은 얼마인가?", "내 포트폴리오의 30일 변동성은?" 같은 질문을 일상 언어로 던지고 바로 답을 얻는다. 김 전무는 "복잡한 재무 질문도 대화하듯 처리할 수 있게 돼 과거보다 빠르고 정확하게 인사이트를 얻는 환경이 만들어졌다"고 전했다.
스노우플레이크 AI의 핵심 기술은 '코텍스 애널리스트'다. 일상 언어 질문을 데이터베이스가 이해하는 명령어로 바꿔주는 기능인데, 스노우플레이크에 따르면 변환 정확도가 92%에 이른다. 같은 기능에서 GPT-4o가 55%에 그치는 것과 비교된다.
비결은 '시맨틱 레이어'다. 같은 개념을 부서마다 다른 용어로 부르는 경우가 많은데, 시맨틱 레이어가 '매출'과 '세일즈', '판매액'처럼 다른 표현을 하나로 연결해 주는 사전 역할을 한다.
문서나 이미지 같은 비정형 데이터를 다루는 '코텍스 서치'도 있다. 의미 기반 검색과 키워드 검색을 함께 쓰는 방식으로, 평균 검색 정확도가 오픈AI보다 11% 높다.
이런 사례가 국내에서도 재현될 수 있을까. 김 전무는 "국내 금융권은 규제나 데이터 복잡성이 높지만, 이미 많은 한국 금융사가 코텍스 AI로 에이전트 개발을 준비하고 있다"며 "시험 적용(POC)을 마치고 본격 프로젝트를 앞둔 곳도 있다"고 밝혔다.
도입 단계에 따라 접근법도 달라진다. 데이터가 부서별로 흩어진 초기 단계 기업에는 하나의 플랫폼으로 모으고 관리 체계를 통합하는 걸 먼저 권한다. 스노우플레이크에 따르면 이 단계에서 전체 운영 비용이 평균 45% 줄고 처리 속도는 30% 빨라진다. 데이터 기반이 갖춰진 다음에는 시맨틱 레이어를 적용해 새로운 AI 업무 흐름을 만들고 데이터를 수익화하는 방향으로 나아간다.
김 전무는 "한국은 글로벌 AI 강국으로, 많은 기업이 AI 프로젝트를 최우선 과제로 준비하고 있다"며 "국내 기업의 높은 열의에 발맞춰 프로젝트 성과 창출에 집중할 계획"이라고 밝혔다.
이어 "제품, 기술 제공을 넘어 AI 프로젝트의 준비부터 완료, 성과까지 밀착해서 지원할 것"이라며 "데이터 인프라 구축 부담을 덜고 AI 실행을 가속하는 데 초점을 맞추고 AWS, 애저, 구글클라우드플랫폼(GCP), 컨설팅 등 에코시스템을 통해 기업이 AI 투자 대비 체감 투자수익률(ROI)을 얻도록 컨설팅을 제공할 예정"이라고 강조했다. 또 "이러한 지원을 통해 금융, 제조 분야의 성공 사례를 국내에서 발굴하고 나아가 한국 AI 생태계에 주도적인 역할을 하도록 할 것"이라고 덧붙였다.
김 전무는 <블로터> 주최로 이달 26일 서울 서초구 양재동 엘타워에서 열리는 'AI 클라우드 퓨처 서밋 2026'에서 이 같은 내용을 발표한다. 그는 이번 서밋에서 AI를 비전이 아닌 현실로 만들고자 하는 실무자들이 프로젝트를 성공시키기 위한 명확한 방법을 제시할 예정이다.
이번 서밋은 'AI에이전트 인사이트: 산업별 인공지능전환(AX) 혁신사례와 전략'을 주제로 열린다. 한국마이크로소프트, 한국IBM, 업스테이지, 베스핀글로벌, 하나은행, 카카오뱅크, SK텔레콤 등도 각 사의 AI 전략을 나눈다.