에이전틱 인공지능(AI)이 업무를 함께하는 시대가 열렸다. 에이전틱AI는 사람이 개입하지 않아도 업무 맥락을 이해해 판단하고 실행까지 이어가는 자율형 AI다. 이 시장을 공략하기 위해 많은 기업이 나선 가운데 LG CNS와 캐나다 AI기업 코히어는 고객의 보안·업무·산업 특성을 반영한 '맞춤형' 전략으로 승부하겠다고 선언했다.
30일 서울 영등포구 콘래드호텔에서 <블로터>와 만난 자리에서 임은영 LG CNS GenAI 사업담당과 아이반 장 코히어 공동창업자는 에이전틱AI 구축 전략과 사업 로드맵을 소개했다.
에이전틱AI 공략 핵심은 맞춤형 설계
LG CNS와 코히어는 올해 3월 전략적 파트너십을 체결했다. 양사는 이를 통해 1110억개(초대형)와 70억개(경량형) 파라미터로 구성된 한국어 특화 모델을 개발했다. 초대형 모델은 방대한 데이터를 학습해 긴 문맥을 이해하고 복잡한 문제를 추론하는 데 강점을 가진다. 경량형 모델은 연산량이 적어 응답 속도가 빠르고 운영비용이 낮다.
LG CNS가 코히어와 협력한 배경은 맞춤형 서비스를 중시한다는 공통점에서 비롯됐다. 임 담당은 "LG CNS 에이전틱AI의 가장 큰 특징은 고객 맞춤형 서비스를 제공하는 점"이라며 "고객별 파인튜닝을 지원하는 코히어의 철학이 LG CNS와 잘 맞았다"고 설명했다. 파인튜닝은 이미 학습된 대규모언어모델(LLM)에 기업·산업 데이터를 추가 학습시켜 고객 맞춤형 모델로 최적화하는 과정이다.
장 공동창업자도 "LLM은 각 나라와 산업 환경에 맞는 모델을 제공하는 것이 중요하다"며 "하나의 연구소나 모델이 전 세계 모든 상황에 똑같은 해법을 내놓을 수는 없다"고 강조했다.
임 담당은 폐쇄망 환경을 선호하는 고객 수요도 협력의 배경으로 꼽았다. 그는 "금융권 등에서는 클라우드가 아닌 자체 서버 환경을 요구한다"며 "코히어는 온프레미스에서 성능을 보장하고 기업간거래(B2B) 고객 파인튜닝 경험이 풍부하다"고 말했다. 온프레미스는 기업이 직접 보유한 서버나 데이터센터에 소프트웨어와 데이터를 설치·운영하는 방식이다. 외부 사업자의 클라우드를 임대하는 대신 모든 자원을 내부에서 관리한다는 특징이 있다.
다만 고객들은 온프레미스뿐 아니라 클라우드도 활용한다. 두 방식을 결합한 '하이브리드 방식'을 선택하는 사례도 늘고 있다. 임 담당은 "많은 기업이 하이브리드 방식을 택한다"며 "LG CNS는 온프레미스와 퍼블릭 클라우드를 함께 쓰는 경우 두 자원을 통합 모니터링하는 기능을 제공한다"고 설명했다. 이어 "우리는 단순히 플랫폼을 파는 회사가 아니라 고객 상황에 맞춘 솔루션을 제공하는 회사"라고 덧붙였다.
환각 막기 위해 RAG 도입
에이전틱AI 도입 과정에서 고객들이 가장 우려하는 부분은 할루시네이션(환각)이다. 할루시네이션은 AI가 존재하지 않거나 사실과 다른 내용을 만들어내는 현상이다. 이 문제를 막기 위해 코히어는 검색증강생성(RAG)을 기본으로 채택했다. 답변 시 근거 출처를 발췌·제시하도록 설계한 것도 같은 이유다. 출처 없는 응답이 많으면 고객은 AI를 신뢰하지 않기 때문이다.
보안도 핵심 이슈다. 코히어는 강력한 내부 보안 체계를 갖췄다고 설명했다. 이를 기반으로 캐나다 최대 은행인 로열뱅크오브캐나다에도 AI 솔루션을 공급하고 있다. LG CNS 역시 내부 보안 검증 체계를 통해 대규모언어모델의 입출력 모니터링과 보안 점검을 상시화하고 있다.
장 공동창업자는 "코히어는 처음부터 보안과 개인정보 보호를 중심에 두고 AI를 개발했다"고 강조했다. 이어 "자체 보안 시스템을 구축했기 때문에 내부 데이터가 유출될 일은 없다"며 "이는 온프레미스 환경에서도 마찬가지"라고 부연했다.
장 공동창업자는 또 글로벌 AI 기업 입장에서 본 한국 시장의 특징도 짚었다. 그는 "한국은 디지털 네이티브와 얼리어답터가 많아 새로운 도구를 빠르게 도입한다"며 성장 가능성이 크다고 평가했다.