비즈니스

기업 비즈니스, 보안, 네트워크, 기업용 소프트웨어

arrow_downward최신기사

ai

엔비디아, AI 기반 서비스 위한 추론 플랫폼 공개

엔비디아가 추론 가속화 기능을 제공하는 AI 데이터센터 플랫폼을 출시했다. 추론 가속화 기능을 사용하면 AI 기반 서비스에서 응답시간이 빨라져 더 많은 사용자를 응대할 수 있고 빠른 처리 속도로 향상된 서비스 제공이 가능하다. 엔비디아는 9월14일 '엔비디아 텐서RT 하이퍼스케일 추론 플랫폼'을 출시한다고 밝혔다. 이 플랫폼은 ‘엔비디아 튜링 아키텍처’와 새로운 추론 소프트웨어를 기반으로 하는 ‘엔비디아 테슬라 T4 GPU’로 구성됐다. 엔비디아 텐서RT 하이퍼스케일 플랫폼은 실시간 추론 소프트웨어와 CPU보다 최대 40배 빠른 속도로 쿼리를 처리하는 테슬라 T4 GPU를 통해 데이터 처리량과 서버 활용도를 극대화한다. 엔드투엔드 애플리케이션을 위해 낮은 지연시간과 빠른 성능을 제공하며, 대규모 데이터센터 내에서 향상된 자연어 상호작용이 가능하다. 또 검색 시 관련 결과를 나열하지 않고...