KT클라우드, NPU 인프라 국내 최초 상용화…클라우드 기반

/제공=KT클라우드

KT클라우드는 반도체 설계 전무기업 리벨리온의 '아톰'을 적용한 클라우드 기반 NPU(신경망처리장치) 인프라 서비스를 국내 최초로 상용화했다고 27일 밝혔다.

NPU는 AI 분야에 최적화된 설계로 AI 반도체로 불리며, 동급의 GPU와 비교했을 때 연산 속도가 빠르고 전력 소모가 낮다는 장점이 있다.

KT클라우드는 리벨리온과 협력해 고성능을 인정받은 NPU '아톰'을 탑재한 클라우드 기반 NPU 인프라를 최초로 상용화했다.

KT클라우드는 NPU를 클라우드 기반으로 이용할 수 있도록 플랫폼에 적용하고, NPU 자원 공유 풀 구성,관리 및 오토 프로비저닝 구현 등을 통해 서비스화했다.

클라우드 기반 NPU 인프라는 클릭 몇 번으로 고객이 직접 자원을 생성, 연산 세션 활용, 관리할 수 있어 편의성이 높다.

이 서비스는 언어 및 비전 모델 지원이 필요한 관제, 의료 등 이미지 처리 기반 산업 분야와 고객 서비스, 교육 등 자연어 처리 기반 산업 분야의 기업들에게 제공된다.

이번 서비스에 탑재된 리벨리온의 '아톰'은 금융 거래에 특화된 AI 반도체 '아이온'에 이어 리벨리온이 두번째로 선보이는 AI 반도체로, 국내 타 팹리스가 개발중인 2세대 NPU 수준의 성능을 갖추고 있다.

아톰은 트랜스포머 언어 모델과 부동 소수점 연산을 지원하는 유일한 국산 NPU다. 리벨리온은 아톰의 성능을 보다 업그레이드한 버전도 준비 중이며, 이에 맞춰 KT클라우드의 NPU 인프라를 고도화해 2024년 이후에는 차기 NPU 모델인 '리벨'을 선보일 계획이다.

윤동식 KT클라우드 대표는 "KT클라우드는 초거대 AI를 위한 종량제 AI 인프라 서비스인 하이퍼스케일 AI 컴퓨팅(HAC)을 출시해 AI 산업의 문턱을 낮춘데 이어, 국내 최초 클라우드 기반 NPU 인프라 상용화로 AI 분야 혁신을 이끌고 있다. 앞으로도 AI 인프라 혁신과 AI 반도체 고도화로 대한민국 초거대 AI 산업 활성화에 앞장 설 것"이라고 밝혔다.