KT, ‘모두의 AI’ 출시 채비…6000만 접점 늘리고 연산 효율 높인다

11일 KT '모두의 AI' 사업 전략 설명회
다른 회사 참여 요청에 접점 확대 구상
토큰팩토리 활용…복수의 AI 모델 연결
수익화에 대해선 "필요한 때 프리미엄"

11일 열린 KT '모두의 AI' 사업 전략 온라인 설명회에서 이진형 AX사업담당 상무가 설명하고 있다. /KT

정부의 '모두의 AI' 사업 수행자로 선정된 KT가 정식 출시를 앞두고 서비스 준비에 속도를 내고 있다. 컨소시엄에 참여한 다음·무신사·직방 등으로 이용자를 빠르게 확보하고, 국산 인공지능(AI) 모델을 나눠 쓰는 방식으로 운영 비용을 낮추겠다는 계획이다. 중장기적으로는 정부 지원에 기대지 않고 지속 가능한 서비스 구조까지 만들겠다는 방침이다.

11일 열린 KT '모두의 AI' 사업 전략 온라인 설명회에서 이진형 AX사업담당 상무는 "일반적인 정보를 알려주는 AI는 많지만, 정확한 검색을 바탕으로 추천하고 실제 행동까지 연결해주는 AI는 아직 부족하다"며 "국민이 생활 속에서 실제로 쓸 수 있는 AI를 만드는 게 목표"라고 밝혔다.

현재 KT가 준비 중인 AI 서비스 '이음'은 기존 서비스를 통해서 이용할 수 있도록 설계되고 있다. AI 기능이 담긴 '이음 인사이드'를 다음·무신사·직방·다나와 등에 넣는 방식이다. 예를 들어 다나와에서 에어컨을 검색하다가 이를 활용하면 여건에 맞는 제품을 다시 비교하고 추천하게끔 하는 것이다.

이에 KT는 초기 이용자를 최대한 확보하겠다는 전략이다. KT와 함께하는 다음·무신사 등의 서비스 접점만 6000만개 이상에 이른다. 여기에 KT는 파트너들을 추가하며 접점을 더 확대할 예정으로, 이미 다른 회사들의 참여 요청이 잇따르는 상황이라고 한다. 이 상무는 "금융뿐만 아니라 생활 서비스 관련 회사들이 파트너로 신청하고 있고, 계속 (파트너십을) 열어두고 할 예정"이라고 했다.

이용자가 늘면서 커지는 비용은 '토큰팩토리'로 최대한 낮추겠다는 구상이다. 토큰팩토리는 입력한 명령어(프롬프트) 처리와 응답 생성을 분리해 각 단계에 최적화된 자원을 할당하면서 분당 토큰 처리량을 약 31% 향상시킨다. 입력 토큰을 최대 80%까지 감소시킬 수도 있어 그래픽처리장치(GPU) 활용도를 높일 수 있는 게 특징이다.

KT는 업스테이지 'Solar', 모티프테크놀로지스 'Motif', 솔트룩스 'LUXIA', NC AI 'VARCO' 등으로 각 모델의 강점에 따라 이용자와 연결하겠다고도 했다. 그만큼 운영상 효율을 높이겠다는 취지다. 이 상무는 정부의 사업 수행자로 참여하기 이전부터 준비해 온 사안이라고 설명했다.

정부 지원과 별도로 자체적인 GPU도 확보하고 있는 상태라고 강조했다. 이 상무는 "GPU와 서비스 성능은 상관관계가 있다"며 "추가적인 GPU를 준비해서 문제가 생길 때 뒷받침할 것"이라고 말했다. 그러면서 "문제가 덜 발생할 수 있도록 갖고 있는 부분을 활용할 것"이라고 덧붙였다.

일각에서 제기되고 있는 수익화에 대해선 프리미엄 모델을 고려할 수 있다고 했다. 앞으로 5년 동안 진행되는 정부 지원이 끝나면 자체적인 수익 구조로 연속성을 유지할 수 있다는 것이다. 이 상무는 "어느 시점에서 한다고 하면 대국민 프리미엄 형태로 별도 제공할 것"이라며 "전문가나 업무용으로, 유료화가 필요한 때에 적용할 것"이라고 전했다.