“AI 운영 비용 90% 절감”…LGU+, 내년 ‘토큰 경제’ 사업화 시동 건다

'토큰 단가' 넘어 업무 완결 '총비용' 혁신 목표
질문 난도에 따라 서로 다른 AI 배정
동일한 검색 및 검증 작업 반복 지양

권기덕 LG유플러스 AX엔지니어링랩장이 12일 서울 서대문구 위드스페이스에서 열린 'AI 토큰 최적화 스터디'에서 발표하는 모습./연찬모 기자

LG유플러스가 내년 차세대 성장동력으로 '토큰 경제'를 낙점했다. 전세계적인 AI 에이전트 확산에 따라 급증하는 AI 운영 비용을 대폭 낮추는 게 골자다. 기존 AI 에이전트의 성능을 유지하면서 토큰 사용량은 최대 90%까지 줄이는 기술 실증까지 성공적으로 마무리한 상태다. 연간 200조원 이상 규모로 가파른 성장이 예상되는 토큰 시장을 겨냥, B2B 영역을 중심으로 주도권 선점에 나설 방침이다.

이혜진 LG유플러스 기술전략담당은 지난 12일 서울 서대문구 위드스페이스에서 열린 'AI 토큰 최적화 스터디'에서 "일상에서 AI를 사용하는 패턴이 있나 싶을 정도로 정서적인 교감 영역까지 다양하게 쓰이고 있다"며 "결국 AI가 우리 옆에 있고, 토큰은 계속 소비되는 구조가 되면서 토큰 사용량을 낮추는 게 핵심 과제로 떠올랐다"고 설명했다.

토큰은 AI가 사용자의 질문을 이해하고 답변하는데 사용하는 데이터 단위를 의미한다. AI 에이전트의 진화에 따라 보다 정교한 답변을 추론할수록 토큰 사용량도 증가한다. AI 에이전트 활용도가 높은 기업일수록 AI 운영 비용이 크게 불어날 수밖에 없다. LG유플러스는 단순한 '토큰당 단가' 인하를 넘어, 고객이 AI로 하나의 업무를 완결하는 데 드는 '총비용'을 낮추는 데 승부수를 던졌다. 이 담당은 "기존에는 더 똑똑한 AI 모델을 선보이는 경쟁이었다면, 이제는 동일한 업무를 얼마나 적은 토큰으로 처리할 수 있는 지의 경쟁"이라며 "이를 통해 기업의 마진과 ROI(투자수익률)가 바뀔 수 있다"고 강조했다.

LG유플러스는 자체 AI 에이전트 '익시오'와 AI 데이터센터 운영을 통해 확보한 이용 패턴과 기술을 토큰 최적화에 적용했다. 질문의 난이도에 따라 서로 다른 AI를 배정하는 '다이내믹 쿼리 라우팅'이 대표적이다. 낮은 수준의 추론에는 경량 모델을, 높은 수준의 추론에는 고성능 모델을 연결하는 방식으로, 답변의 품질은 유지하면서도 토큰 사용량을 낮출 수 있다. 내부 검증을 통해 일반 질문에서 25% 이상, 코딩 에이전트에서 30% 이상의 토큰 절감 효과를 확인했다.

추론 과정에서 동일한 검색이나 검증 작업을 반복하지 않고, 효율적으로 결과를 도출하도록 제어하는 '하네스 엔지니어링' 기술도 개발 중이다. 권기덕 LG유플러스 AX엔지니어링랩장은 "토큰 소모가 심한 코딩 영역의 경우 85~90% 수준의 토큰 사용량 절감이 가능한 것을 확인했다"고 말했다. AI 구동에 필수인 반도체를 최적화하는 데에도 공을 들이고 있다. 엔비디아와 AMD의 GPU(그래픽처리장치), 퓨리오사AI의 NPU(신경망처리장치)를 활용해 업무 특성에 맞는 반도체로 분산 처리하는 방식이다. 이를 통해 하드웨어 원가까지 낮출 수 있다.

회사 측은 내년부터 자체 인프라뿐만 아니라, 협력사 제휴를 통해서도 토큰 시장 공략에 나설 계획이다. 업계에선 내년 전세계 토큰 시장이 215조원에 달할 것으로 보고 있다. 이상엽 LG유플러스 CTO는 "고객의 AI 성능은 높이고, 청구서를 낮추는 사업을 추진할 것"이라며 "가장 합리적인 비용으로 최고의 AI 성과를 낼 수 있도록 시장을 주도해 나가겠다"고 말했다.