르포 “수정사항 없으면 시작합니다”…오류 최소화한 ‘KT AX 솔루션’

"작업을 시작하겠습니다. 잠시만 기다려주세요." 지난 23일 오전 서울 KT광화문West 이노베이션 허브에서 열린 'AI 전환(AX) 솔루션' 설명회 현장. 이 공간은 지난해 10월 KT가 마이크로소프트와 맞춤형 AX 실현하고자 만들어, AI 에이전트 등이 있는 곳이다. KT 관계자는 해당 AI 에이전트와 자연스럽게 대화하면서 서울시 상권 분석 시스템을 만들어달라고 했다. 경쟁사의 지점 현황 등을 통해 KT가 진출할 수 있는 곳을 구체적으로 알려달라는 요청이었다. 이 관계자는 팀을 구성한 뒤 공공데이터를 활용해달라고도 했다. AI 에이전트는 요구사항을 보여주면서 수정 사항이 있는지 물었다. 이어 "없다"는 대답을 듣곤 일을 곧장 시작했다. AI 에이전트가 일을 진행하는 과정은 직원들이 각자 업무를 수행하고 상사에게 보고하는 모습처럼 시각화해 보여줬다. 화면에 비친 직원들은 KT 관계자가 요구했던 AI 에이전트들로, 일종의 한 팀이다. 엔지니어 등 전체 10여 명이나 됐다. KT 관계자는 "기존에는 시작부터 끝까지 순서대로 진행됐는데, (AI 에이전트들이) 이를 병렬적으로 처리하고 있다"며 "시간을 단축하면서 빠르게 일할 수 있고 의사결정을 내릴 수 있다"고 했다. 5분이 채 지나지 않아 결과가 나왔다. 유동 인구와 경쟁사 점유율 등에 미뤄봤을 때 서울 송파구가 가장 적합하다는 답이었다. 점수로 나와 객관성을 더했다. 여기에 지도상으로 신규 진입하기에 쉬운 곳은 옅은 녹색으로, 어려운 곳은 짙은 붉은색으로 나타났다. 이에 사용자 입장에선 좀 더 쉽게 판단할 수 있었다. KT 측은 고객사들의 어려운 요구에도 AI 에이전트들이 고유의 데이터를 활용해 수준 높은 답을 내놓을 수 있다고 귀띔했다. 실제로 이를 증명하듯, 지난해 10월부터 무려 200여 개의 고객사들이 이곳을 찾았다. 한 달마다 20여 개 고객사들이 방문한 것이다. 이 중 30여 개 고객사는 현재까지 KT와 AX 모델을 구축 중이다. 이는 모두 KT만의 AX 시스템 덕이라는 게 내부 관계자 설명이다. KT는 자체 기술력을 집약한 'KT AX Harness'를 개발해 외부 인프라에 의존하는 에이전트, 도구, 프롬프트의 설계 구성을 내재화하고 자체적으로 조율할 수 있는 특징이 있다. 특정 AI 모델에 종속되지 않고, 상황에 맞춰 필요한 모델을 자유롭게 만들 수 있도록 한 것이다. 전방 배치 엔지니어(FDE) 기반의 사업 개발, 컨설팅 등의 인력이 원팀으로 참여하는 'KT AX Squad'로 일 처리를 지원하도록 설계하기도 했다. AX Squad는 AX 사업의 효과성을 초기에 집중적으로 검증하도록 한다. 이 외에 업무 수행 단계를 세분화한 '파이프라인'으로, 계획 수립을 거쳐 결과가 나오기까지 항상 명확한 답이 나올 수 있도록 했다. 오류를 최소화하고자 한 것이다. KT의 AI 에이전트가 비교적 이른 시간 안에 높은 정확도의 대답을 내놓을 수 있는 것도 이 때문이다. 전승록 KT AX 전략본부 본부장은 "AX 베이스캠프인 이노베이션 허브에서 (고객사 대상으로) 여러 컨설팅을 진행하고 있고, 또 챌린지를 하고 있다"며 "선순환 고리로 방향을 조정하며 AI 벨류를 계속 증명할 것"이라고 말했다. 그러면서 "AX를 통한 사업화 구조를 만들어 AI 데이터센터와 연계할 계획"이라며 "이에 따른 KT의 빠른 수익 발생도 이뤄질 것"이라고 덧붙였다.