Red Hat과 공동 구축한 'Agentic AI' 플랫폼 사례 발표
|
'Red Hat Summit'은 글로벌 오픈소스 기업 레드햇(Red Hat)이 2005년 미국 뉴올리언스에서 처음 개최한 이후 매년 진행하고 있는 오픈소스·클라우드·AI기술 콘퍼런스로 매해 전 세계 IT 리더, 개발자 및 엔지니어 등 수만명이 참석하는 글로벌 행사다.
BC카드는 지난 14일(현지시간) 미국 애틀란타에서 진행된 이번 'Red Hat Summit 2026'에서 국내 금융사 중 최초로 발표자로 초청받아 레드햇과 지난 1년여간 동안 공동으로 구축한 'Agentic AI 운영 플랫폼' 사례를 이날 글로벌 무대에 최초로 공개했다.
'Agentic AI'는 단순 답변을 넘어 스스로 판단하고 행동하는 AI를 의미한다. 이를 활용한 'Agentic AI 운영 플랫폼'은 하나의 LLM(Large Language Model)에 모든 업무를 의존했던 기존 방식에서 영역별로 특화된 다수의 SLM(Small Language Model)을 군집화(Swarm)해 동시에 처리할 수 있도록 했다.
특히, LLM의 경우 높은 운영 비용과 느린 처리 속도라는 한계가 존재했지만 SLM은 특정 업무에 최적화되어 안정적 결과 도출은 물론 추론 속도가 최대 3배 이상 향상됨과 동시에 GPU 자원을 최대 70%까지 절감할 수 있게 됐다.
이날 행사장에서 BC카드는 연간 100억 건 이상 결제 데이터를 처리하며 축적한 노하우를 AI 기술에 접목시켜 고가의 GPU 자원을 효율적으로 분산한 사례를 발표했다. 이 과정에서 운영 비용이 획기적으로 낮아졌고 서비스 속도도 3배 이상 끌어올리는 성과를 거뒀다.
이 같은 기술적 성과를 기반으로 단순 도입하는 AI 서비스를 넘어 Eat.pl(실시간 소비 패턴 분석 후 맛집 추천), BCGPT(금융 특화 생성형 AI 플랫폼 통한 임직원 업무 지원), MOAI(여러 AI 연결해 업무 자동화 구현) 등 현재 운영 중인 서비스도 소개해 글로벌 기업들의 관심도 이끌어냈다.
R&D 기술 개발 외 글로벌 AI 인프라 발전에 기여하기 위한 다양한 활동도 병행하고 있다.
BC카드는 자체 개발한 AI 모델과 한국 금융 특화 데이터셋을 전세계 개발자들이 사용할 수 있도록 글로벌 LLM 오픈소스 허브인 '허깅페이스(Hugging Face)'에 약 38개의 LLM을 오픈소스로 공개한 바 있다.
이를 통해 국내 금융권 유일의 글로벌 LLM 컨트리뷰터로도 활동하고 있으며 월 평균 10만여 건 다운로드라는 가시적인 성과를 내고 있다. 이는 폐쇄적인 금융권 이미지를 벗고 전세계 기술 표준을 선도하는 리더로서의 면모를 보여준 대표적 사례로 평가받고 있다.
BC카드 오성수 AI데이터본부장은 "이번 Red Hat Summit에서의 발표는 BC카드의 글로벌 수준 Agentic AI 엔지니어링 역량이 세계 무대에서 공식적으로 인정받는 의미 있는 자리였다"면서 "한국 금융권을 대표해 단순한 AI 도입 사례를 넘어, 오픈소스 생태계에 기여하는 기술 주체로서의 정체성을 지속적으로 보여줄 예정"이라고 밝혔다.
