|
망고부스트는 12일 오전 서울 강남구 그랜드 인터컨티넨탈 서울 파르나스에서 기자간담회를 열고 망고인퍼런스를 공개했다. 이날부터 본격적인 서비스 운영에 들어갔으며 오는 11월 11일까지 30일간 무료 크레딧 제공과 최신 모델 할인 프로모션을 진행한다.
김장우 망고부스트 대표는 이날 그래픽처리장치(GPU) 간 고속 통신을 지원하는 네트워크 카드 설계 기술이 회사의 핵심 경쟁력일고 설명했다.
김 대표는 "GPU들을 연결할 수 있는 고속 네트워크 카드를 독자적으로 설계해 공급할 수 있는 회사는 전 세계에 3~4곳 정도"라며 엔비디아, AMD, 브로드컴, 망고부스트 등을 언급했다. 이어 "GPU와 스토리지 메모리를 연결하는 카드는 브로드컴에도 없고 AMD에도 없다. 망고부스트와 엔비디아만 갖고 있다"며 "현재 네트워크 카드에서는 망고부스트와 엔비디아가 세계 최고 수준"이라고 설명했다.
망고부스트는 자체 설계한 하드웨어와 소프트웨어를 통합해 기업 고객에게 제공하는 풀스택 AI 인프라를 차별점으로 내세웠다. 김 대표는 "하드웨어부터 소프트웨어까지 전 세계에서 가장 가성비가 좋은 시스템을 만들고 있다"고 밝혔다.
회사는 이러한 기술력을 바탕으로 망고인퍼런스의 가성비를 높인다는 계획이다. 망고부스트측은 망고인퍼런스가 최고 성능 기준으로 경쟁사보다 20% 이상 저렴한 가격이라고 설명했다. 기업 고객의 실제 사용량에 따라 요금이 책정되며 딥시크와 키미 등 개방형 AI 모델을 활용해 토큰 사용량을 줄이면서 처리량을 높이는 방식으로 비용을 낮췄다.
김 대표는 기존에 GPU 서버와 스토리지 서버, 네트워크 카드, 소프트웨어를 개별적으로 공급하던 사업 방식에서 벗어나 이를 하나의 인프라로 구성해 서비스를 제공한다고 설명했다. 하드웨어 설계부터 소프트웨어 최적화까지 직접 수행해 비용 경쟁력을 확보하겠다는 취지다.
망고부스트는 올해부터 본격적인 사업화를 시작했으며, 올해 100억원 이상의 매출을 기록할 것으로 전망했다. 김 대표는 내년에는 올해보다 100배 이상의 매출도 가능할 것으로 내다봤다.
국내 데이터센터 구축도 추진하고 있다.
김 대표는 서울 강남구 도산공원 인근에 1메가와트 규모 데이터센터를 구축하고 있으며 2027년 1분기까지 관련 인프라 구축을 마무리할 계획이라고 밝혔다. AMD의 최신 GPU 수백 장을 확보했으며 수십 장이 이미 국내에 들어왔다고 설명했다. 향후 수만 장 규모의 GPU를 확보하는 로드맵도 마련했다고 덧붙였다.
그는 GPU 수급과 관련해 "GPU 메모리 등을 원할 때 원하는 가격으로 사올 수 있다"며 "GPU를 받는 것에 대해서는 이미 계획돼있다"고 자신감을 보였다.
망고부스트는 AI 인프라의 국내 운영과 데이터 관리도 주요 경쟁력으로 제시했다. 권동업 망고부스트 최고기술책임자(CTO)는 국내에서 AI 인프라를 운영하고 데이터와 이용 패턴을 관리해야 기술 개선에 필요한 피드백을 축적하고 국가 차원의 AI 자산을 확보할 수 있다고 설명했다.
권 CTO는 "한국에서 데이터센터를 구축하고 운영하며 그곳에서 만들어지는 모든 데이터를 한국에서 관리해야 한다"며 "AI 활용 패턴, 피드백, 데이터 보존까지 해당 국가에서 이뤄져야 한다"고 강조했다.
앞서 리사 수 AMD 회장 겸 CEO도 망고부스트와의 협력을 언급했다. 수 회장은 지난 7일 서울 포시즌스호텔에서 류제명 과학기술정보통신부 2차관과 면담한 자리에서 "AI 스타트업뿐만 아니라 더 넓은 범위의 사용자들이 AI 기술에 쉽게 접근할 수 있도록 투자를 아끼지 않고 있다"며 "이러한 투자의 첫 단계로 망고부스트와 파트너십을 맺고 클라우드 플랫폼을 구축했다"고 언급했다.
망고부스트는 서울대학교 연구진을 중심으로 2022년 설립된 AI 인프라 기업이다. 미국 워싱턴주 벨뷰에 본사를 두고 있으며 직원 규모는 200여 명이다. 현재 시리즈 B 투자 유치를 진행하고 있다.
