한양대 최정욱 교수팀, AI 모델·반도체 공동 최적화로 국제대회 1위

한양대 최정욱 교수팀, AI 모델·반도체 공동 최적화로 국제대회 1위

한양대학교 공과대학 융합전자공학부 최정욱 교수 연구팀(AIHA Lab)이 지난달 16일부터 18일까지 베트남 하롱베이에서 열린 제8회 IEEE 국제 인공지능 회로 및 시스템 학술대회(AICAS 2026)의 ‘Grand Challenge’에서 AI 반도체용 시각·언어 모델(VLM) 추론 최적화 트랙 1등상(First Prize)을 수상했다.

연구팀은 해당 트랙에 참가한 총 71개 팀 가운데 본선에 진출한 16개 팀에 포함됐으며, 최종 경쟁에서 1위를 차지했다. 이번 수상은 AI 모델부터 반도체와 시스템 구현까지 아우르는 연구팀의 통합 최적화 역량이 국제 경쟁 무대에서 인정받았다는 점에서 의미가 크다.

AICAS는 국제전기전자공학회(IEEE) 회로 및 시스템 소사이어티(IEEE Circuits and Systems Society)의 대표 국제학술대회로, 인공지능 회로 및 시스템 분야의 첨단 연구와 기술 혁신을 다룬다. 이번 Grand Challenge는 AI 모델을 실제 반도체 환경에서 효율적으로 실행하기 위한 기술을 겨루는 대회로 진행됐다.

연구팀이 우승한 트랙은 언어와 이미지를 함께 이해하는 시각·언어 모델(Vision-Language Model, VLM)의 추론 효율을 높이는 기술을 평가했다. VLM은 이미지 질의응답과 문서 해석 등 다양한 AI 서비스에 활용되지만, 이미지와 텍스트를 함께 처리하는 만큼 많은 연산과 메모리를 요구한다. 따라서 실제 서비스에 적용하려면 모델의 정확도를 유지하면서 응답 지연과 자원 사용 부담을 줄이는 기술이 중요하다.

참가팀은 ‘Qwen3-VL-2B-Instruct’ 모델을 대상으로 주최 측이 제공한 알리바바 클라우드(Alibaba Cloud) APG 서버에서 이미지 처리부터 텍스트 생성까지 전체 추론 과정을 최적화하는 과제를 수행했다. 특히 NPU와 같은 AI 전용 가속기의 높은 연산 효율을 실제 서비스 성능으로 연결하려면 하드웨어 특성에 맞춘 소프트웨어 설계가 필요하다. 연구팀은 본선에서 알리바바의 ‘Zhenwu 810E PPU(Parallel Processing Unit)’를 활용해 이러한 하드웨어·소프트웨어 공동 최적화 역량을 입증했다.

연구팀은 개별 연산의 실행 시간뿐 아니라 연산을 반복 호출하고, 메모리를 준비하며, 모델 가중치를 읽어오는 과정에서 발생하는 지연까지 분석했다. 이를 바탕으로 여러 연산을 통합하고 반복 실행 경로를 미리 구성하는 한편, 모델 가중치의 표현에 필요한 비트 수를 줄이는 양자화와 선택적 연산 축소를 적용했다. 모델 경량화부터 서버 실행 구조까지 전체 추론 과정을 유기적으로 개선해 정확도와 처리 효율을 함께 확보하는 데 초점을 맞췄다.

이번 대회에는 인공지능대학원의 지원을 받은 이시화 학생, 융합전자공학과 BK21의 지원을 받은 이종원 학생, 인공지능반도체공학과의 지원을 받은 이담현·허유준 학생이 참여했다. 특히 이시화 학생은 팀 어드바이저(Advisor)로서 전체 팀의 기술 방향과 대회 전략 수립을 주도하고, 개발과 문제 해결 과정을 이끄는 핵심 역할을 맡았다. 학생들은 각자의 전문성을 바탕으로 협력하며 모델 분석부터 최적화 구현, 실제 서버 검증까지 수행했다.

이번 수상은 AI 반도체의 연산 성능을 실제 AI 서비스의 처리 효율로 연결하는 통합 설계 역량과 융합 인재 양성의 성과를 함께 보여준다. 서로 다른 전공의 학생들이 교육과 연구를 통해 쌓은 전문성을 바탕으로 국제대회 우승을 이뤘으며, 특히 학생이 팀 전체의 기술적 의사결정과 협업을 이끌었다는 점에서도 의미가 있다.

연구팀이 알리바바 클라우드 서버에서 확보한 VLM 추론 최적화 경험은 향후 국내 NPU 기반 데이터센터 구축과 AI 서비스 고도화에도 참고할 수 있을 것으로 기대된다. 이러한 경험과 최적화 노하우를 국내 산업계와 공유하고 각 반도체 환경에 맞게 적용한다면, AI 추론 소프트웨어의 기술 발전과 전문인력 확보에도 기여할 수 있을 것으로 전망된다.

이번 성과는 CH³IPS 혁신연구센터와 인공지능대학원지원사업, 인공지능반도체고급인재양성사업, 산업혁신인재성장지원사업의 지원을 받아 이뤄졌다.