[캠퍼스人+스토리] KAIST, ‘사람이 해석가능한’ 인공지능 가속칩 개발

기존 대비 최대 6배 정교한 설명 성과 10배 빨라
저지연·저전력 처리, 이미지 노이즈에 강하도록 개선
특수목적, 고정밀 인공지능 영상처리 시스템 적용 가능

왼쪽부터 김준수 석사과정, 김주영 교수, 고건우 석사과정, 전민수 박사과정, 김성환 박사, 윤찬현 교수, 이창하 박사과정, 김태우 박사과정. 좌측 하단 박스 안에 설명가능한 인공지능 처리를 위한 KAIST 프로토타입 보드(왼쪽)와 새롭게 개발한 EPU칩(오른쪽) 사진/제공=KAIST

인공지능 예측 결과를 사람이 해석 가능한 시각화로 도출할 수 있는 가속칩이 개발됐다.

KAIST(총장 이광형)는 전기 및 전자공학부의 윤찬현·김주영 교수 연구팀이 이미지 노이즈(잡음)에 강한 '설명 가능한 인공지능' 칩을 설계하고, 삼성전자 DS부문의 지원으로 설명가능 뉴로프로세싱 유닛(EPU)을 개발했다고 24일 밝혔다.

'설명 가능한 인공지능'이란 사람이 이해할 수 있도록 신뢰성 있는 설명을 제공하는 인공지능 기법이다. 기존의 수학적 알고리즘으로 학습되는 인공지능은 학습예제에 편향돼 신뢰할 수 없거나, 수천억개의 매개변수를 사람이 이해할 수 없다는 문제가 있었다. 이번에 개발된 설명가능한 인공지능은 왜 인공지능이 특정 결과를 추론했는지 판단근거를 설명할 수 있어 기존의 인공지능보다 정확성·공정성·신뢰성을 보장할 수 있게 됐다.

피라미드형 구조의 설명 가능한 인공지능 모델은 N개 층의 활성화 맵으로부터 시각화 처리가 각각 필요해 복잡도를 높이고, 매우 작은 노이즈에도 시각화 설명이 완전히 달라져 신뢰도 저하를 가져온다는 문제가 있었다.

윤 교수 연구팀은 이를 해결하기 위해 이미지 노이즈에 강건한 모델 생성을 위한 상호학습 방법을 개발해, 단일 활성화 맵 기반 주의집중 맵 생성 기술에 비해 설명성 지표를 최대 6배 가량 높였다.

아울러 김 교수 연구팀은 인공지능 모델의 속도를 높이기 위해 기존 모델의 추론에 더해 활성화 맵 생성까지 처리할 수 있는 XAI 코어를 개발하고, 다양한 연산 태스크를 분할해 동시에 처리할 수 있는 멀티 데이터 플로우 방식을 제안했다. 또 가속 유닛을 개발해 최대 10배 이상의 활성화 맵을 칩 내부에서 처리할 수 있도록 했다.

연구팀 관계자는 "EPU 칩은 광학 위성, 전천후 관측 영상레이더 위성 등 특수 목적과 고정밀 인공지능 영상처리시스템에 적용할 수 있으며, 저지연·저전력으로 인공지능 시스템의 판단 근거에 대한 설명성을 획기적으로 높일 수 있을 것"이라고 기대했다.