네이버, AI 서비스 전 과정에 안전성 체계 적용

'AI Safety Progress Report' 첫 발간…ASF 2.0 실제 적용 사례 공개
유해성·사용성 함께 평가, AI 탭·쇼핑 에이전트 등에 안전 기준 적용

네이버 AI Safety Progress Report 표지./네이버

네이버가 AI 서비스에서 발생할 수 있는 위험을 110개 항목으로 세분화하고 서비스 설계부터 출시·운영까지 안전성을 점검하는 체계를 구축했다.

16일 네이버는 자체 AI 안전성 체계 'ASF 2.0'의 실제 서비스 적용 과정과 사례를 담은 'AI Safety Progress Report'를 처음 발간했다고 밝혔다. ASF 2.0은 AI 모델의 성능과 위험 수준뿐 아니라 이용자와 서비스 보호까지 관리하는 체계로, 실행 체계인 'CHEC 2.0'을 실제 서비스에 적용하고 있다.

네이버는 법률·사회·산업 분야에서 발생할 수 있는 AI 위험을 110개 세부 항목으로 분류한 'N-ARTI'를 마련했다. 서비스별 특성을 반영하면서도 전사적으로 같은 기준으로 위험을 식별하도록 설계했으며, 생성형 AI가 정해진 안전 기준을 벗어난 정보를 제공하지 않도록 가드레일을 구축하는 데 활용한다.

AI 답변을 평가하는 'N-ASET'도 도입했다. 답변이 이용자에게 해를 끼칠 수 있는지를 보는 '유해성'과 질문에 적절하게 답하고 필요한 면책 문구나 전문가 안내 등을 제공했는지를 보는 '사용성'을 함께 평가한다.

이 같은 안전 기준은 실제 서비스에도 적용됐다. 지난 6월 출시한 'AI 탭'은 CHEC 2.0을 기반으로 설계부터 출시까지 안전성을 점검했으며, AI 쇼핑 에이전트와 날씨 서비스에는 AI가 활용됐다는 사실을 이용자에게 표시하고 있다.

원성재 네이버 AI Safety 센터장은 "AI 안전성 역시 이론적 논의를 넘어 실제 서비스 환경에서 구체적으로 다뤄야 하는 단계에 접어들고 있다"며 "AI 서비스에서 발생할 수 있는 위험을 예방하고 완화할 수 있도록 ASF 2.0을 지속적으로 고도화하고 적용해 나갈 것"이라고 말했다.