“AI 규제 대응 어떻게 하나”… EY컨설팅, 책임 중심 AI 세미나 개최

韓 AI 기본법, EU AI법 등 글로벌 규제 본격화
책임 중심 AI 핵심 의제로 떠올라

EY컨설팅과 로이드인증원이 23일 공동 개최한 'Responsible AI와 ISO·IEC 42001' 세미나에서 김동우 EY컨설팅 파트너가 'EY AI 거버넌스 운영 시스템'을 시연하고 있다. /EY컨설팅

EY한영의 컨설팅 조직인 EY컨설팅이 로이드인증원과 함께 개최한 세미나에서 인공지능(AI) 중심의 거버넌스와 리스크관리 방향성을 제시했다.

EY컨설팅은 지난 23일 글로벌 검사·인증 기관 로이드인증원(LRQA)과 함께 '책임 중심 AI(Responsible AI) 도입 전략과 국제 표준 ISO/IEC 42001 기반 AI 경영시스템 구축'을 주제로 세미나를 개최했다고 24일 밝혔다.

이번 세미나는 AI의 윤리 원칙을 강조하는 Responsible AI의 중요성이 부상하는 데에 대응하기 위해 기획됐다. Responsible AI는 '책임 있는 인공지능'이라는 의미로 AI 기술이 기업 핵심 업무와 의사 결정 영역으로 확산하면서 그 중요성이 부각되고 있다. 올해 1월부터 시행된 한국의 AI 기본법과 유럽연합(EU)의 AI법(EU AI Act) 등을 비롯한 글로벌 규제가 본격화됨에 따라 AI 의사결정 과정의 투명성 확보, 데이터 편향·오용에 따른 윤리적 리스크 관리, 내부 통제 및 거버넌스 체계구축 등이 경영진 차원의 주요 의제로 제시되고 있다.

세미나엔 국내 주요 대기업 등 AI 기본법 적용 대상 기업 관계자와 AI 거버넌스 규제 대응 담당 컴플라이언스, AI 전략 조직 임원들 자리했다.

첫 번째 세션에선 채수완 EY컨설팅 파트너가 국내외 AI 규제 동향을 짚었다. 이를 통해 기업이 AI를 도입하면서 겪는 주요 컴플라이언스 리스크를 제시했다.

채 파트너는 "AI 법·가이드라인은 공통적으로 책임성과 관리체계, 사전적 위험 통제를 요구하고 있다"며 "지금 Responsible AI 체계를 마련하지 않으면, 향후 규제 대응 비용과 사업 제약이 급격히 확대돼 복합적인 규제 환경에 대한 대응 부담이 커질 수 있다"고 강조했다.

김동우 EY 컨설팅 파트너는 'AI 리스크 프레임워크와 기업 대응 방안'을 주제로 세션을 진행했다. 이를 통해 AI 전 주기에 걸쳐 거버넌스와 리스크 관리 체계를 단계적으로 구축하는 방안을 소개했다. 또 해외 사례를 소개하며 Responsoble AI와 국제표준 기반의 관리 체계가 대규모 조직에서의 실무 활용 가능성을 언급했다.

김 파트너는 "AI 거버는스는 특정 부서의 과제가 아니라 조직 전체 차원의 관리 체계로 접근해야 한다"며 "기업은 AI 사용 현황 파악을 넘어 역할과 책임(R&R), 의사결정 구조, 위험 평가와 통제 프로세스를 명확히 정의할 필요가 있다"며 "ISO/IEC 42001과 같은 국제표준은 이러한 체계를 구조화하는 데 효과적인 기준점이 될 수 있다"고 설명했다.

김진현 로이드인증원 본부장은 ISO/IEC 42001을 중심으로 해외 인증 동향과 적용 사례를 공유했다. 발표 세션 이후 진행된 패널 토론에선 네이버웹툰 이진화 최고정보책임자(CIO)가 초청 패널로 참가했다. 그는 AX 추진 과정과 경영시스템 운영 관점에서의 현장 경험에 대해 공유했다.

김정욱 EY컨설팅 대표는 "Responsible AI는 리스크를 피하기 위한 방어적 조치가 아니라, 규제 환경 속에서도 AI를 지속 가능하게 활용하기 위한 전략적 기반"이라며 "이번 세미나가 기업들이 신뢰를 바탕으로 AI를 안정적으로 확장해 나가기 위한 실질적인 출발점이 되길 바란다"고 말했다.

이일형 LRQA 대표이사는 "AI는 단순한 기술 도입을 넘어 기업의 리스크 관리와 직결되는 핵심 경영 요소로 자리잡고 있다"며 "ISO 42001과 같은 국제표준 기반의 관리 체계를 통해 기업이 신뢰 가능한 AI 운영 기반을 구축하는 것이 중요하다"고 밝혔다.