6년 만에 ‘AI 윤리’ 기준 개편…“기술 전 과정에 안전·신뢰 확보”

24일 12회 과학기술관계장관회의서 심의·의결
2020년 'AI 윤리기준' 계승에 기술·제도 변화 반영
3대 가치·7대 원칙 구성…이용자·정부에도 실천 강조
해설서·자율점검표 마련 및 배포 등 후속 조치 추진

최근 인공지능(AI) 기술에 따른 안전 문제 등의 우려가 커지는 가운데, 정부가 기술을 둘러싼 공통의 가치와 원칙을 제시했다. 기술 확산 속 '어떻게 쓸 것인가'에 대한 고민이 담긴 원칙을 통해 이용자와 정부에도 윤리 준수에 대한 책임을 강조, 안전과 신뢰가 지속가능한 AI 사회를 만들어간다는 방침이다.

24일 과학기술정보통신부 등에 따르면 제12회 과학기술관계장관회의에서 '대한민국 AI 윤리원칙'을 심의 및 의결했다. AI 윤리원칙은 2020년 마련된 'AI 윤리기준'을 계승하는 동시에 거듭하는 기술 발전과 올해 1월 AI 기본법 시행 등 변화하는 제도 여건 등을 반영해 추진됐다.

이번 원칙은 AI 시대 속 인류 차원에서 추구해야 할 근본적 지향점으로 △인간의 존엄성 △사회의 공공선 △인류의 지속가능성 등 3대 가치를 내세운다. 또 3대 가치를 AI 전 생애주기에서 실현하기 위한 공통 기준인 △인간중심성 △프라이버시 보호 △공정성·포용성 △책임성 △안전성 △신뢰성 △투명성 등 7대 원칙도 제시했다.

최근 앤트로픽과 오픈AI 등 글로벌 AI 모델이 외부 서비스나 시스템에 무단 접근하는 사례가 발생하는 등 AI에 대한 안전과 신뢰도가 지적 받고 있다. 또 AI 확산에 노동 감시와 일자리 변화, 과의존 문제 등에 따른 우려와 갈등도 커지고 있는 상황이다.

지난해 9월 한국언론진흥재단이 생성형 AI를 알고 있는 국내 20∼60대 1000명을 대상으로 실시한 설문조사에 따르면 응답자 90.2%는 'AI가 사람들의 개인정보를 학습·축적함으로써 개인정보에 관한 사람들의 권리를 AI가 침해할까 봐 우려된다'고 답했다. 아울러 '사람들이 AI 답변에서 본 거짓 정보를 사실로 믿어서 사회적 혼란이 생길까 봐 우려된다'고 답한 이들도 89.6%에 달했다.

이에 과기부는 AI에 대한 국민의 우려를 우선 해소할 필요가 있다는 판단 아래 AI 윤리원칙 제정을 추진하게 됐다. 이번 원칙은 AI의 안전·신뢰 향상을 위해 마련된 연성규범으로, AI와 관련된 갈등 상황에서 우선 고려해야 할 핵심가치와 원칙을 우리 사회 맥락을 배경으로 제시했다는 설명이다.

이 같은 방침 아래 마련된 원칙을 통해 정부는 AI가 필수 인프라인 사회의 지속가능성을 확보하겠다는 방침이다. 특히 AI 공급자뿐만 아닌 이용자 역시 AI 활용에 책임을 지는 주체로 판단, 안전한 AI 사회 구현을 위해 모든 이가 노력해야 한다는 주장을 전했다. 원칙에는 이용자에게 AI가 의도된 목적이나 허용된 권한의 범위를 벗어나 작동하는 경우, 그대로 이용하지 않고 관련 주체에게 알려야 한다는 점을 명시했다. 또 정부에는 AI에 부여하는 역할 및 접근 권한 범위를 목적과 영향에 맞게 설정할 수 있도록 관련 기준과 지침을 마련하는 동시에 이용 환경에서 나타나는 AI의 성능 변화 등을 사회적으로 공유할 수 있도록 했다.

정부는 AI 윤리원칙의 확산을 위해 기업과 학계 등을 아우르는 후속조치를 추진한다. 우선 해당 원칙이 적용되는 전 주체를 대상으로 사례 중심의 적용방법이 담긴 해설서를 마련한다. 기업에 대해서는 이행 수준을 스스로 점검하는 자율점검표를, 일반인과 학생 등 각계를 대상으로는 맞춤별 윤리교육 교재를 배포할 예정이다. 또 경제협력개발기구(OECD) 등 국제기구에 윤리원칙을 공유하고 확산과 논의를 활성화한다는 계획이다.

배경훈 부총리 겸 과기부장관은 "AI 혁신을 가속화하는 것과 안전하고 신뢰할 수 있는 AI 환경을 조성하는 것은 서로 대립하는 과제가 아니다"라며 "대한민국 AI 윤리원칙이 AI에 대한 사회적 신뢰를 높이고, 바람직한 개발·활용과 그 혜택의 확산을 돕는 실천의 기준으로 자리잡도록 뒷받침하겠다"고 말했다.