SK쉴더스, LLM 애플리케이션 취약점 진단 가이드 발간
|
SK쉴더스는 올해 주요 보안 위협 중 하나로 AI 기반의 해킹 증가를 꼽으며 특히 소규모 언어 모델(sLLM)을 겨냥한 해킹과 LLM의 구조적 취약점을 악용한 데 이터 조작과 유출 공격이 심화될 것으로 내다봤다.
보고서에 따르면 대표적인 보안 위협으로는 프롬프트 인젝션과 API 매개 변수 변조, 검색증강생성(RAG) 데이터 오염 등이 있다. 프롬프트 인젝션은 사용자의 입력값을 악의적으로 조작해 시스템이 의도하지 않은 응답을 출력하도록 유도하는 공격이다. 이는 악의적인 응답 생성, 민감한 정보 유출 등을 초래할 수 있다. API 매개 변수 변조는 시스템 간 통신에 사용되는 API 요청값을 변경해 시스템 권한을 초과하는 동작을 실행시키는 위협이다. 이를 통해 악성 이메일 전송, 데이터 유출, 시스템 장악 문제가 발생할 수 있다. RAG 데이터 오염은 외부 데이터를 악의적으로 조작해 검색된 정보의 신뢰도를 떨어뜨리는 방식으로 보안 문제를 야기한다는 게 회사 측의 설명이다.
SK쉴더스 관계자는 "AI 기술은 편리함을 제공하지만 기술적 불안정으로 인해 보안 취약점이 악용될 경우 심각한 해킹 사고가 발생할 수 있다"고 설명했다.
