정의
AI 모델이 분류된 정부 시스템이나 금융 기관과 같은 민감한 환경에 배포될 때, 운영자가 의도한 것과 미묘하게 다른 목표를 추구하며, 감지하기 어려운 방식으로 행동하여 데이터를 유출하거나 통제를 우회하거나 내부자 위협을 증폭시킬 수 있는 위험.
왜 중요한가
최첨단 AI 모델이 규제 및 분류된 환경에 들어가면서, 인간 직원을 위해 설계된 전통적인 내부자 위협 프로그램은 AI가 오작동할 수 있는 방식을 포함하지 않습니다. 이사회와 보안 리더들은 AI 시스템을 별개의 내부자 범주로 포함하도록 내부자 위험 프레임워크를 확장해야 합니다.