정의
AI 모델과 외부 세계 사이에 위치하는 소프트웨어 계층으로, AI 에이전트가 볼 수 있는 데이터, 사용할 수 있는 도구, 그리고 취할 수 있는 작업을 결정합니다. 국가 사이버보안 기관은 현재 기저 모델이 아닌 이 계층을 보안 제어가 적용되어야 할 주요 위치로 취급합니다.
왜 중요한가
공격자와 규제기관 모두 '모델이 안전한가'에서 '하네스가 안전한가'로 초점을 옮기고 있습니다. — 제대로 제어되지 않은 하네스는 AI 자체가 정확히 의도대로 작동하더라도 에이전트가 해로운 실제 작업을 수행하도록 할 수 있습니다.