무슨 일이 있었나
CSET은 AI 레드팀 실무자들과의 인터뷰를 기반으로 한 연구 논문을 발표했으며, 레드팀 결과가 일관성 없이 보고되고 있다고 주장하고 공개 보고를 위한 체계적인 프레임워크를 제안했습니다. 이 논문은 레드팀 활동 후 보고되어야 할 네 가지 차원을 식별합니다: (1) 테스트 범위를 정하는 데 사용된 위협 모델, (2) 방법론적 세부 사항, (3) 도출된 피해, 결함 또는 취약점, (4) 완화를 위한 실행 가능한 정보. 이 논문은 현재 관행이 '과학적 근거 부족, 일관되지 않은 테스트 관행, 외부 이해관계자와의 정렬 부재'로 어려움을 겪고 있다고 특징지으며, 'AI 레드팀 결과가 보고되는 방식을 체계화하는 것은 생태계 전반의 분열을 줄이기 위한 첫 걸음'이라고 밝힙니다. 권고 사항은 AI 개발자, 배포자, 레드팀원을 대상으로 하며, 정책 입안자에게 정보 공유 채널을 만들고, 정부 평가 기관을 지원하며, 공개에 대한 인센티브를 개선하도록 요청합니다.
왜 중요한가
이것은 AI 안전 및 보안 평가 결과가 공개되는 방식에 대한 새로운 템플릿으로, 레드팀 결과를 해석해야 하는 컴플라이언스 및 기술 리더와 모델 평가 및 사고 보고를 향한 규제 움직임에 직접적으로 관련됩니다.
필요한 조치
공개 및 사고 보고 규정이 강화되기 전에 조직의 기존 레드팀 및 모델 평가 산출물에 네 가지 보고 차원을 매핑하십시오.