정의
오픈 웨이트 모델은 기본이 되는 훈련된 파라미터('가중치')가 공개적으로 발표되어 누구나 다운로드, 실행 및 수정할 수 있는 모델입니다. 이는 회사만 API 뒤에서 운영하는 '폐쇄 웨이트' 모델과는 다릅니다. 국가 안전 기관들은 이제 오픈 웨이트 모델의 안전 제한이 얼마나 쉽게 제거될 수 있는지와 사이버 공격 능력에 대해 공식적으로 테스트합니다.
왜 중요한가
벤더 또는 파운데이션 모델 선택을 평가 중인 임원진은 오픈 웨이트 모델이 다른 위험 프로필을 가지고 있다는 것을 이해해야 합니다. 즉, 일단 공개되면 회사는 패치, 모니터링 또는 오용 취소 능력을 잃게 됩니다.