무슨 일이 있었나
트럼프 행정부는 Anthropic의 Mythos 모델이 자율적으로 소프트웨어 취약점을 발견할 수 있는 능력에 부통령 JD Vance가 '경보'를 울린 후, FDA 약물 승인 프로세스와 유사한 고급 AI 모델에 대한 의무적 사전 공개 안전 테스트를 모색 중입니다. 국가경제회의 국장 Kevin Hassett은 목표가 AI 시스템이 '안전성이 입증된 후 공개되도록' 보장하는 것이라고 밝혔으며, 특히 중단 도구가 부족한 지방정부가 관리하는 주요 기반시설을 목표로 하는 모델에 대한 우려를 표명했습니다.
왜 중요한가
이는 이전에 'safety'와 'AI'를 같은 문장에 연결하는 것을 피했던 행정부의 상당한 정책 방향 전환을 의미합니다(Encode 옹호 단체에 따름). AI 혁신을 제약 없이 추진하는 것에서 사전 공개 요구사항을 고려하는 것으로의 전환은 모델 배포 일정, 규정 준수 비용, 그리고 최첨단 랩의 경쟁 환경에 영향을 미칩니다. 지방정부 기반시설 취약성에 대한 초점은 AI 기반 익스플로잇 개발이 자원이 부족한 대상에 대해 악용까지의 시간을 0에 가까워지게 압축할 수 있다는 점을 인정하기 때문에 운영상 관련성이 있습니다.
필요한 조치
백악관 공지를 모니터링하여 어떤 모델 기능이 검토를 촉발하는지, 누가 평가를 수행하는지, 일정, 그리고 규정이 미국 개발 모델에만 적용되는지 또는 배포된 외국 시스템도 포함하는지 등 제안된 테스트 프레임워크의 세부사항을 확인하세요. 조직의 AI 사용 사례가 주요 기반시설이나 자율 취약점 연구와 관련이 있는지 평가하고, 규정 준수 문의가 뒤따를 경우 안전 통제, 모니터링, 인간 개입 거버넌스에 대한 증거를 준비하세요.