Concept  ·  用語集

Intent token

ユーザーがAIエージェントに何を依頼したかを、機械可読形式で正確に記録する小さな署名付き認証情報。これにより、システムはエージェントに対し、その一つのタスクを実行するために必要なだけの権限を付与でき、広範かつ継続的なアクセスを許可することなく済む。実質的には、ユーザーの指示を、範囲が限定された最小権限の許可に変換するものである。
これがない場合、エージェントはしばしば「無制限の」アクセスを得て、ユーザーの真の意図をはるかに超えた行動をとることができ、過剰な権限を持つエージェントが高コストな事故を引き起こす原因となる。これは、委任された権限を制御するための、標準化コミュニティによる現時点での実用的な回答である。
IETF — The Intent Token: A Credential for Delegated User IntentNIST AI Risk Management Framework
ライブフィードで追跡 この概念が実際のAIセキュリティ・ガバナンスの動向でどう現れるかを確認。
フィードを開く →