定義
「Large Language Model Operations」の略で、企業がAI搭載アプリケーションとエージェントを本番環境で構築、デプロイ、監視、管理するために使用するソフトウェアプラットフォームです。「DevOps」プラットフォームがソフトウェア開発パイプラインを管理するのと同様に、LLMOpsプラットフォーム(DifyやLangflow、ToolJetなど)はモデルをデータ、ツール、ユーザーに接続することを含むAI製品のライフサイクル全体を管理します。
なぜ重要か
LLMOpsプラットフォームは組織全体のAI資産の中心に位置し、モデルを機密データベース、API、ユーザーデータに接続しており、高価値のターゲットになります。単一の報告期間内に、最も広くデプロイされているLLMOpsプラットフォーム全体で複数の重大な脆弱性が同時に発見されました。