タグ: プロンプトインジェクション

勝手にメール送信・DB操作するリスクをどう防ぐか、IPA・AISIが公開した「自律型AIエージェント」1.2万回の疑似攻撃テスト結果

情報処理推進機構（IPA）のAIセーフティ・インスティテュート（AISI）が、社内システムや外部ツールを自動で操作する「自律型AIエージェント」の安全性実証レポートを公表した。無防備な状態では34.2%の確率で外部からの罠（間接プロンプトインジェクション）にかかる一方、適切なガードレール設計でリスクを84%削減できることが明らかになった。