プラットフォーム管理と共有責任によるAIエージェントの保護 (2026/07/31)

https://blogs.oracle.com/cloud-infrastructure/ai-agent-security-shared-responsibility

投稿者：Giulio Faini | Master Principal Technologist, EMEA SaaS Security and Privacy, Oracle

 Reshma Sivakumar | Principal Technical Product Manager, AI Security

 Miranda Jimenez | Product Marketing Manager

 SaaS Cloud Security

AIエージェントは、文書作成、要約、質問への回答といった従来の業務にとどまらず、企業ワークフローをサポートするようになってきています。Oracle AI StudioやOracle SaaSのカスタム構築型エージェントアプリケーションなど、エージェントアプリケーションでは、エージェントがデータの取得、ツールの呼び出し、アプリケーションプログラミングインターフェースとの連携、ビジネスプロセスの開始支援などを行うことができます。こうした状況は、重要なセキュリティ上の課題を生み出します。ソフトウェアがワークフローに代わって動作できる場合、アクセス、アクション、承認、監視をどのように管理すべきでしょうか？

責任あるAIは、ガバナンス、倫理、プライバシー、透明性、コンプライアンス、および人間の監視を通じて議論されることが多い。しかし、その最も重要な運用基盤の1つはAIセキュリティである。ISO/IEC 42001は、ISO/IEC 27001などのISOマネジメントシステム規格に準拠したマネジメントシステム構造を採用しており、組織がAIガバナンスとセキュリティを相互に関連する企業規律として扱う傾向が強まっていることを反映している。AIが実運用環境に移行するにつれて、この焦点はますます重要になっている。マッキンゼーが1,993人の参加者を対象に実施した2025年のAIの現状に関する調査では、AIを使用している組織の回答者の51%が、組織が少なくとも1つのAI関連の悪影響を経験したと回答している。

サービスとしてのソフトウェア（SaaS）環境において、AIセキュリティは責任の共有に依存します。Oracleは、多層防御をサポートするプラットフォーム制御とセキュリティ機能を提供すると同時に、顧客はエージェントがデータにアクセスする方法、ツールを使用する方法、ワークフローをトリガーする方法、および監視を必要とする方法を管理します。

AIエージェントにとって、共有責任とは、プラットフォームの制御とエージェントの設計が交わる点である。

AIセキュリティ脅威の分類

ISO/IEC FDIS 27090や、欧州CEN/CENELECによるAIシステム向けサイバーセキュリティ仕様に関する草案など、新たなAIセキュリティ標準や仕様案は、共通の脅威カテゴリに収束しつつある。これらの脅威カテゴリには、データ汚染、回避、モデル反転、モデル抽出、即時注入、エージェント/ツールの悪用などが含まれる。

これらの脅威は、トレーニングデータ、モデル自体、推論パス、周辺ツール、統合、エージェントコンポーネントなど、AIライフサイクルのさまざまな層に影響を与える可能性があります。エンタープライズAIエージェントの場合、この周辺アーキテクチャは特に重要です。なぜなら、多くの実際的な脅威は、エージェントがアクセスまたは実行できる範囲に起因するからです。

Oracle Cloud Applicationsは、サービス、リージョン、および範囲によって異なるクラウド保証プログラムと第三者機関による認証によってサポートされています。お客様は、該当するリストについてOracle Cloud Complianceページを参照してください。OracleのCloud Complianceページでは、CSA AI Controls Matrix（AICM）、AI-CAIQアンケート、およびISO/IEC 42001などの国際規格への準拠に基づいたCloud Security Alliance （CSA）AI STARについても言及しています。

Oracleプラットフォームの制御機能が、一般的なAI攻撃パターンに対する多層防御にどのように貢献するか：

AIセキュリティ脅威パターン	主なリスク	関連するOracleの制御領域と責任共有に関する考慮事項
データポイズニング／バックドア	妥協したトレーニング、微調整。	データ/ソースの整合性管理、テナントの分離、承認済みデータソース、安全な開発手法、および該当する場合はデータセットの系統管理またはバージョン管理。役割ベースのアクセス制御（RBAC）や、必要最小限の権限、最小権限、職務分掌などのアクセス管理原則も、リスク軽減に役立ちます。
即時出力注入	ユーザーまたは取得したコンテンツは、指示よりも優先されます。	該当する場合はセキュリティ審査済みのプロンプト、プロンプト挿入テスト、入力境界テスト、ガードレール、コンテンツモデレーション、および取得またはユーザー提供コンテンツの顧客側での検証。
モデルの流出、反転、盗難	モデルのIPアドレス、パラメータの損失、または機密性の高いトレーニング信号の漏洩。	モデルの強化、敵対的脅威分析、アクセス制御、テナントの分離、および該当する場合の監視制御。
回避と敏感な出力	入力または出力の操作、情報漏洩、または法令違反行為。	反応スコアリング、精度および毒性チェック、リスクレビュー、モニタリング、人的監視、および該当する場合は配備後の安全対策評価。
エージェント/APIの悪用	エージェントが認証情報、ツール、統合機能、または本番環境における権限を過剰に使用する。	管理者および特権ユーザー向けのMFA、エージェント/ツール実行のためのスコープ付きワークロードIDまたはトークン、最小権限、安全な構成ベースライン、APIレビュー、統合ログ、監視、および展開前の変更検証。

SaaSエージェントやカスタム構築エージェントの場合、多くの実務上のリスクはモデルそのものだけでなく、エージェントが実行できるアクションからも生じる可能性があります。重要な設計上の課題としては、エージェントが取得できるデータ、呼び出せるツール、トリガーできるワークフロー、そして影響の大きいアクションに人間の承認が必要かどうかなどが挙げられます。

有用な区分として、エージェントが助言型、支援型、または実行型であるかという点が挙げられます。アクションのビジネスへの影響が大きくなるにつれて、範囲指定権限、承認ゲート、ログ記録、監視、およびロールバック計画の重要性が増します。

エージェントの権限と制御が重要な理由を示す外部インシデント

エージェントコンポーネント、生成モデル、あるいはその両方によって駆動されるAIシステムは、予測困難な挙動を示す可能性があります。エージェントがツール、認証情報、統合機能、または本番データを使用する可能性がある場合、これはセキュリティ上の重要な意味を持ちます。

最近公表されたAIエージェントのインシデントは、より広範なセキュリティ上の教訓を示している。AIエージェントのセキュリティはプラットフォーム層だけに限定されるべきではない。エージェントの設計、権限設定、監視、レビューの方法にも左右される。このインシデントでは、自律型コーディングエージェントが、意図されたコンテキスト外でスコープが拡大されたトークンを使用し、本番データとバックアップを削除したと報告されている。

より広い視点から見ると、教訓は単純明快です。プロンプトやポリシーだけでは、制御の境界は成り立ちません。エージェントがタスク完了のみに最適化されている場合、周囲のアーキテクチャが重要になります。ボード認証情報、破壊的なAPI、環境分離の不備、あるいは限定的なレビューゲートなどは、運用リスクを高める可能性があります。

OracleのAI-CAIQおよびクラウドコンプライアンス関連資料では、ISO/IEC 27001、ISO/IEC 27002、CSA STAR、CSA AI STAR、および関連するセキュリティ原則に基づいた、インフラストラクチャレベルおよびAI保証管理のテーマについて説明しています。これらのテーマは、発生確率の低減、影響範囲の制限、検出可能性、および復旧をサポートします。以下の例は、管理テーマの例として扱ってください。完全なリストや普遍的な製品保証ではありません。

• データと環境の分離： Oracleのコンプライアンス資料では、該当する場合、テナントの分離、データ処理の境界、および本番環境と非本番環境の分離に関連する制御領域について説明しています。
• IDとツールアクセス： Oracleの制御資料では、最小権限と役割に応じた認可という原則に沿ったIDおよびアクセス管理の原則について説明しています。
• サプライチェーン管理： Oracleは、コンプライアンスおよび保証に関する資料の中で、正式なサプライチェーンセキュリティと第三者ガバナンスの実践について説明しています。
• 変更ガバナンス： Oracleのコンプライアンス資料では、該当する場合、本番環境の変更に関する承認、検証、テスト、ログ記録に関連する変更管理コントロールについて説明しています。
• 監視とログ記録： Oracleの保証関連資料では、調査、検出、および運用監視をサポートできる監視とログ記録の制御テーマについて説明しています。
• バックアップとリカバリ： Oracleのコンプライアンス資料では、該当するサービスと構成に応じて、インシデント発生時のデータ損失の影響を軽減するのに役立つ事業継続性とリカバリ制御について説明しています。

共同責任が結果を左右する場所

リンク先で述べられているように、確実なセキュリティを実現するには、責任の共有が不可欠です。Oracleは、リンク先で説明されている保証プログラムに裏付けられたプラットフォーム制御と、AIエージェント導入における多層防御をサポートするセキュリティ機能を提供しています。しかし、Oracle AI Studio、Oracle SaaSエージェント、その他のエンタープライズエージェントのセキュリティと回復力は、顧客がID、データアクセス、ツール、ワークフロー権限、承認ゲート、監視、リカバリをどのように構成するかにも左右されます。

これには、適切な場合には影響の大きいエージェントのアクションに対して人間によるレビューを実施すること、実行前にアーキテクチャ的に役割とAPI権限の範囲を定めること、関連する場合にはOracle SaaSおよびOracle Cloud Infrastructure（OCI）の適用可能なCISベンチマークを考慮すること、そしてエージェントの動作を検出、調査、管理するために利用可能な可観測性と監視機能を使用することなどが含まれます。

Oracleの認証（該当する場合）、AI-CAIQドキュメント、およびプラットフォーム制御は、AIの脅威環境に対する多層防御の基盤構築に役立ちます。責任あるAIは、プラットフォームの上位レイヤーにおける顧客の選択にも大きく左右されます。つまり、エージェントをセキュリティを念頭に置き、範囲を限定したID、意図的な制御、明確な人的チェックポイントを備えた設計にするか、より広範なアクセス権限と少ないレビューゲートを備えた設計にするか、ということです。

下位のプラットフォーム制御と上位の適切に構成されたエージェントという2つの要素が互いに補強し合うことで、組織はリスクをより適切に管理し、より強固なセキュリティを実現できる。

まとめ

Oracleのプラットフォーム制御機能と顧客が構成可能なエージェントガバナンス機能を組み合わせることで、企業におけるAIエージェントの安全で管理された、かつ監視可能な導入のための強固な基盤を構築できます。AI

エージェントがより多くのビジネスワークフローに組み込まれるにつれて、組織は関連するOracle Cloud Complianceリソースを確認し、エージェントの権限、ツールへのアクセス、承認、監視、および復旧に関する慣行を共有責任モデルに合わせることで、この基盤をさらに強化できます。