教訓: セキュリティ重視のAIチャットボット (2024/12/19)

https://blogs.oracle.com/security/post/security-ai-chatbots

組織は共通の課題に直面しています。限られた予算とスタッフでセキュリティ体制を改善するにはどうすればよいでしょうか。1つのアプローチは、テクノロジの脆弱性を検出して修正するツールを利用していますが、他の機会を検討してみましょう。人とプロセスは、テクノロジーとともに、情報セキュリティの3つの「柱」を構成しています。自動化は、たとえば人工知能(AI)ツールを使用して、セキュリティ関連のタスクや活動を通じてスタッフを積極的にガイドすることで、人員とプロセス・セキュリティの柱を強化するのに役立ちます。このようなアプローチにより、組織は次のことが可能になります。

セキュリティ・ポリシー、標準、その他のセキュリティ要件に対する従業員の意識向上
認証資格証明の構成(パスワードの変更)、ラップトップの紛失報告、ポリシー質問などのタスクを担当者が適切に完了できるよう支援します
コラボレーション・ツールでメッセージを積極的に送信することで、従業員の行動を促します
顧客と共有することが許可されているリソースに担当者をガイドします

Oracleの企業セキュリティにおける私の役割は、内部的なガイダンスを提供することです。そうしているうちに、顧客対応チーム間で同じ要求や質問の多くが頻繁に発生していることに気付きました。AIを使用してこれらの一般的な質問に対処することに興味を持ち、実験を開始しました。Oracle Digital Assistant(ODA)を使用してセキュリティ関連のよくある質問に答えるために、自動化プロジェクトから学んだことを次に示します。プロジェクトの目的:

ODAのさまざまな「チャネル」およびコラボレーション・ツールとの統合により、顧客対応スタッフに正確な情報をリアルタイムで自動配信できることがわかりました。人事は、回答を待つ必要も、指導を求める必要もありませんでした。AIは、質問に対する正しい回答を提供しました。

セキュリティ重視のチャットボットのメリット

セキュリティに関する従業員の質問に対する回答は、「ジャスト・イン・タイム」で、必要なときに必要な場所で提供されます。

システム構成およびデータ処理の要件について担当者を教育します
タスクが実行されるアプリケーション内の指示を指定します。
チャットボットを使用して日常的な質問に答えることで、セキュリティ・チームは戦略的分野に集中できます
新しい人員の変更、役割の変更、プロセスの変更などを容易にします。
顧客対応スタッフ間のセキュリティ意識向上に貢献

Oracle Digital Assistant(ODA)チャットボットとは何ですか。

デジタル・アシスタントは人工知能(AI)ユーザー・インタフェース・ツール(通称チャットボット)で、様々なアプリケーションやWebサイトを検索したり調べたりすることなく、自然言語での会話を通じてタスクを実行するのに役立ちます。各デジタル・アシスタントには、専門的なスキルのコレクションが含まれています。

チャットやコラボレーション・ツールなど、様々なアプリケーションを通じて、ターゲット・ユーザーがデジタル・アシスタントを使用できるようにします。各デジタル・アシスタントは、特定の質問への回答やプロセスの開始など、1つ以上のタスク固有またはトピック固有のスキルを使用できます。たとえば、oracle.comでSalesチャットボットを試すことができます:

セキュリティ重視のチャットボットのユースケース

チャットボットは、要件を要約し、次のようなWebページ、指示およびアプリケーションへのリンクに関するガイダンスを提供できます。

次のようなポリシー質問:

勤務先メールに携帯は使えますか?
パスワード・ボールトを使用できますか。
コラボレーションにXYZツールを使用する必要がありますか。それとも別のツールを使用できますか。

次のような質問を処理します。

リスクを報告するにはどうすればよいですか。
紛失したバッジを交換するにはどうすればよいですか?
特別な契約条件の承認を取得するにはどうすればよいですか。

チャットボットによって開始される従業員エンゲージメント

積極的に行動しましょう! チャットボットは、従業員とのやり取りを開始し、タスクを推奨したり、共通のコラボレーション・ツールや電子メール、その他のチャネルで従業員を教育したりできます。

ポリシー、プロセスまたはテクノロジの変更について担当者に通知
従業員にトレーニングを受けるか、他のスケジュール済アクティビティを完了するようリマインドします
リンクとFAQを共有する
システムを更新するか、ラップトップ構成を変更するよう担当者に指示

チャットボットのデプロイ場所

チャットボットをすでに使用しているツールに埋め込んだり統合したりして、助けを求めたり関連タスクを完了したりすることで、社員にとって容易になります。必要なときに必要な場所で適切なガイダンスを提供することで、社内ポリシーに準拠できます。最適な場所を特定するには、ターゲット・オーディエンスに今すぐ支援を求める場所を尋ねてください。候補者の場所には次のものがあります。

コラボレーション、メッセージングおよびチャット・ツール。ターゲット・オーディエンスが同僚と交流したり、支援を求めたりします
失われたラップトップの交換やアクセスのリクエストなど、関連するプロセスを実行するためのアプリケーション

あらゆるニーズに対応する単一のツールが不適切

大きな言語モデルが「ハルシネート」するかもしれないので、議論が高度の感受性を必要とする時、人々はメッセージに対して感情的な反応をするかもしれない、重大な微妙な専門的な判断が必要であるか、潜在的な法的または安全上の結果があるとき、個人対個人のコミュニケーションが助言されます。

チャットボットの応答方法を制御することで、リスクを制限するためのオプションがいくつかあります。たとえば、AIの「取得拡張生成」(RAG)を使用して、ドキュメントのナレッジ・ベースからのみ引用するように構成できます。構造化ODAダイアログ・フローを使用すると、ユーザーはオプションのメニューから選択でき、自然言語処理が限定されたり、まったく行われません。3つ目のオプションは、ODAインテントを使用してチャットボット・レスポンスの限定的なセットを構成することです。あらゆるテクノロジーと同様に、意図した操作から「ドリフト」を検出するように監視する必要があります。

Oracle Digital Assistant (ODA)構成

インテントにより、スキルはユーザーが何を望んでいるかを理解できます。インテントは、スキルが実行するタスクおよびアクションによって一般的なユーザー・リクエストを分類します。

チャットボットのトレーニング

スキルには複数のインテントを含めることができます。これらは、ガイダンスまたはソリューションを提供するチャットボットのレスポンスです。インテントには、箇条書きリスト、ドキュメント、HTMLページまたはアプリケーションへのリンクを含めることができます。ODAチャットボットを強化する人工知能は一般的な言語に基づいてトレーニングされるため、「エンティティ」を構成すると、組織に固有の用語およびシノニムのセットについてODAが教育され、スキルの適切な意図が選択されます。たとえば、Oracleクラウド・サービスに関するチャットボットは、次のエンティティを定義できます:

OCI: Oracle Cloud Infrastructure、IaaS、IaaSクラウド、OCIクラウド・サービス、PaaS、クラウド・インフラストラクチャ、IaaSサービス
ERP: Oracle Fusion Cloud Applications、Oracle Fusion Cloud ERP、Oracle Cloud ERP、Oracle ERP、エンタープライズ・リソース・プランニング、財務管理、Software as a Service、SaaS

スキルのインテントで構成した発話でチャットボットをテストしますが、バリエーションも試してください。目的のオーディエンスと同僚からテスト質問を要請し、チャットボットを効果的にトレーニングして、各スキルの正しいインテント(レスポンス)を選択できるようにします。チャットボットのトレーニングは反復的なプロセスです。