OCI Digital AssistantとOCI生成AIエージェントを使用したGenAI RAG (2024/10/04)
OCI Digital AssistantとOCI生成AIエージェントを使用したGenAI RAG (2024/10/04)
https://blogs.oracle.com/ai-and-datascience/post/genai-rag-implementation-digital-assistant-agents
投稿者：Kaushik Kundu | Principal Cloud Architect
JB Anderson | Senior Cloud Engineer
当社の顧客の多くは、すでに生成AI(GenAI)テクノロジーを使用して情報を取得または生成しています。ただし、社内のPDFドキュメントで管理できる会社のプライベート・ポリシーに関する情報を取得する場合は、その正しい情報を取得できない場合があります。また、大規模言語モデル(LLM)は、無意味、事実上正しくない、または質問から切り離された応答を生成し、幻覚することがあります。
ほとんどの場合、これらの生成AIチャットボットを強化する基本LLMは、以前のパブリック・データでトレーニングされているため、会社の内部PDFドキュメントなど、制限された情報に関する知識がありません。新しいデータでベースLLMを再トレーニングすることは、非常にリソースと時間のかかるプロセスです。
このブログ投稿では、Oracle Cloud Infrastructure (OCI) Digital AssistantおよびOCI生成AIエージェント・サービスを使用して、この問題のソリューションをどのように開発できるかを示します。このソリューションにより、開発者は、OCI生成AIエージェント・サービスを使用して、OCI Object Storageに格納されているカスタムPDFドキュメントに対してGenAI検索拡張生成(RAG)を実行できます。次の機能が提供されます。
- OCI Visual Builder WebアプリケーションでホストできるOCI Digital AssistantチャットボットからOCI生成AIエージェントに接続します。
- カスタムPDFドキュメントから自然言語で質問への回答を取得します。
GenAI RAGソリューションの概要
このソリューションには、次のOCIサービスの構成が含まれます。
- OCI Object Storage: OCI Object Storageを構成し、バケットを作成します。その後、Object Storageバケットに独自の非構造化PDFマニュアルおよびドキュメントをアップロードできます。
- OCI生成AIエージェント: ナレッジ・ベースおよびエージェントを作成および構成します。その後、OCI生成AIエージェントを使用して、OCI Object StorageのPDFドキュメントにRAGを取り込んで実行できます。
- OCI Digital Assistant (ODA): ODAインスタンスとスキルを作成します。次に、OCI GenAI REST APIを使用して、ODAスキルからOCI生成AIエージェントに接続します。
- OCI Visual Builder: Visual Builderインスタンスを作成し、Visual Builder WebアプリケーションにODAチャットボットを埋め込みます。その後、Webアプリケーションを使用してPDFマニュアルおよびドキュメントからレスポンスを取得できます。
OCI Object Storageの構成
OCI Object Storageは、信頼性とコスト効率に優れたデータ耐久性を提供する、インターネットスケールの高パフォーマンスなストレージ・プラットフォームです。Object Storageには、分析データや、イメージやビデオなどのリッチ・コンテンツなど、あらゆるコンテンツ・タイプの非構造化データを無制限に格納できます。このサービスを使用すると、バケットを作成できます。バケットの作成後、非構造化PDFマニュアルおよびそれらのドキュメントをアップロードできます。
バケットの作成およびObject StorageバケットへのPDFドキュメントのアップロードの詳細は、OCI Object Storageのドキュメントを参照してください
OCI生成AIエージェントの構成
OCI生成AIエージェントは、LLMのパワーとインテリジェントな取得システムを組み合せたフルマネージド・サービスであり、ナレッジ・ベースを検索し、AIアプリケーションをスマートかつ効率的にすることで、状況に応じた回答を作成します。OCI生成AIエージェントは、データをオンボーディングするためのいくつかの方法をサポートし、チャット・インタフェースまたはAPIを使用してあなたと顧客がデータをやり取りできるようにします。
このサービスを使用すると、ナレッジ・ベースを作成できます。ナレッジ・ベースの作成の一環として、データ・ソースとしてObject Storageを選択し、前に作成したObject Storageバケットを指すことができます。ナレッジ・ベースの作成後、GenAIエージェントを作成し、ナレッジ・ベースを指すことができます。OCI生成AIエージェント・コンソールを使用して、エージェントとチャットして、作成されたコンポーネントをテストすることもできます。
生成AIエージェント・コンポーネントの作成の詳細は、生成AIエージェントのドキュメントを参照してください。
OCI Digital Assistantの構成
デジタル・アシスタントは、ユーザーが様々なアプリやWebサイトを調べて歩くことなく、自然言語での会話を通じてタスクを実行できる仮想デバイスです。各デジタル・アシスタントには、専門的なスキルのコレクションが含まれています。ユーザーがデジタル・アシスタントと対話すると、デジタル・アシスタントは入力を評価し、会話を適切なスキルとの間でルーティングします。
OCI Digital Assistantは、デジタル・アシスタントを作成およびデプロイできるプラットフォームです。デジタル・アシスタントは、ユーザーが自然言語での会話で様々なタスクを実行するのに役立つAI主導のインタフェースです。ODAコンソールを使用して、REST API構成を追加し、OCI GenAI Rest APIエンドポイントを指すことができます。その後、ODAスキルのビジュアル・ダイアログ・フローで、組込みコールRESTサービス・コンポーネントを使用してREST構成をコールできます。そのため、ODAチャットボットから、ユーザーの質問をOCI生成AIエージェントに渡して、エージェントから回答と引用を取得できます。
ODAチャットボットをクライアントWebアプリケーションに公開するには、Oracle Webタイプのチャネルを作成し、これをOCI Visual Builder Webアプリケーションに接続できます。ODAクライアントSDK for Oracle Webには、Visual Builder Webページでスキルを実行できるウィジェットが用意されています。
ODAスキルおよびチャネルとRESTサービスの構成の詳細は、Oracle Digital Assistantのドキュメントを参照してください。
OCI Visual Builderアプリケーションの構成
OCI Visual Builderは、ODAチャットボット用のフロントエンドWebアプリケーションを提供できます。これにより、WebおよびプログレッシブWebアプリケーションを視覚的に作成およびデプロイできます。その後、ODAクライアントSDK for Oracle Webを使用して、Visual Builder WebアプリケーションをODAチャットボットに接続できます。
OCI Visual Builderの詳細は、Oracle Visual Builderを参照してください。OCI Visual Builder Webアプリケーションの作成について学習するには、Visual Builderのドキュメントを参照してください。
まとめ
Oracle Digital Assistantを使用すると、ユーザーが様々なチャネルを使用して独自の自然言語(テキストまたは音声)で通信できるようにする会話型インタフェースを簡単に作成できます。ODAを使用すると、生成AIエージェントとシームレスに接続でき、内部PDFドキュメントおよびマニュアルに基づいて自然言語で質問に対する応答を取得できます。
Oracle Cloud Infrastructureを初めて使用する場合は、300ドル分のクレジットが付いた30日間の無料トライアルであるOracle Cloud無料トライアルをお試しください。
詳細は、次のリソースを参照してください。
コメント
コメントを投稿