HeatWave GenAIを使用したデータドリブンの多言語チャット (2024/08/20)

https://blogs.oracle.com/mysql/post/datadriven-multilingual-chat-with-heatwave-genai

投稿者： Mandy Pang | Senior Principal Product Manager

HeatWave GenAIを使用したデータドリブンの多言語チャット

チャットボットは、社内外の顧客に便利さとサービスを提供しながら、業務効率を高め、企業にコストを削減します。これにより、企業は人とのやり取りの必要性を減らしながら、顧客の問題を効果的に解決できます。チャットボットを使用すると、企業はコンテンツをプロアクティブにパーソナライズし、多数のユーザーに拡大できます。

従来のチャットボットは、タスク指向で自動在庫応答を返し、非常に構造化され、多くの場合、異常な結果を返します。生成AIの約束により、企業はチャットボット体験を革新して、より洗練され、会話型で、パーソナライズされたものにする方法を模索しています。関連する情報を提供するために、ユーザーの質問の意図を理解する必要があります。

チャットボットの生成AIはエクスペリエンスを向上させますが、生成AIソリューションをチャットボットに組み込むことは複雑で時間がかかり、AIの専門知識が必要になります。

上のサンプル・アーキテクチャ図に示すように、生成AIソリューションで従来のチャットボットを強化するには、企業は少なくとも5つの異なるサービスを統合する必要があります。これらのサービスには次のものがあります。

1. 非ネイティブ言語のユーザー・リクエストをネイティブ言語に翻訳するサービス
2. ユーザー・メタ・データおよびチャット履歴を格納するデータベース・サービスで、以前の質問およびコンテキストからのフォローアップ質問のあいまいさを解消します
3. ユーザー・リクエストや企業独自のデータをベクトル埋込みに変換するベクトル埋込み生成サービス
4. ベクトルを格納し、セマンティック検索を実行するためのベクトル・ストア
5. ユーザー問合せに関連する回答をフェッチするテキスト生成LLMサービス

これらのサービスはすべて調整する必要があり、これらのサービス間でデータを繰り返し移動する必要があります。これにより、全体的な複雑さとコストが増加します。

HeatWaveチャット

HeatWave GenAIは、生成AIパイプラインのあらゆる側面がHeatWave内にまとめられる生成AIの統合環境を提供します。これには、データベース内埋込みの生成、ベクトル・ストアのネイティブ・サポートと類似性検索、データベース内LLM、OCI生成AIサービスLLMのサポートが含まれます。また、機械学習、分析、トランザクション処理、Lakehouseなどの他のHeatWave機能とシームレスに連携できます。

企業がHeatWave GenAIの機能を簡単に活用できるように、企業はAIを活用した独自のチャットボックスを迅速に構築できる一連の直感的なチャット機能を提供しています。チャット機能を統合し、すぐに使えるチャットボット(HeatWave Chat)を提供しています。チャット処理と履歴はすべてデータベースに保持されます。また、自動ベクトルストアの検出と作成もサポートされており、ユーザーは簡単にドキュメントを読み込み、すぐに質問を開始できます。

HeatWaveチャット

レイクハウス・ナビゲータ

Lakehouse Navigatorは、ベクトル埋込み作成のためにHeatWaveにアップロードするファイルをユーザーが見つけるためのシンプルなユーザー・インタフェースを提供します。ベクター埋込みは、企業固有のコンテキストとデータを提供してLLMがベクター・ストア内のデータベースおよび複数のソースから情報を取得するようにガイドするために不可欠であり、これにより速度と精度が向上します。

チャット・プロンプト

ユーザーは、自然言語を使用してチャット・インタフェースを介してHeatWave GenAIと対話できます。チャット履歴などのコンテキストは、フォローアップ質問との会話を可能にするために保持されます。

ユーザーが質問をすると、ユーザー・プロンプトは、HeatWaveデータベース内埋込み生成を使用して自動的にベクトル埋込みに変換されます。次に、指定したベクトル・ストアのスコープ内のセマンティック検索に使用されます。ベクトル・ストア内の独自コンテンツからの検索結果は、ユーザーの質問を補強し、HeatWaveデータベース内LLM (またはOCI生成AI LLM)に渡されます。その後、LLMによって生成されたレスポンスと情報ソース(引用)がユーザーに返されます。引用は、LLMからの回答を理解し、より正確な回答を得るためにコンテキストを改善するための類似性検索の範囲を変更するために非常に役立ちます。

グローバルで洗練されたセマンティック検索オプション

HeatWaveベクトル・ストアは、SQLスキーマおよび表としてネイティブに格納されます。セマンティック検索の場合、ユーザーはすべてのベクトル・ストアを問い合せるか、検索の範囲を特定のスキーマに制限できます。

翻訳

HeatWave Chatは多言語サポートを提供し、英語以外の言語での会話をより快適に行えるユーザーは、HeatWave Chatとより簡単にやり取りできます。

ユーザーは、サポートされている言語のいずれかで質問できます。HeatWave Chatは、質問を英語に自動的に翻訳し、前述の典型的なチャット・ワークフローを経由して、LLMレスポンスを選択した言語に戻してからユーザーに回答を返します。

ワンストップIDEとMicrosoft VS Codeの統合

HeatWaveチャットは、VS CodeのMySQLシェルと統合されています。開発者がHeatWave GenAIを利用したアプリケーションを簡単に開発できる統合開発環境を提供します。

独自のチャットボットを構築

HeatWave GenAIは、開発者が独自のバージョンのHeatWaveチャットを作成するための2つの単純なSQLストアド・プロシージャを提供します。

ステップ1: ベクトル・ストアの作成

ステップ2: 会話の開始

HeatWaveチャットは、すべての会話コンテキストをデータベースに格納します。この情報には、検出されたベクトル・ストア表、取得された上位Kのドキュメント・セグメント、チャット履歴およびモデル・オプションが含まれます。

まとめ

チャットボットの未来は、生成AI技術を使用して、よりパーソナライズされた関連性の高い情報を提供する能力を強化することに依存しています。これにより、人間はより創造的で革新的になり、戦術的な活動ではなく戦略的な活動に多くの時間を費やすことができます。HeatWave GenAIは、生成AI主導のチャットボットを簡単かつ簡単に作成し、より洗練された対話型でパーソナライズされたインタフェースを通じてカスタマー・エクスペリエンスとロイヤルティを豊かにします。