InfiniCloud® AI

InfiniCloud AIの使い方

ここでは、InfiniCloud AIシリーズのLLMエンジン「Shiraito」の使い方について説明します。

起動直後

InfiniCloud AI ShiraitoのWebUI接続すると、チャット画面に接続します。

一番下にチャット入力画面があります。ここでは改行を入力することもできる為、「SEND」ボタンをクリックするか、CTRL+ENTER、あるいはCMD+Returnを入力することで送信できます。

次にスレッド画面があります。スレッド毎に話題が異なるので、現時点のShiraitoでは異なるスレッドのことは知りません。また、スレッド内容はブラウザに保存されているため、サーバ側には送信される物の保存されていないため、開いたブラウザ毎に異なるスレッドが展開されています。スレッドの下の新規ボタン押すと新しい話題をAIと会話ができます。

最後に左下のオプション画面です。オプション画面ではShiraitoの特徴である、知識(Knowledge)の投入ができ、Shiraitoにユーザのビジネスドメイン(分野)のことを独自に学習させることができます。

チャットをする

チャット画面に「有名なLLMについて教えてください」と入力しました。

Shiraitoは暫く考えた後、回答を返答しています。

ここで入力された会話は、外部のクラウドのLLMのAPIを利用していないため、完全にShiraitoの内部に閉じています。オンプレミス版の利用する場合は、完全にオンプレミスで閉じた世界となり、会話データは一切、外にはでません。

画面では、中間にある思考過程である「Thought」をあえて開いていますが、通常は閉じています。選択されたランゲージモデルのデータセットによって思考の過程を確認できるモデルと、そうでないモデルがあります。

ユーザは、AIとの対話により様々なことを得ることができますが、AIは常に正しいことを答えるとは限りません。人間と同じように、その時にもつ情報で、「正しいであろう」ことを答えようとしますが、勘違いしていることもあります。

たとえば、ユーザが「規程・ルール」を読ませずに、「交通費の精算方法について」と聞いても、「知らない」と答えるのが正しいのですが、どこかにありがちな規程で補完をしてしまい正しくないことを回答することがあります。

そこでドメイン知識の投入が必要になります。

ドメイン知識を投入する

左下のオプションボタンをクリックし、オプション画面を開きます。

知識ドメイン管理

まずは、知識ドメイン管理を開き、「知識ドメイン名」を入力します。

現時点のShiraitoでは、知識ドメインは全体で共有されるため、個人的な物を入れることはできず、ユーザの組織単位で役に立つであろうものを、知識ドメインとして投入することを想定しています。「規程類」「○○マニュアル」など、それぞれの分野毎に必要な物を投入すると良いでしょう。

また、投入する知識ドメインは、基本的にはShiraitoの仕組みの中に閉じているため、会話と同じく、他社のクラウド型LLMのAPIに接続することもありません。オンプレミス版の場合は、投入される知識は全て、オンプレミスに閉じています。

 

作成された「知識ドメイン」の左の「↓」をクリックすると、その「知識ドメイン」ごとの役割や、AIのシステムとしてのルールを記入することができます。

ここで入力される物はユーザとのチャットログには洗われませんが、どういう方針で答えるのか、どんな言い方をするか、様々なAIのふるまいのルールを決めるプロンプトとなります。

この文章の書き方一つで、回答の精度が大きく変わることがあるので、利用者のプロンプトノウハウとして、メモ超などに保存して置くと良いでしょう。

※不要になった「知識ドメイン」の消去時にこのプロンプトも削除されるためです。

 

知識の投入

次にオプション画面の「知識の投入」画面を選択し、プルダウンから「知識ドメイン」を選びます。追加される知識ドメインの色と同じ色の背景となっています。

ここでは2つの方法で知識の投入ができます。

1つめは、社内からアクセスするURLを羅列する方法。

もう1つはファイルを直接アップロードする方法です。アップロードできるファイル形式は、様々なフォーマットとが対応おり、ZIPファイルでまとめて投入することもできます。

投入されるデータに「ゴミデータ」、すなわち「ドキュメント的に意味をなさないデータ」が多くあると、AIが必要不必要のデータの取り出しに混乱していくことがあります。従って、投入されるデータはなるべく厳選していくのが、役に立つドメイン特化型AIをつくるコツです。

Shiraitoは、MHASという独自のアルゴリズムを使い、投入されるドキュメントのコンテキスト空間から、コーパスを選び出す際、類似性が多くあるもの、ドキュメントセマンティクス的に不要だと考えられる物(例：URL投入の場合は、ナビゲーションメニューなど)を除去するように作られています。

また、知識をドキュメントセマンティクス毎に細分化し、投入することで高速化し、学習負荷の低減(省エネ)などを実現しています。

インポート中画面
※画像は開発版のものです

とはいえ、知識の投入フェーズにはそれなりの時間がかかります。学習のように数週間や数ヶ月はかかりませんが、投入作業は数十分レベルの時間が必要です。

まずは少しづつ投入していき、結果を確認してみるのが良いでしょう。

ログ画面にて「SUCCESS」で終了していたら、投入は完了です。

知識の確認と編集

投入された知識を確認することも可能です。

知識データ管理

知識情報の編集から、投入された知識データの確認と編集が可能です。

またこの画面の知識データから、「知恵(Wisdom)の抽出」を行い、学習させることにより、知能(Intelligence)がより、ドメインに特化し、強化されていきます。

ただし「知恵(Wisdom)の学習」は、ドメイン特化型のデータセットを十分な量、用意しなくては、効果が現れにくい傾向があります。また、現在のオンプレミス版の「モデルS」では、知恵の習得には性能的な制限があります。「知恵の学習」を重視する場合は、後にリリース予定の上位モデルか、モデルSと接続できるクラウド型の外部エンジン(この場合は一時的に外部にデータストリームが流れて行きます)のリリースまでお待ちください。

知識ドメインの利用

いよいよ、ドメイン特化したAIを使って行きましょう。

左下のアイコンをクリックすることにより、投入された知識ドメインを選択可能になります。

このドメイン分野でしか分からないことを聞いてみます。

今回は、当社のHigh Response Private Cloud(HRPC)のXenタイプのドキュメントURLを投入した知識ドメインを作成したので、ユーザが最初に迷いがちな「HRPCにログインする方法を教えてください」という質問を投げかけてみます。

回答結果です。

 

このように、当社のクラウド基盤に沿った形で回答をしています。

InfiniCloud AI Shiraitoを使う事で、顧客の機微な情報を扱うサポートセンターの効率化や、社内ヘルプデスクの効率化、また、特定ドメインでどうしても外部に出せない情報などにも効果を発揮することができます。