InfiniCloud® AI

InfiniCloud AI ShiraitoのWebUI接続すると、チャット画面が表示されます。

一番下にチャット入力画面があります。ここでは改行を入力することもできる為、「SEND」ボタンをクリックするか、CTRL+ENTER、あるいはCMD+Returnを入力することで送信できます。

次にスレッド画面があります。スレッド毎に話題が異なるので、現時点のShiraitoでは異なるスレッドのことは知りません。また、スレッド内容はブラウザに保存されているため、サーバ側には送信される物の保存されないため、開いたブラウザ毎に異なるスレッドが展開されています。スレッドの下の新規ボタン押すと新しい話題をAIと会話ができます。

最後に左下のオプション画面です。オプション画面ではShiraitoの特徴である、知識(Knowledge)の投入ができ、Shiraitoにユーザのビジネスドメイン(分野)のことを独自に学習させることができます。

チャット画面に「有名なLLMについて教えてください」と入力しました。
Shiraitoは暫く考えた後、返答します。

ここで入力された会話は、外部のクラウドのLLMのAPIを利用していないため、完全にShiraitoの内部に閉じています。オンプレミス版の利用する場合は、完全にオンプレミス環境内での動作となり、会話データは一切、外にはでません。

画面では、中間にある思考過程である「Thought」をあえて開いていますが、通常は閉じています。選択されたランゲージモデルのデータセットによって思考の過程を確認できるモデルと、そうでないモデルがあります。

ユーザは、AIとの対話により様々なことを得ることができますが、AIは常に正しいことを答えるとは限りません。人間と同じように、その時にもつ情報で、「正しいであろう」ことを答えようとしますが、勘違いしていることもあります。

たとえば、ユーザが「規程・ルール」を読ませずに、「交通費の精算方法について」と聞いても、「知らない」と答えるのが正しいのですが、どこかにありがちな規程で補完をしてしまい正しくないことを回答することがあります。

そこでドメイン知識の投入が必要になります。

知識ドメイン管理

まずは、知識ドメイン管理を開き、「知識ドメイン名」を入力します。

現時点のShiraitoでは、知識ドメインは全体で共有されるため、個人的な物を入れることはできず、組織内で活用できる情報を、知識ドメインとして投入することを想定しています。「規程類」「○○マニュアル」など、それぞれの分野毎に必要な物を投入すると良いでしょう。

また、投入する知識ドメインは、基本的にはShiraitoの仕組みの中に閉じているため、会話と同じく、他社のクラウド型LLMのAPIに接続することもありません。オンプレミス版の場合は、投入される知識は全て、オンプレミスに閉じています。

作成された「知識ドメイン」の左の「↓」をクリックすると、その「知識ドメイン」ごとの役割や、AIのシステムとしてのルールを記入することができます。

ここで入力される物はユーザとのチャットログには現れませんが、どういう方針で答えるのか、どんな言い方をするか、様々なAIのふるまいのルールを決めるプロンプトとなります。

この文章の書き方一つで、回答の精度が大きく変わることがあるので、利用者のプロンプトノウハウとして、必要に応じて社内で共有・保管してください。

※不要になった「知識ドメイン」の消去時にこのプロンプトも削除されるためです。

知識の投入

次にオプション画面の「知識の投入」画面を選択し、プルダウンから「知識ドメイン」を選びます。追加される知識ドメインの色と同じ色の背景となっています。

ここでは2つの方法で知識の投入ができます。

1つめは、社内からアクセスするURLを羅列する方法。

もう1つはファイルを直接アップロードする方法です。アップロードできるファイル形式は、様々なフォーマットとが対応おり、ZIPファイルでまとめて投入することもできます。

投入されるデータに「ゴミデータ」、すなわち「ドキュメント的に意味をなさないデータ」が多くあると、AIが必要不必要のデータの取り出しに混乱していくことがあります。従って、投入されるデータはなるべく厳選していくのが、役に立つドメイン特化型AIをつくるコツです。

Shiraitoは、MHASという独自のアルゴリズムを使い、投入されるドキュメントのコンテキスト空間から、コーパスを選び出す際、類似性が多くあるもの、ドキュメントセマンティクス的に不要だと考えられる物(例：URL投入の場合は、ナビゲーションメニューなど)を除去するように作られています。

また、知識をドキュメントセマンティクス毎に細分化し、投入することで高速化し、学習負荷の低減(省エネ)などを実現しています。

とはいえ、知識の投入フェーズにはそれなりの時間がかかります。学習のように数週間や数ヶ月はかかりませんが、投入作業は数十分レベルの時間が必要です。

まずは少しずつ投入していき、結果を確認してみるのが良いでしょう。

ログ画面にて「SUCCESS」で終了していたら、投入作業は完了となります。

知識の確認と編集

投入された知識を確認することも可能です。

知識情報の編集から、投入された知識データの確認と編集が可能です。

またこの画面の知識データから、「知恵(Wisdom)の抽出」を行い、学習させることにより、知能(Intelligence)がより、ドメインに特化し、強化されていきます。

ただし「知恵(Wisdom)の学習」は、ドメイン特化型のデータセットを十分な量、用意しなくては、効果が現れにくい傾向があります。また、現在のオンプレミス版の「モデルS」では、知恵の習得には性能的な制限があります。「知恵の学習」を重視する場合は、後にリリース予定の上位モデルか、モデルSと接続できるクラウド型の外部エンジン(この場合は一時的に外部にデータストリームが流れて行きます)のリリースまでお待ちください。

知識ドメインの利用

左下のアイコンをクリックすることにより、投入された知識ドメインを選択可能になります。

このドメイン分野でしか分からないことを聞きます。

今回は、当社のHigh Response Private Cloud(HRPC)のXenタイプのドキュメントURLを投入した知識ドメインを作成したので、ユーザが最初に迷いがちな「HRPCにログインする方法を教えてください」という質問を投げかけます。