InfiniCloud® AI

Private AIは、ローカルLLMは違う？

LLMはランゲージモデルであり重みの集合データです。それを動かすためにLLMエンジンがあり、ローカルLLMを簡単に体験し、遊ぶことができます。LLMとLLMエンジンだけでできることはクエリに対しての回答(APIで言えばcompletions)ぐらいなのでで、ローカルLLMを立ち上げても「思ったよりも使えないな？」と感じた方も多いでしょう。

一般的なクラウド型の「Public AI」は、データを運び、処理し、必要なロジックをもち、LLMを1つのパーツとして動かす為の、データパイプラインを持っています。

InfiniCloud AI Shiraitoも同じように、ランゲージモデル(LLM/SLM)を動かすためのデータパイプラインを持ち、近傍を検索したり、複雑な問題を分割したり、ライティングするLLMがいたり、評価をするLLMがいたり、様々なエンジンを搭載しています。それだけでなく、特定分野(ドメイン)向けのFine Tuneを行うこともできます。これはPublic AIにも中々難しいことです。

あなたがもし、公開用の自社サービスサポートエージェントを作りたいなら、さらに負荷分散、リソース制御技術、Web技術、コンテナ技術、ハイパバイザ技術などを統合する必要があります。InfiniCloud AIはこれらの技術にも対応しています。

InfiniCloud AIは、「プロダクション」として「動く」ことに徹底的に拘り、実験ではなく「使える」Private AIエンジンなのです。

InfiniCloud AIでのランゲージモデル(LLM)の考え方

LLMは「重みの集合データ」で過ぎずAIを作りあげるパーツの一つといっても、AIの心臓部であることは間違いありません。ですから、InfiniCloud AIではLLMを特別な思いで作りあげています。残念ながら、現時点では、InfiniCloudのLLMは「乱数からプリ・トレーニングした純国産LLM」ではありません。

OpenAI社のGPT OSSや、Alibaba社Qwen、東京科学大学のSwallowなど、オープンランゲージモデルを元に、InfiniCloudがTransfer Learningを行い、日本の社会人常識を備えるようにFine TuneしたLLMです。このInfiniCloud LLMは、ランゲージモデルとして新しいベースランゲージモデルが出る度に、Transfer Learningを行い、アップデートされる予定です。

あなたの会社に入社したInfiniCloud AIは、あなたの会社がもつ情報で育ち、あなたの会社の従業員となり、ファインチューニングされ、いずれはエキスパートとなります。

そしてInfiniCloud LLMのベースモデルがアップデートされると、InfiniCloud AIのパイプラインから蓄えた記憶を引き継ぎ、新しいInfiniCloud AIに生まれ変わることもできます。

LLM-as-a-Serviceを実行するエンジン

AIが、あなたの会社の中で学び、育つ。それがInfiniCloud® AIです。

社内ドキュメントから育てたドメイン特化AIを、OpenAI互換のAPIでそのまま呼び出せます。completions互換で既存エンジンに組み込みやすく、さらにassistants／responses対応で、次世代アプリにも柔軟に統合できます。

RAGやファインチューニングで育てたAIは、あなたの業務知識を白糸のように編み込み、Public AIにはない「組織固有の知恵」を返す存在に。

秘匿情報を安全に扱いながら、自社アプリやSaaSと連携し、AIサポートや社内自動化を思いのままに。

InfiniCloud AI ── Private LLMaaSの、開発者にやさしい進化形。

継続的拡張

昨今の進化の速いAI業界においても、ランゲージモデルの置き換えや、ミドルウェアのアップデートにも対応。InfiniCloud AIの根幹を担うソフトウェア「Shiraito」自体も継続的なアップデートが行われます。