導入のご相談よくある質問
導入前の質問
データはどこに保存されますか？
知能ドメインに登録されたデータはサーバー内に保存され、知能ドメインで許可されているユーザーのみが利用可能です。
他社クラウド型LLMをAPI連携し、会話ログなどを送信していませんか？
InfiniCloud AI Applianceは、外部のクラウド型LLM（AIサービス）を一切利用しておらず、会話ログ等のデータが外部に送信・流出することはありません。
会話ログはどこに保存されますか？
会話データはゲストモードでは、ユーザーのブラウザ内でのみ管理され、サーバー側には保存されません。知能ドメインの文書データは意味ごとにチャンク化したうえで、社内サーバーのデータベースへ保存。ユーザーの情報セキュリティ規定に則った運用ルール作成が可能です。
InfiniCloud AI Appliance Model Sの設置に必要なスペースや電力要件は？
モデルSは1Uラックマウントサーバー（実効消費電力500W前後、最大800W未満）で、通常のサーバーの2台分程度の電力しか利用しません。
本格導入前にPoC(Proof Of Concept)することはできますか？
InfiniCloud AIは導入シーンに合わせて、最適な性能が様々です。
まずは、クラウド版を短期間利用し、担当者を付けてテストするのが良いでしょう。その上で、オンプレミスが良いのか、クラウド版でより大型モデルを利用できるか問い合わせてください。
保守・サポートはどのように提供されますか？
導入コンサルタントサービス、サポートサービスが必要な場合は、当社パートナーのご紹介をさせていただきます。
導入システムに関する質問
自社のSaaSからPublic AIに対してリクエストを送っていますが、従量課金のため困っています。InfiniCloud AIはどのような料金体系ですか？
InfiniCloud AIはリクエスト課金ではなく、性能による一定課金となるため、導入時費用と年間サブスクリプション(クラウドの場合はクラウド費用)のみで継続利用可能です。ただし、スパイクアクセス時には耐えられないため、
ソフトウェアだけのライセンス購入はできますか？
現時点では、ソフトウェア単体でのリテール販売は行っておりません。SIer・OEM パートナー経由で、ハードウェアとセットでの導入を基本としています。
これはエンドユーザーのニーズに合わせたスペックの確定が難しいためです。
AMD Instinct MI300X など、NVIDIA 以外の GPU にも対応していますか？
理論的には動作するはずですが、現時点では対応を確認しておりません。
また、Apple Silicon搭載のMacでも128GB以上のメモリがある場合、動作していますが、プロダクション用途としては、利用推奨はしていません。これは、Apple Siliconの場合BF16形式の浮動小数点に対応していないこと、LLM利用用途の場合、メモリバンド幅が性能にかなり影響するためです。
※InfiniCloud LLMTKではfp16でFine‑tuneを行いますが、一部、sigmoid関数やnormalize、SiLUなどの桁あふれがしやすそうな部分については、自動的にfp32に変換処理をしています。
どの GPU / VRAM 構成を選べばよいか分かりません。
利用予定の LLM のパラメタ数、同時利用ユーザー数、ナレッジの量などから、相応しいスペックを選んでください。
分からない場合は、SIer、あるいはInfiniCloudまでお問い合わせください。
model S から上位構成にアップグレードしたい場合、GPU を増設できますか？
model SはL4/L40S以上のGPUを利用することは出来ません。また、ソフトウェアライセンスもサブセット版となり、別途、用意した方が良いかと思われます。
クラウド版とオンプレ版で、機能差はありますか？
基本的なコア機能は共通ですが、ネットワーク構成・セキュリティ要件・SLA に応じて提供可能なオプションが異なります。完全な Air-Gap や学内完結が必須の環境では、オンプレミス版のご利用を推奨します。クラウド版においても、Internetを経由しない、Inter-connect接続が可能な提供がある場合があります。詳しくは、提供プロバイダまでお問い合わせください。
運用に関する質問
ランゲージモデルのアップデートはどのように行いますか？
ランゲージモデルのアップデートはWebUIからできるようになる予定です。現在はコマンドラインからのみ可能です。ソフトウェア「Shiraito」のアップデートや、関連するパッケージのアップデートもコマンドラインからアップデート可能です。
ビジネスの質問
自社のビジネス、サービスに組み込むことはできますか？
貴社のビジネスやサービスへの導入支援が可能です。InfiniCloudはパートナー企業も募集しております。詳細はお問い合わせください。
リセール、OEM提供は可能ですか？
リセール・OEM形式でのご提供も承っております。ぜひ詳細をご相談ください。
現在、自社の顧客とPoCを行っています。手伝っていただくことは可能ですか？
当社パートナーにて対応可能な場合があります。詳細はお問い合わせページよりご相談ください。
セキュリティ
監査ログはどこに保存されますか？
すべてお客様管理のストレージに保存され、外部送信されません。
権限管理は細かく設定できますか？
はい。Admin / Domain Owner / User / Read-only など、RBAC により細かいアクセス制御が可能です。
モデル更新時に学習内容は失われませんか？
ポリシーに基づき、ナレッジや LoRA 学習結果を継承できます。また、ベースモデルが異なった場合でも、再学習が可能になっています。
データやチャットプロンプトなどを、海外のLLMなどに送信することはあるのでしょうか？
いいえ。データはすべて、ユーザーの環境内に保持されます。
リクルートの質問
InfiniCloud AIの開発に携わりたいです。AIエンジニアの募集をしていますか？
AIエンジニアを含む多様なポジションで積極採用中です。当社リクルートサイトより、ぜひご応募・ご相談ください。
