Technology

InfiniCloud® AI

自社の「知能」を育て、所有する時代へ

Top / サービス一覧 / InfiniCloud AI / リリースノート / InfiniCloud AI 2.1.25 リリースノート

InfiniCloud AI 2.1.25 リリースノート

InfiniCloud AI 2.1.25 では、1つの Shiraito を組織(テナント)ごとに分けて運用できるようになりました。OpenAI 互換のクライアント(codex・Claude Code・各社 SDK)からも、知能ドメインの回答を受け取れます。決めた検索語で Web を調べて要約をファイルに書き出すワークフロー、追加学習の「学習レシピ」、会話の Markdown ダウンロードも追加しました。あわせて、型や容量の違う GPU が混ざる機での配分の改善、e-Gov 法令検索のぶれの解消、ダイアログやドロワーの表示の統一を行っています。

注意 この版には、既存の呼び出し側に影響する変更と、元に戻せないデータベースマイグレーションが含まれます。アップグレードの前に、必ず「アップグレード時の注意」をすべてご確認ください。

  • POST /v1/chat/completions の動作が変わり、旧フィールドは 400 になります。
  • migration 0066 を適用した後は、以前の版へ戻せません。
  • 知能ドメインの保存先、ファイルの添付、テナントの権限に関する変更があります。

主な新機能

1つの Shiraito で、複数の組織(テナント)を運用可能に

Default テナントの管理者(Platform 管理者)が「テナント管理」でテナントを作り、最初の管理者を指定します。その人がテナントの管理者として、自テナントの利用者・グループ・知能ドメインを管理します。テナントの中身(グループ・知能ドメイン・会話・タスクログ)は、Platform 管理者にも見えません。

「テナント管理」は、[rbac] enable_tenant_ui = true のときだけ表示されます。Default テナントだけで使い続ける環境では、この機能の操作は不要です。手順・規則・既知の制約は、sys_multi-tenant のドキュメントをご覧ください。

  • テナントの作成・有効化: 最初の管理者(アカウントが有効な既存ユーザー)の指定が必須です。その人は、作成と同時に新しいテナントへ移り、Admin グループに入ります。
  • テナントの停止・再開: 停止すると、所属者全員が使えなくなります(画面・WebDAV・API キーとも)。所属とグループは残り、再開すると再び使えます。Default テナントは停止できません。
  • 利用者台帳: 「テナント管理」の中に、全ユーザーの ID 情報と所属テナントを検索できる台帳を追加しました(新しい権限 users.manage.global)。テナントへの割り当て・移動、アカウントの停止、任意のテナントへの招待、削除ができます。グループ・知能ドメイン・会話は返しません。
  • テナント管理者の操作: 「ユーザーとグループ管理」から、既存ユーザーの追加、所属の停止・再開、テナントから外す操作ができます。
  • テナントを移っても残るもの: 会話・記憶・自分専用のストレージ領域・API キーは残ります。元のテナントのグループからは外れ、ログイン中のセッションは終わります。
  • 有効なテナントの最後の管理者は、停止・所属解除・移動・削除できません。
  • 新しいユーザーの所属先を選べます: セルフサインアップと、LDAP / OIDC の初回ログインで作られるユーザーの所属先を、[rbac] new_user_tenant で選べます。default(既定)は Default テナント、none はどのテナントにも所属させず、管理者が割り当てるまでログインできません。ほかの値を書くと、アプリは起動しません。
  • LDAP / OIDC のグループを、テナントごとにバインド可能: バインドはテナントの中で一意になり、ほかのテナントのバインドとは衝突しません。

OpenAI 互換のクライアントから、知能ドメインの回答を受け取れるように

codex・Claude Code・各社 SDK などの OpenAI 互換のクライアントから、モデル名に default:<ドメイン名>と書くだけで、WebUI と同じ検索と人格が効くようになりました。出典を付けるよう頼むこともできます。

Shiraito の処理(検索・実行モード・人格)が動くのは、次のどちらかがあるときだけです。

  • モデル名にドメインが入っている(<プール名>:<知能ドメイン名>)。
  • リクエストのボディに shiraito オブジェクトがある(execution_mode / search.web / search.top_k / include)。

どちらも無い要求は、手を入れずに推論先へ渡し、返ってきたものをそのまま返します。この拡張は、使えるすべてのプールで通ります。

注意 既存の呼び出し側には、非互換があります。詳しくは「アップグレード時の注意」をご覧ください。

決めた検索語で Web を検索し、要約をファイルで受け取れるワークフロー

ワークフロー(web-search-digest)に検索語を書いておくと、Web を検索し、結果を1回で要約して、1つのファイルに書き出します。

  • 検索語は、YAML の input.source(type: web_search、queries は1〜10件)に書きます。
  • 書き出し先は、ドメインの output/ か、ホームの output/ です。ファイル名は<workflow_id>-<YYYYMMDD>です。
  • 手動実行(メニューかチャットの /command)と、schedule トリガーの定期実行ができます。
  • 検索結果が0件のときは、ファイルを作りません。
  • input.source に since_days(期間で絞る)と only_new(前回までに見た URL を除く)を書けます。見た URL の記録は、migration 0070 が作る public.workflow_seen_url に持ちます。

注意 検索語は、実行した人の名前で外部の検索サービスへ送られ、検索語ごとに監査ログ(web_search_egress、origin=workflow)に残ります。使うプロバイダの決め方は、チャットの Web 検索と同じです。

  • 例のワークフロー(domain-web-search-digest-docx / home-web-search-digest-md)は、無効で出荷しています。例の仮の検索語が残っていれば、有効にしても読み込みません。
  • 定期実行は、有効化した人(個人領域では持ち主)の名前で動き、発火のたびに、その人が有効な利用者か、今も実行の権限を持つかを確かめます。確かめられなければ、何も送らずに失敗します。
  • 1時間に1回より多い cron と、使えるプロバイダが無いものは、有効化できません(422)。
  • 書き方は、usr_skill-workflow-package-reference のドキュメントの §3.4.1 と §3.10 をご覧ください。

追加学習を、「学習レシピ」から始められるように

モデルの構造ごとに、学習対象(target)・rank / alpha・学習率・エポック・Thinking の扱いを、根拠と検証状態つきの JSON で持つ「学習レシピ」を追加しました。

FineTune の実行画面で、「手動(従来)/構造に合う auto/レシピを明示」から選べます。実行前のプレビューで、解決された設定と、その設定元(レシピ/管理者の既定値/今回の指定)が見えます。既定は、従来の手動設定のままです。

  • 保存した checkpoint の照合: 保存のたびに adapter の全 tensor の SHA-256 を取り、終了時に登録する重みが、最小 dev loss の checkpoint の内容と一致することを確かめます。best を指定した実行で一致しなければ、登録前に失敗します。
  • 早期停止: dev loss が改善しなくなったところで、学習を止められます。load_best_model_at_end / early_stopping_patience / early_stopping_threshold を、実行ごとに指定できます。早期停止には、dev データが必要です。
  • 実行記録の閲覧: GET /api/rag/domains/{domain}/loras の各項目に training_run(レシピ・計画値と実行値・設定元・checkpoint の選択・終了理由・holdout 評価)が付き、WebUI に閲覧パネルが出ます。パスとハッシュは公開しません。
  • 同梱のレシピ: qwen3_5_9b_answer_shape(Qwen3.5-9B)と、qwen_dense_27b_answer_shape(Qwen3.8-27B の構造)の、回答形式の学習レシピです。どちらも reference_only(品質は未検証)です。

レシピの本体は、同梱の llmtk(2.2.0)にあります。ソースから配備している環境は、requirements.txt を再インストールしてください。

e-Gov 法令検索が、指定した法令の外へ黙って広がらないように

これまでは、法令名を含む検索で、その法令に条文が見つからないと、法令の指定を落として全法令をキーワード検索し、他の法令の見出しだけの一致を結果として返していました。

現在は、解決した法令の範囲でキーワード検索し、見つからなければ空のまま返します。見出し・目次・位置不明の一致は、結果に入れません。本文(mainprovision)がある一致だけを採用します。

注意 空の結果は、「規定が無い」ことの証明ではありません。語を減らして再検索する経路は、この版にはありません。

会話を Markdown でダウンロード

チャット入力欄の下段から、現在の会話を Markdown でダウンロードできるようになりました。ユーザーの原文・アシスタントの本文・保持済みの Thinking を、発言順に保存します。ダウンロードはブラウザの中で完結し、生成中は無効です。

型や容量の違う GPU が混ざる機で、プールが配分どおりのカードに載るように

  • 空いているカードから使います: 置き場所の候補を、「そのカードの何%を使うか」の小さい順に試していたため、大きいカードがいつも安く見え、そこに積んでいました。現在は、何も載っていないカードを先に、その中では、置いた後に残る容量が大きい順に試します。例えば、96GB と 24GB のカードに 31B と 9B(4bit)を置くと、これまでは両方が 96GB に同居し、24GB は空いていました。これからは、31B が 96GB を、9B が 24GB を使います。
  • 配分と別のカードで起動する不具合を修正: 自動配分は、カードを nvidia-smi の番号(PCI バスの順)で指しますが、vLLM は同じ番号を CUDA の既定の順(速いカードが先)で読んでいました。vLLM の起動と、backend・v1api のコンテナに CUDA_DEVICE_ORDER=PCI_BUS_ID を渡し、全員が nvidia-smi と同じ順で数えるようにしました。FineTune の学習が載るカード(GPU 0)も、同じ番号になります。
  • GPU の自動配分の上限を、カードごとに設定可能: これまでは、全カード 90% で固定でした。[llm] memory_ceiling で全カードの上限を、[llm] memory_ceiling_gpu<N>(N は nvidia-smi の番号)で、カードごとの上限を決めます。backend・v1api の埋め込みや reranker が載るカードの上限を下げると、同じカードの配信プールが、それらに押されて VRAM 不足で落ちることを防げます。範囲は 0.50〜0.98 です。範囲外の値、数でない値、[llm.<プール名>] に書いた値では、backend と llm_sm が起動しません。llm_sm は、起動時にカードごとの名前・容量・上限をログに出します。

利用者向けの主な改善

ダイアログとドロワーの表示を統一

障害通知・追加認証(step-up)・タスクログのビューア・スキルとワークフローの閲覧・知識の確認の「統計」を、共通の表示にそろえました。

  • ヘッダーの青いグラデーションとドラッグ移動は無くなり、ほかのオーバーレイと同じ面・同じ出入りになります。
  • ダイアログの外側をクリックしても、閉じなくなりました。 閉じるのは、「キャンセル」・×・Esc です(追加認証以外は、×と Esc)。
  • 追加認証のダイアログは、開いた時点でパスワード欄に入力できます(これまでは、欄を押してから入力する必要がありました)。
  • 設定・アカウント・スレッドのファイルのドロワーを、閉じている最中(約0.2秒)でも開き直せます。追加認証とタスクログのビューアも、閉じている最中に、次を開けます。
  • 設定ドロワーの幅を、左端のドラッグで変えられるようになりました。変えた幅は、ブラウザに保存されます。
  • ダイアログとドロワーの本文の、見出しと段落の文字組みを統一しました。見出しは 16〜13px、段落は 14px になり、余白も詰まります。
  • 閉じるアニメーションの最中に起きた障害の通知が、消えなくなりました。
  • 明色テーマの警告文の文字色を、面の色から分けました。白の上のコントラスト比が約 1.6:1 だったものを、4.5:1 以上にしました。

セッションが終わったとき、ログイン画面に理由を表示

テナントの停止・所属の停止・テナントの移動、パスワードやメールアドレスの変更などでセッションが終わると、ログイン中の画面(ほかのタブ・端末も)が、次にサーバへ問い合わせたとき(遅くとも30秒ほど)に、ログイン画面へ戻ります。

  • 「所属しているテナントが無いか、利用が停止されています。管理者に連絡してください。」
  • 「セッションが無効になりました。もう一度サインインしてください。」

これまでは、画面がそのまま残り、以後の操作が 401 で失敗していました。Default テナントだけの環境でも同じです。

スレッドの信頼性を向上

  • 新しいスレッドの ID を、サーバが決めるようになりました。クライアントが作る仮の ID は、サーバに最初に接触した時点で、本物に置き換わります。
  • スレッドの ID が、推測できなくなりました。以前は時刻そのものだったため、他人が先回りして書き込むと、本来の利用者の最初の発言が保存できませんでした。
  • 同じスレッドへの最初の書き込みが競合しても、発言が失われなくなりました。
  • 上流の LLM への接続を、使い回すようになりました。これまでは、要求ごとに接続を作って捨てていたため、DNS 解決・TCP・TLS のやり直しが毎回かかっていました。

そのほかの改善

  • 知能ドメインを作るとき、同じ名前の既存ドメインを書き換えなくなりました。名前が既にあれば、既存のドメインに触れずに 409 を返します。
  • 知能ドメインのアクセス管理で、グループ名の後ろに付いていたテナント ID を表示しなくなりました。
  • 「ユーザーとグループ管理」からの招待(単体・一括)が、監査ログ(user_invite / user_invite_bulk)に残るようになりました。
  • 「知識の確認」の「統計」を2回目に開くと、見出しと件数が空のまま出ていた不具合を修正しました。
  • モデル設定のプールの説明を、いまの動きに合わせて書き直しました。新しく作るローカルプールの max_model_len は、-1(KV キャッシュに入る最大の長さに vLLM が合わせる値)から始まります。既存のプールの値は変わりません。
  • 同梱の llmtk を、上流 2.2.0 に再同期しました。

セキュリティの強化

テナントの境界を強化

  • ユーザー・グループ・所属・招待・外部グループのバインドは、自テナントのものだけが一覧に出ます。他のテナントの ID を指しても 404 です。存在しない ID と見分けられない同じ 404 を返します。
  • 知能ドメインはテナントに属します。ドメインのテナントの外から、guest の権限が効くのは、view までです。
  • 知能ドメインの ACL に入れられるのは、ドメインのテナントのユーザーとグループだけです。
  • 管理者の上書き(domains.transfer_owner)は、自テナントの知能ドメインにだけ効きます。
  • 知能ドメインの周りの API(状態・JSONL・タスクログなど)が、呼び手の見えるドメインだけを扱うようになりました。認証の要らない /health は、準備中の間もドメイン名を出さず、状態ごとのドメイン数だけを返します。

スレッドの認可を強化

  • スレッドの所有者確認を、書き込みを直列化しているロックの下に移しました。確認から追記までの間に、持ち主がそのスレッドを削除し、別の利用者が同じ ID で作り直すと、追記が別人のスレッドに入り、別人のイベントを消せる窓がありました。
  • user_id = 'apiv1' の古いスレッドは、どの鍵からも読み書きできなくなりました。

添付とスレッドの索引の扱いを整理

ファイルの添付は、サーバに保存するスレッドでだけできるようになりました。添付が作るサーバ側のデータ(原本とスレッドの検索索引)を、スレッドの削除とアカウントの削除で確実に片づけるためです。一時索引の保持時間(TTL)は、無くなりました。詳しくは「アップグレード時の注意」をご覧ください。

アップグレード時の注意

1. データベースのマイグレーション(元に戻せません)

  • migration 0066 を適用した後は、以前の版へ戻せません。 旧版は、グループ所属を書けなくなるため、戻すには 0066 適用前のバックアップから復元してください。
  • migration 0065 は、rag.domain.legacy_key を NOT NULL・一意にします。欠損や重複があると、マイグレーションは止まり、制約は途中適用されません。止まったときの手順は、sys_domain-storage-key-migration のドキュメントにあります。データベースの値だけを SQL で直してはいけません(キーは、実ディレクトリの名前です)。事前確認の SQL が2本あるので、アップグレード前に流してください。
  • migration 0066 は、全ユーザーを Default テナントへ所属させ、全グループを Default テナントへ移します。0067 は、既存の知能ドメインをすべて Default テナントへ入れます。0068 は、既存の外部グループのバインドを、そのグループのテナントのものにします。0069 は、以前の版で作った tenant_admin という名前のロールを、tenant_admin_legacy に改名します(権限・割り当て・ユーザーは、新しい名前のまま引き継がれます)。0070 は、web-search-digest の見た URL の記録を作ります。
  • 0066 の途中で止まるのは、Default テナントを決められないときです(is_system_tenant = 1 でグループを持つ行が2つ以上ある、など)。0066 は何も変更せずに巻き戻るので、sys_tenant-membership-foundation のドキュメントの表に沿って直してから、DB コンテナを起動し直してください。
  • 0066 の後に、所属が無い・停止中のユーザーは、ログインでも操作でも止まり、その人の API キーも 401 になります。通常は、所属の状態を直接 SQL で suspended にしていたユーザーだけです。

2. POST /v1/chat/completions の非互換

2.1.24 で素通しにした3経路と同じ処理を通るようになりました。既存の呼び出し側は、次の点を確認してください。

  • 旧フィールド(domains・rag・rag_top_k・web_search・thread_id、および Shiraito 拡張としての thinking)は、400 になります。書き換え先は、dev_openai-compatible-api のドキュメントの §3.2 の表にあります。
  • この経路で、スレッドへ保存することはできなくなりました。thread_id は 400、store: true も 400 です(store: false と省略は受け付けます)。
  • 鍵の default_domain は、要求に注入されません。既定ドメイン頼みで検索を効かせていた呼び出しは、モデル名にドメインを書いてください。web_search_enabled が false の鍵は、ドメイン経由の外部検索も 403 になります。
  • モデル名は、<プール名>[:<知能ドメイン名>] だけです。normal などの旧名は 400 です。
  • store は4経路とも、stream は /chat/completions で、真偽値だけを受け付けます。文字列の "true" / "false" は 400 です。
  • execution_mode が thinking / edtm のときは、stream: true が必要です。この2モードの応答は、OpenAI 形式の chunk ではなく、Shiraito 独自の SSE です。
  • RAG の出典は、shiraito.include に rag_sources を書いたときだけ、応答の最上位の rag_sources に入ります。
  • 旧 thinking({"mode": …})は、/v1/responses で 400 になります(これまでは黙って無視されていました)。/v1/messages では、Anthropic の実在するフィールドなので、今までどおり上流へ渡ります。

3. 知能ドメインの保存先の決め方が変わります

これまでは、新しいドメインのディレクトリ名と Chroma のコレクション名を、ドメイン名の SHA-1 から作っていたため、削除して同じ名前で作り直すと、消し損ねた古いディレクトリを引き継ぐことがありました。以後、新しいドメインの保存先キーは、domain_id(UUID)から作り、改名しても変わりません。

  • 既存のドメインのキーとディレクトリは、一切書き換えません。 旧形式の16桁のまま動き、新形式の32桁と混在して正常です。
  • WebDAV のドメイン URL は、画面が生成するものが /api/sot/dav/domains/{domain_id}/… になります。従来の{ドメイン名}の URL も、互換経路として使えます。

4. ファイルの添付と、一時索引の保持時間

  • ログインしていない利用者(ゲスト)は、添付できません。ログインしていても、クライアント保存のスレッドでは添付できません。サーバ保存に切り替えれば、今までどおり使えます。本文に書いた URL の内容も、クライアント保存のスレッドでは取り込みません(取り込まなかったことは、通知で出ます)。
  • [rag] ephemeral_ttl_hours と [uploads] guest_max_total_bytes は、読まれなくなります(設定に残っていても無視されます)。スレッドの索引は、時間では消えず、スレッドを削除したときと、アカウントを削除したときに消えます。
  • すでに /tmp/shiraito_ephemeral にある旧い一時索引は、もう読まれません。/tmp がコンテナの一時領域なら、作り直しで失われます。永続化している場合は残るので、確認のうえ、運用者が削除してください。

5. テナント機能に伴う変更(Default テナントだけの環境では、実効権限は変わりません)

  • ユーザーとグループ管理: 操作する管理者のテナントの中だけを扱います。グループ作成画面の「テナントとして作成」「選択中のテナント配下」の選択は無くなり、グループは常に操作者のテナントに作られます。招待の group_ids に、存在しないグループや他テナントのグループが含まれると、招待そのものを拒否します(これまでは黙って無視していました)。
  • テナント管理の API が変わりました。 呼び出しているスクリプトがあれば、直してください。
    • POST /auth/admin/tenants は、initial_admin_user_id が必須になり(無ければ 422)、tenant.create に加えて users.manage.global が必要です。作ったテナントは、最初から active です。
    • DELETE /auth/admin/tenants/{id} は、グループが残っているテナントを、グループと一緒に削除します。所属者か知能ドメインが残っていれば、断ります。
    • 断ったときの応答が、文字列の 400 から、機械向けのコードになりました(名前の重複は 409 tenant_name_taken、所属者が残っているときは 409 tenant_has_members、Default テナントの削除は 400 system_tenant_protected など)。
    • 応答のテナントに status・created_by が、一覧に member_count と active_admin_count が加わりました。
    • 要求・応答の全体は、dev_auth-api のドキュメントの「テナント」をご覧ください。
  • 存在しない ID を指したときの応答: 他のテナントの ID と見分けられないよう、404 になります。DELETE /auth/admin/groups/{id}(204 から 404 group_not_found)、DELETE /auth/admin/groups/{id}/members/{user_id}(204 から 404)、PATCH /auth/admin/users/{id} の groups(400 から 404 group_not_found)、bind-external(400 から 404 group_not_found)、DELETE・PATCH /auth/admin/tenants/{id}(404 tenant_not_found)です。
  • 知能ドメインと guest の権限: ドメインのテナントの外の利用者(他のテナントの所属者、ログインしていない利用者)には、guest に付けた権限が、use / view までしか効きません。guest に edit / admin を付けていたドメインは、ログインしていない利用者には、use / view だけが効き、edit / admin が要る操作はできなくなります。
  • 権限キーとロール: users.manage.global・users.manage.remove と、ロール tenant_admin が加わりました。admin ロールには、再起動のときに新しい2つのキーが自動で足されます。管理を任せるために、権限キーを直接付けた独自のグループには足されないので、必要なら付けてください。
  • ユーザーに直接付けたロール(users.role): テナントを移るたびに、user に戻ります。このロールは、Default テナントの中でだけ効きます。
  • テナント管理・ロール定義・モデル設定・検索エンジン・セキュリティ・LDAP / OIDC・サインアップ・メールテンプレート・ユーザー削除の権限: Default テナントの所属者にだけ効きます。権限キーの分類は、sys_rbac-guide のドキュメントの「権限キーの scope」をご覧ください。
  • グループ名: テナントの中で一意であればよくなりました(これまでは全体で一意でした)。
  • SMTP のテストメール送信: 必要な権限が、admin ロールから users.manage.email_templates に変わりました。
  • LDAP の既定グループ([ldap] default_group): 既定値が、Default から空に変わりました。空は、「所属テナントの Default グループ」の意味です。Default と書いてある設定は、これまでどおり Default グループを指します。書いた名前のグループが見つからないときは、Default グループで代えず、どのグループにも入れません(サーバログに ERROR を残します)。
  • 知能ドメインが残っているテナントは、削除できなくなりました。 先にドメインを削除してください。
  • 知能ドメインの周りの API: GET /rag/domains/status と GET /rag/domains/{domain}/status は、匿名アクセスを無効にしていればログインが必要になり、閲覧(view)できるドメインだけを返します。ドメインを指定しない GET /jsonl/schema と GET /jsonl/statistics は、閲覧できるドメインだけを集計します。DELETE /logs/completed は、呼び手の GET /logs に出る完了済みのログだけを消します。POST /rag/admin/gc/run には、Default テナントの所属者であることも必要です。

手順と確認方法は、sys_tenant-membership-foundation のドキュメントをご覧ください。

6. EDTM / RAG の内部ロールが、function calling で構造化出力を受け取るようになりました

分類・検証・GapAnalyzer・再定式化・固有表現抽出・AutoQA・Web 検索のクエリ生成は、これまで「JSON を散文で書かせて本文から取り出す」形でした。以後、managed local の qwen2 / qwen3 / gemma 系プールには、関数を1つ名指しした要求を送り、型と enum を検証して受け取ります。remote・不明な系統・harmony 系(llm-jp / gpt-oss)は、従来のままです。writer と計画(Planner)も、従来のままです。新しい設定キーはありません。

  • Web 検索と CRM 照合の Gather は、検索結果を role: "tool" で1回返す往復になりました(1件につき、LLM 要求は最大2回、ターン内は [edtm] max_tool_calls まで)。[edtm] reader_enabled = false で、この往復も止まります(RAG 要約も止まります)。並行検索の待ち時間の上限は、reader_timeout の2倍ぶん伸びます。
  • AutoDGIS の生成キャッシュは、切り替え後の最初の1回は当たりません。 生成物のキャッシュの版に、出力契約が含まれるためです。作り直した行は既存の行に追加されるので、実行する前に、「知識情報の編集」から、対象ドメインの自動生成分を削除してください。

7. 同梱の vLLM を 0.30.0 に上げました

Transformers は 5.16.1、vllm-bnb-plugin は 0.0.3 です。llm_sm のイメージを作り直し、コンテナを作り直すと替わります。

  • 0.28 から bitsandbytes は別のプラグインになったので、launcher は VLLM_PLUGINS=bitsandbytes を固定し、このプラグインだけを許可します。
  • 実行エンジンは vLLM の既定(0.30.0 は原則 V2)で、同じ GPU メモリの割合でも、KV キャッシュに入る token 数が変わります(Qwen3.5-9B の BF16 で、約 15% 減を実測しました)。
  • 更新後は、起動ログで KV キャッシュの容量を確かめてください。切り戻せるよう、更新前のイメージを残してください。検証の範囲は、com_vllm-030-upgrade のドキュメントをご覧ください。

8. そのほかの変更

  • e-Gov 法令検索の結果が、空のまま返ることがあります(「規定が無い」ことの証明ではありません)。
  • パスワードやメールアドレスを変えたあと、ログイン中の画面がログイン画面へ戻ります(ほかのタブ・端末も)。
  • 開発版にだけあったコマンド(scripts/tenant_membership_backfill.py、scripts/tenant_ownership_preflight.py)を削除しました(リリース版には含まれていません)。

既知の問題

次の問題は、後の版で修正しています。

  • Firefox では、ダイアログとドロワーが閉じ終わりません(2.1.26 で修正しました)。
  • 重ねたオーバーレイで Esc を1回押すと、下のドロワーまで閉じます(2.1.29 で修正しました)。
  • FineTune のレシピ実行で rank だけを変えると、画面が alpha も今の値のまま組にして送ります。断られずに LoRA の倍率(alpha / r)が変わります。rank を変えるときは、alpha も意図した値にしてください(2.1.29 で修正しました)。
InfiniCloudが選ばれる理由