Technology

InfiniCloud® AI

自社の「知能」を育て、所有する時代へ

Top / サービス一覧 / InfiniCloud AI / リリースノート / InfiniCloud AI 2.1.31 リリースノート

InfiniCloud AI 2.1.31 リリースノート

2.1.30 に更新した直後に、以前に作った Personalize の記憶の作り直しの対象のスレッドが、作り直されないまま対象から外れていた問題を修正したリリースです。外れたスレッドは、この版で対象に戻し、改めて作り直します。この版を安定版(stable)とし、2.1.30 は安定版としては配布しません。

ご注意: 2.1.30 のパッケージは配布サーバに残りますが、版を指定しない pull-app では選ばれません。

不具合修正・堅牢化

2.1.30 に更新した直後、記憶の作り直しの対象のスレッドが、作り直されないまま外れていた問題を修正

2.1.30 は、それより前に作った Personalize の記憶を、記憶の取り込みの手が空いたときに裏で 1 回だけ作り直します。ところが、更新の直後は LLM のプールがまだ起動中で(vLLM の読み込みに数分かかり、GPU を分け合うプールは 1 つずつ起動します)、作り直しは既定のプールを 30 秒待ったうえで「No ready instances available」で失敗していました。それでもスレッドを対象から外していたため、プールの準備ができるまでに処理されたスレッドは、古い記憶(確かめていない「ご本人談」)のまま残り、利用者がそのスレッドで次に会話するまで直りませんでした。このとき backend のログには、次のメッセージが NoReadyInstancesError の traceback 付きで出ていました。

capture sweep: re-distill of <利用者>/<スレッド> failed

既定のプールに準備のできたインスタンスが無いときは、スレッドを対象に残し、その回の作り直しを止めて、後の回に回すようにしました。その間、ログには周回ごとに、traceback の無い次の WARNING が 1 行出て、プールの準備ができると作り直しが進みます。

re-distill backfill paused, the LLM is not ready … claimed thread(s) stay pending for a later tick

ほかの理由で失敗した場合は、これまでどおり作り直しは 1 回きりで、そのスレッドは次に会話したときに作り直されます。

挙動変更(アップグレード時の注意)

2.1.29 以前から更新するサイトは、2.1.30 の注意をすべてご確認ください

2.1.29 以前から更新するサイトには、2.1.30 のリリースノートの「アップグレードの前に」が、すべて当てはまります。先に installer を 0.2.16 以降にすること、閉域網のサイトは更新の前に次のコマンドを実行すること、鍵の登録、ライセンス、運用の手当てなどです。

sudo shiraitoctl pull-models BAAI/bge-reranker-v2-m3

この版のために、installer を上げ直す必要はありません(0.2.16 のままで構いません)。

起動時に DB マイグレーションが適用されます

DB マイグレーションについて 起動時に、マイグレーション 0075(0075_memory_redistill_pending_remark.sql)が適用されます(2.1.29 以前からの更新では、0073〜0075 が適用されます)。手作業で行うことはありません。

0075 は、2.1.30 で外れたスレッドを、作り直しの対象に戻します。0073 と同じ条件(索引にまだ古い形式の記憶の行があるスレッド)で対象にするため、作り直しが済んだスレッドは対象になりません。2.1.30 を経ずに更新するサイトでは、0073 で対象になったスレッドが、そのまま対象になるだけです。

ご注意: 対象に戻したスレッドは、記憶の取り込みの手が空いたときに、裏でもう 1 回作り直します(2.1.30 で別の理由で作り直しに失敗したスレッドも含みます)。作り直せたスレッド 1 つにつき、LLM を 1 回呼びます。

InfiniCloudが選ばれる理由