Open WebUI v0.12.4:スキル読み込みのオンデマンド化とコンテキスト圧縮機能を強化

ローカル・OSS公開: 出典: Open WebUI

#Ollama

要点

Open WebUI v0.12.4がリリースされた。スキルを必要に応じて読み込む機能や、チャット内でのコンテキスト圧縮機能の改善、一時的なチャットへの対応などが追加された。

Open WebUI v0.12.4では、選択したスキルをオンデマンドで読み込む機能が追加された。管理者は「Admin Settings > General」から設定するか、「ENABLE_SKILL_LAZY_LOADING」を設定することで、チャットで選択されたスキルやモデルに添付されたスキルを、必要になった時のみモデルに読み込ませることができる。これにより、メッセージごとに全指示を送信する必要がなくなる。ただし、メッセージ内で言及されたスキルは即座に読み込まれる。この機能はデフォルトではオフであり、内蔵のSkillsツールが必要となる。

コンテキストの圧縮機能も強化された。チャット内で古いメッセージが要約された際、「Context compacted」という行が表示され、クリックすると要約を確認できる。また、コンテキスト圧縮の進捗やエラーはポップアップではなくチャット内に表示される。さらに、コンテキスト圧縮は一時的なチャットや、ツール出力により閾値を超えた短いチャットでも実行されるようになり、コンテキスト長エラーによる失敗を防ぐ。その他、ユーザー向けのコントロールを非表示にする機能も追加された。

この記事は要約です。正確で完全な内容は元の記事をご確認ください。

元の記事を読む: Open WebUI ↗