Open WebUI v0.12.4: Carga de habilidades bajo demanda y mejora de la compactación de contexto

IA local y open sourcePublicado: Fuente: Open WebUI

#Ollama

En breve

Se ha lanzado Open WebUI v0.12.4, que añade la carga de habilidades bajo demanda, mejoras en la compactación de contexto en los chats y soporte para chats temporales.

Open WebUI v0.12.4 introduce una función para cargar las habilidades seleccionadas bajo demanda. Los administradores pueden habilitar esto a través de "Admin Settings > General" o configurando "ENABLE_SKILL_LAZY_LOADING". Esto permite que las habilidades seleccionadas en el chat o adjuntas a un modelo se carguen solo cuando sea necesario, en lugar de enviar todas las instrucciones con cada mensaje. Sin embargo, las habilidades mencionadas en un mensaje se cargan de inmediato. Esta función está desactivada por defecto y requiere la herramienta Skills integrada.

También se han mejorado las funciones de compactación de contexto. Ahora aparece una línea de "Context compacted" en los mensajes donde se ha resumido el contenido antiguo, permitiendo ver el resumen. El progreso y los errores de la compactación se muestran ahora dentro del chat en lugar de como avisos emergentes. Además, la compactación de contexto ahora se ejecuta en chats temporales y chats cortos que superan el umbral debido a las salidas de las herramientas, evitando errores de longitud de contexto en seguimientos o regeneraciones. La actualización también incluye una opción para ocultar los controles a los usuarios.

Esta noticia es un resumen. La versión completa y verificable está en la fuente original:

Leer el original en Open WebUI ↗