La velocidad de generación de texto de ComfyUI mejora en 2x, acelerando la ejecución de LLM y VLM
En breve
Desde la versión 0.40.0 hasta la 0.45.0, ComfyUI ha optimizado el procesamiento de generación de texto, logrando más del doble de la velocidad de generación convencional.
Aunque los usos principales de ComfyUI son la generación de imágenes y videos, también admite la generación de texto mediante LLM y VLM para tareas como la mejora de la calidad de los prompts y la creación de historias de video.
La optimización del procesamiento de generación de texto ha progresado desde la versión 0.40.0 hasta la 0.45.0. Mediante el MTP de tipo árbol y la optimización del kernel, se ha logrado más del doble de la velocidad de generación convencional.
Esta noticia es un resumen. La versión completa y verificable está en la fuente original:
Leer el original en Gigazine ↗