PyTorch actualiza el pin de NCCL Extensions de 0.2
Se realizó un cambio en el trunk de PyTorch para actualizar la versión de NCCL Extensions de 0.2. El nuevo NCCL-EP v0.3 introduce nuevas funciones como el soporte para Vera Rubin y Attention–FFN Disaggregation (AFD).
Se realizó un cambio en el trunk de PyTorch para actualizar el pin de NCCL Extensions de 0.2. Además, no se construirá nccl-ep cuando la lista de arquitecturas no se especifique como sm_90-or-newer.
La recién lanzada versión NCCL-EP v0.3 añade soporte para Vera Rubin, kernels optimizados de baja latencia para NVLink dispatch y combine, un soporte más amplio de hidden-dimension y zero-copy DeepSeek FP8 dispatch. También introduce Attention–FFN Disaggregation (AFD), que separa el procesamiento de atención y de expertos entre grupos de rango, incluyendo la colocación en nodos separados conectados por RDMA.
Además, añade pull-based dispatch de alto rendimiento y push-based combine para configuraciones de NVLink compatibles, MXFP8 combine y Compute Fabric Transport (CFT) opcional para configuraciones de NVLink compatibles con Blackwell o posterior. Estas funciones mantienen la compatibilidad con aplicaciones compiladas para EP v0.1 y v0.2.
Esta noticia es un resumen. La versión completa y verificable está en la fuente original:
Leer el original en PyTorch ↗