Lanzamiento de 'trnrt', un nuevo motor de inferencia de código abierto para AWS Trainium

IA local y open source✍ TextoPublicado: Fuente: GitHub New AI Repos

#Amazon #OpenAI

En breve

RunanywhereAI ha lanzado 'trnrt', un motor de inferencia de LLM de código abierto para AWS Trainium que admite un contexto de 1M de tokens.

RunanywhereAI creó un nuevo repositorio de código abierto, 'RunanywhereAI/trnrt', el 30 de octubre de 2026. Ya ha alcanzado 965 estrellas en GitHub.

El proyecto utiliza Python como lenguaje principal y se distribuye bajo la licencia Apache-2.0. Se describe como un motor de inferencia de LLM abierto para AWS Trainium, que cuenta con NKI megakernels, un contexto de 1M de tokens y una API compatible con OpenAI.

Esta noticia es un resumen. La versión completa y verificable está en la fuente original:

Leer el original en GitHub New AI Repos ↗