AWS Trainium向けオープンソース推論エンジン「trnrt」が登場

ローカル・OSS✍ テキスト公開: 出典: GitHub New AI Repos

#Amazon #OpenAI

要点

RunanywhereAIが、AWS Trainium向けのオープンソースLLM推論エンジン「trnrt」を公開した。100万トークンのコンテキストに対応している。

RunanywhereAIは、2026年10月30日に新しいオープンソースのリポジトリ「RunanywhereAI/trnrt」を作成した。GitHubではすでに965個のスターを獲得している。

このプロジェクトはPythonを主要言語とし、Apache-2.0ライセンスで提供されている。AWS Trainium向けのオープンLLM推論エンジンとして設計されており、NKI megakernels、1Mトークンのコンテキスト、およびOpenAI互換のAPIを備えている。

この記事は要約です。正確で完全な内容は元の記事をご確認ください。

元の記事を読む: GitHub New AI Repos ↗