Together AI、オープンモデル向けの自己調整型推論「Polymorphic Inference」を発表
要点
Together AIは、モデル、トラフィック、チップの変化に適応する「Polymorphic Inference」を発表した。Together CompilerがAIエージェントを用いて、本番環境の推論を調整し続ける。
Together AIは、オープンモデル向けの自己調整型推論技術である「Polymorphic Inference」を発表した。この技術は、モデル、トラフィック、およびチップが絶えず変化する環境に対応することを目的としている。
Together Compilerは、AIエージェントを活用することで、本番環境における推論のチューニングを継続的に行うとしている。
この記事は要約です。正確で完全な内容は元の記事をご確認ください。
元の記事を読む: Together AI ↗