NVIDIA、高いスループットと高速なエージェントを実現するVeraを発表
要点
NVIDIAは、高いスループットと高速なエージェントを実現するVeraを発表した。エージェントのタスク実行にはCPUとGPUの両方が必要となる。
NVIDIAは、高いスループットと高速なエージェントを実現するVeraを発表した。同社は、Veraが「最高のスループットと最も速いエージェント」を提供すると主張している。
AIエージェントは回答の生成だけでなく、情報の検索、データベースへのクエリ、コードの記述とテスト、そしてアクションの実行を行う。これらの各ステップはCPUに依存しており、エージェントはタスクの実行中にGPUによる推論とCPUによる実行の間を行き来する。
この記事は要約です。正確で完全な内容は元の記事をご確認ください。
元の記事を読む: NVIDIA Blog ↗