Baidu、2800億パラメータのオープンソースモデル「ERNIE 5.5 Flash Base」を公開
要点
Baiduは、33.5兆トークンで事前学習された2800億パラメータのMoEモデル「ERNIE 5.5 Flash Base」をオープンソースの基盤モデルとしてリリースした。
Baiduは、2800億パラメータを持つMoEモデル「ERNIE 5.5 Flash Base」をオープンソースの基盤モデルとしてリリースした。このモデルは33.5兆トークンを用いて事前学習されている。
同モデルは、開発者が任意の用途に利用できるよう、意図的にファインチューニングを行わずに提供されている。
この記事は要約です。正確で完全な内容は元の記事をご確認ください。
元の記事を読む: The Decoder ↗