中国のBaiduが高性能AIモデル「ERNIE 5.5 Flash Base」を公開、今後の強化版を見据えた基盤モデル
要点
中国の大手テクノロジー企業であるBaiduがAIモデル「ERNIE 5.5 Flash Base」をオープンモデルとして公開しました。
中国の大手テクノロジー企業であるBaiduは、AIモデル「ERNIE 5.5 Flash Base」をオープンモデルとして公開した。同モデルは、今後の強化版を見据えた基盤モデルであるとしている。
「ERNIE 5.5 Flash Base」は、33.5Tトークンで学習された280BのスパースMoE(Mixture of Experts)ベースモデルであり、アクティブなパラメータ数は14Bである。なお、本モデルは中間トレーニングや事後トレーニングが行われる前に公開された。