事前学習済み自己回帰画像モデルでの任意順序生成を実現する研究

研究・論文🖼 画像公開: 出典: Hugging Face Papers

#Ollama

要点

事前学習済み自己回帰画像モデルにおいて、従来の固定された走査順序による制約を解消し、インペイントや編集を可能にする手法が提案された。

自己回帰(AR)画像生成モデルは、原理的には強力であるものの、実用面では柔軟性に欠ける。従来のモデルは固定されたラスター走査順序で学習されており、画像分布の因数分解がモデル内にハードコードされているため、推論時にインペイント、アウトペイント、または編集を行うことができない。

既存の解決策である最新の離散拡散(discrete-diffusion)ファミリーなどは、混合されたトークン順序でゼロから学習を行うが、標準的なラスター走査学習の約3倍の計算コストを要する。また、離散拡散は構造上、KVキャッシュやvLLMといったAR推論エコシステムとの互換性を犠牲にしている。本研究では、このコストは不要であると主張している。

この記事は要約です。正確で完全な内容は元の記事をご確認ください。

元の記事を読む: Hugging Face Papers ↗