LLM推論

DiffusionGemmaが示す「並列テキスト生成」の可能性と現場導入の現実

GoogleがオープンモデルDiffusionGemmaを発表。26B MoEアーキテクチャで推論時アクティブパラメータ3.8B、H100で1000トークン/秒以上という最大4倍の高速化を主張する。研究者・エンジニア出身の徐 聖博が、技術的な新規性と本番投入のリアルなギャップを論評。