40 层
Transformer 总层数
技术原理 · 专题页面
为什么单流架构值得关注
HappyHorse 1.0 将文本、参考图像、视频 latent 与音频 token 放进同一序列中去噪，是其速度与一致性的关键。
32 层
跨模态共享中间层
8 步
蒸馏后快速去噪
HappyHorse AI 架构设计
从单流 Transformer、Sandwich 结构、统一条件输入与无时间步嵌入角度理解 HappyHorse AI 的技术路线。
- HappyHorse AI 架构
- 单流 Transformer
- 视频音频联合生成
架构设计页面正文
当前页面围绕“HappyHorse AI 架构设计”展开，内容以中文检索意图为中心组织，同时保留 HappyHorse AI 原始产品信息中的关键卖点与公开数据。
Sandwich 架构
首尾层保留模态相关投影，中间大部分层共享参数，既保留输入输出适配能力，也让跨模态表达在统一空间中收敛。
- 模态特定层负责把不同输入映射到统一表示空间。
- 中间共享层提升文本、视频与音频之间的信息交换效率。
- 相比双流或多流结构，更容易压缩推理链路。
无显式时间步嵌入
官网提到模型不显式使用 timestep embedding，而是直接从 latent 中推断去噪状态，这是一条更简洁的扩散建模路径。
- 减少额外条件分支，让网络结构更纯粹。
- 配合蒸馏后，可在较少步数下保持质量。
- 对于工程实现来说，调参与推理图更稳定。
编译优化与门控机制
Per-head gating 提高训练稳定性，MagiCompiler 负责整图编译和算子融合，共同支撑更快的端到端推理体验。
- 注意力头门控有助于抑制训练波动。
- 全图编译减少框架开销与 kernel 切换成本。
- 更适合在高端 GPU 场景跑出稳定吞吐。