Page 2
架构设计理念 与 技术解决方案
Chip Architecture Design Philosophy
全并行
区别于 Google TPU / Groq LPU 的脉动矩阵的单边并行流水线。我们采用真正的双维展开的矩阵全并行。
原生量化
芯片原生支持FP16+Q5/Q3量化，大幅提升推理性能，及降低显存开销。
分布式
采用分布式思想，将任务完全的拆解到大量不同的芯片中，并通过精巧设计的路由与高速通信，配合工作。
通用性
通过芯片配置模式与芯片的分布式组网方式，实现对99%+的模型结构的推理支持。
0访存
推理过程除加载注意力状态，无任何其他访存行为。权重载入任务全面分离至初始化阶段。
当前页面分辨率暂不支持完整显示，请使用更大尺寸屏幕的设备，或缩小网页比例。