IT之家（RSS）
富士通介绍PHOTON架构：多查询性能最高达Transformer的475倍
阅读原文· ithome.comAI 摘要
富士通昨日介绍PHOTON（自上而下网络并行分层计算）架构，宣称多查询场景下性能至高可达Transformer的475倍。PHOTON采用语义分层处理替代词元级分割，降低计算复杂度并提升并行性，减少长上下文或多线程同步时的访存开销。测试显示，600M、900M、1.2B参数模型上实现更高迭代吞吐量和更低内存占用，其中1.2B模型达475倍性能但质量略低。此外，每次迭代所需KV Cache更少，可提升最大迭代次数，有助降低GPU成本。
原文
IT之家 6 月 25 日消息，富士通 (Fujitsu) 日本当地时间昨日介绍了其开发的 PHOTON（自上而下网络并行分层计算）架构，宣称其在多查询（生成多个备选结果并在此基础上给出最终答案）场景下性能至高可达主流 Transformer 架构的 475 倍。
富士通表示，Transformer 架构的一大弊病是其在长上下文输入或多线程同步处理的场景下会执行大量访存操作来保留历史信息，这往往会导致处理速度下降。PHOTON 能高效率低开销地处理智能体系统等多 I/O 流程，从而降低 GPU 成本。
PHOTON 架构在语义层面上进行分层处理，相较 Transformer 的词元级分割可降低计算复杂度并提供了更好的并行性。而在多查询最后的决策环节，PHOTON 则采用了多数决定或选择最佳的方式，仅需一次推理。
测试结果表明，PHOTON 在 600M、900M、1.2B 等参数规模相对较小的模型中可实现更高的迭代吞吐量和更低的内存占用，其中 1.2B 模型上实现了 475 倍性能和略低的质量。此外，由于 PHOTON 架构每次迭代所需的 KV Cache 更少，还能提升最大迭代次数。