7月18日，在2026世界人工智能大会（WAIC 2026）现场，深圳云天励飞技术股份有限公司（688343.SH）公布了未来两年多的AI推理芯片路线图。不同于行业常见的单芯片迭代策略，云天励飞一次性披露了三款专用芯片及其集群级协同方案，明确提出将AI推理从“单芯片竞争”推向“推理工厂竞争” 。
随着大模型从训练走向规模化推理部署，传统“训推一体”的通用芯片架构在效率和成本上正面临瓶颈。大模型推理主要分为处理输入上下文的Prefill阶段和对计算与内存带宽要求极高的逐Token生成Decode阶段，两者对硬件资源的需求截然不同。
基于这一洞察，云天励飞的方案将推理链条进行“解耦”：
DeepVerse100P：面向百万级上下文Prefill场景打造，旨在解决传统混部架构中Prefill与Decode共享资源导致的相互抢占问题。
DeepVerse100D：面向Decode环节的专用推理引擎，拥有数倍于主流芯片的内存带宽，支持1024卡Scale-up及光互联系统架构，旨在降低多节点通信阻塞和尾延迟。
DeepVerse100L：面向Decode阶段计算密集型的FFN（前馈网络）环节，采用3D Memory架构以大幅提升内存带宽，提高计算与通信的并行效率。
与硬件发布同步，云天励飞提出了更具前瞻性的系统构想。公司计划推动这三款芯片在万卡异构集群中的分离式部署与协同运行——即按照Prefill、Decode和Decode FFN的不同负载特征，分别配置相应的芯片和资源池，通过高速互联形成协同运行的异构算力系统。
云天励飞董事长兼CEO陈宁在大会现场表示：“人工智能走向规模化应用后，衡量算力价值要更多关注系统能够稳定、高效地产出多少Token。” 这一方案正是将芯片优化从单颗性能提升延伸至集群级效率优化，持续降低单位Token生成成本，向“百亿Token一分钱”的长期愿景靠近。
硬件异构程度和集群规模提升，对软件栈提出了更高要求。云天励飞正持续建设IFWA软件栈，覆盖AI模型开发、编程和系统层级，加强对PyTorch ATen算子及vLLM、SGLang等主流推理框架的适配与优化。
此外，公司今年5月联合芯片、软件、模型及应用等领域的多家单位发起了“1001计划”，旨在将应用需求更早反馈到芯片与系统设计环节，加快技术验证与落地。
