百度旗下的深度学习渠道飞桨近来宣告正式发布新一代飞桨结构3.0。此次发布的结构3.0引入了五大中心技术立异,包含“动态一致主动并行”等关键技术,旨在有用下降大模型开发和练习本钱,助力大模型年代的基础设施建造。

作为支撑大模型练习和推理使命的中心基础设施,飞桨结构3.0在功能优化方面表现出色。该结构现已支撑包含文心4.5、文心X1在内的多款干流大模型,并经过优化的DeepSeek-R1满血版单机布置,明显提高了吞吐量,提高起伏高达一倍。
在计算速度方面,飞桨结构3.0凭借其立异研发的神经网络编译器CINN,功能大幅提高。部分算子的履行速度提高了4倍,模型端到端的练习速度也提高了27.4%,明显缩短了大模型的练习时刻。
在硬件适配方面,飞桨结构3.0推出了多芯片一致适配计划,支撑60余款干流芯片,并涵盖了练习集群、主动驾驶、智能终端等多种使用场景。开发者只需编写一次代码,即可完成跨芯片的无缝搬迁,硬件适配本钱大幅下降,直降80%。