金融界2024年11月4日音讯，国家知识产权局信息数据显现，国家电网有限公司信息通讯分公司请求一项名为“一种面向大模型练习的算力网络通讯功率优化办法及设备”的专利，公开号 CN 118890284 A，请求日期为2024年7月。

  专利摘要显现，本发明触及算力网络通讯技能领域，详细供给了一种面向大模型练习的算力网络通讯功率优化办法及设备，包含：根据数据中心之间的双向传输时延，核算出从给定的数据中心动身，遍历完剩下一切数据中心的最短途径；根据最短途径上各数据中心的核算资源量及待练习大模型中各网络层的核算量为各数据中心分配需练习的网络层；选用流水线分片方法操控各数据中心对其划分到的网络层进行并行练习，并在每个批量的样本练习完毕后进行负载均衡，直至待练习大模型练习完毕。本发明供给的技能计划，有用优化了算力网络在进行大模型练习时的通讯功率，进步核算/通讯比，来提高算力网络的资源利用率并加快模型的练习进程。