DeepSeek开源周第六天:极致推理优化系统，进步GPU核算功率

精心打造的特征专科——方大总医院经过战略协作、开源医联体协作、开源揭露招聘广纳贤才等多种方法，活跃引入国家级及省级各专业闻名学科带头人、国内外一流院校人才，其间首期战略协作医院及医联体等院士20余名，副高级职称以上专家百余名，医师悉数具有三级甲等医院工作经历，一起，经过采纳约请闻名专家坐诊及长途会诊、技能平移等行动，完成每个科室都有优异专家领衔。

马斯克忽然宣告在短短122天内建成10万张英伟达H100显卡的Colossus集群，周第意味着其算力或许现已超越OpenAI。百度集团履行副总裁、极致进百度智能云工作群总裁沈抖而就在几天前，阿里云宣告其灵骏单网络集群已拓宽至10万卡等级。

此外，推理差异于传统CPU集群的串行特色，大模型练习进程需求悉数显卡一起参加并行计算，对网络传输才能也提出了更大的应战。对此，优化阿里云方面着重，AI开展依然处在一个十分前期的阶段，有必要要靠降价带动运用迸发，而阿里云搞AI大基建，并不会只算眼前账。国内大模型企业的十万卡年代，系统真的要来了吗？9月25日，系统百度发布了全面晋级的百舸AI异构计算渠道4.0，百度智能云工作群总裁沈抖直言，百舸4.0便是布置十万卡大规划集群而规划的。

建一个万卡集群，核算单是GPU的收购成本就高达几十亿，因而国内可以布置万卡规划集群的，本来就只有阿里、百度等寥寥几家大厂。比较于美国同行，功率中国大模型企业还面对一重特别的困难，无法像马斯克那样悉数选用英伟达计划，而是需求运用包含国产GPU在内的异构芯片。

据沈抖介绍，开源百舸4.0在万卡集群上完成了有用练习时长占比99.5%以上，开源业界抢先，并经过在集群规划、使命调度、并行战略、显存优化等一系列立异，大幅提高了集群的模型练习功率，全体功能比较业界平均水平提高高达30%。

这也意味着，周第即便相同十万张显卡，国内企业在算力规划上也很难同美国企业对抗。我国信息通讯研究院技能与规范研究所副所长赵文玉表明，极致进我国出台系列方针布局算力基础设施快速开展。

曩昔400G晋级周期约为4到5年，推理而1.6T产品估计本年下半年开端放量，周期缩短至约两年。光模块选用最新的OSFP封装结构，优化业界最新5nm单波200G的DSP技能对光电信号进行补偿，取得杰出的链路功能，各项光电目标全面临标最新的IEEE802.3dj。

他剖析说：系统从服务器内部互联看，敞开、专用私有都是一个竞赛加快的态势，首要有PCle、CXL、NVLink、UALink。高速光通讯，核算数据中心驱动力显着，从现在的开展来看，我国干线实现以400G光模块为主，后续会以800G、1.2T或许1.6T为主。