直击WAIC丨如何缓解AI训练“效率瓶颈”?摩尔线程张建中:打造AGI“超级工厂”
专题:2025世界人工智能大会
新浪科技讯 7月27日午间消息,效率瓶颈2025世界人工智能大会(WAIC 2025)于7月26-28日在上海举办。直击张建中打造大会期间,丨何工厂摩尔线程首次提出了“AI工厂”理念,缓解公司创始人兼CEO张建中在分享中表示,训练线程“为应对生成式AI爆发式增长下的超级大模型训练效率瓶颈,摩尔线程将通过系统级工程创新,效率瓶颈构建新一代AI训练基础设施,直击张建中打造为AGI时代打造生产先进模型的丨何工厂“超级工厂”。

据悉,缓解摩尔线程提出的训练线程“AI工厂”,如同芯片晶圆厂的超级制程升级,需要实现从底层芯片架构创新、效率瓶颈到集群整体架构的直击张建中打造优化,再到软件算法调优和资源调度系统的丨何工厂全面升级。这种全方位的基础设施变革,将推动AI训练从千卡级向万卡级乃至十万卡级规模演进,以系统级工程实现生产力和创新效率飞跃。
具体而言,这座“AI工厂”的智能“产能”,由五大核心要素共同决定,其效率公式可概括为:AI工厂生产效率=加速计算通用性×单芯片有效算力×单节点效率×集群效率×集群稳定性。摩尔线程将以GPU通用算力为基石,将通过先进架构、芯片算力、单节点效率、集群效率优化与可靠性等协同等深度技术创新,将全功能GPU加速计算平台能力转化为工程级训练效率与可靠性保障。
在单芯片算力方面,摩尔线程的GPU单芯片基于MUSA架构的突破性设计,可集成AI计算加速、图形渲染、物理仿真及超高清视频编解码能力,充分适配AI训推、具身智能、AIGC等多样化应用场景。且在计算精度方面支持从FP64至INT8的完整精度谱系,并通过FP8混合精度技术,在主流前沿大模型训练中实现20%~30%的性能跃升。
在内存与通信效率优化上,摩尔线程内存系统通过多精度近存规约引擎、低延迟Scale-Up、通算并行资源隔离等技术,实现了50%的带宽节省和60%的延迟降低。在通信和互联领域,独创ACE异步通信引擎减少了15%的计算资源损耗,MTLink2.0互联技术提供了高出国内行业平均水平60%的带宽,为大规模集群部署奠定了坚实基础。
在构建高效集群的基础上,稳定可靠的运行环境是“AI工厂”持续产出的保障。特别在万卡级AI集群中,硬件故障导致的训练中断会严重浪费算力。摩尔线程创新推出零中断容错技术,故障发生时仅隔离受影响节点组,其余节点继续训练,备机无缝接入,全程无中断。这一方案使KUAE集群有效训练时间占比超99%,大幅降低恢复开销。(文猛)

责任编辑:王翔
(责任编辑:热点)
-
发布者:蒙蒙 浏览量:6619发布时间:2022/4/8 15:36:51 据新调查数据显示,作为目前国内第四大饮料品类,植物饮料每年正在以超过500亿元的市场规模迅速发展, ...[详细]
-
“慢游”增江画廊,把1天过成48小时|真乡五一避世计划⑥_南方+_南方plus“明明是调休凑出来的长假,怎么刷几个短视频就没了?”这恐怕是当代人最魔幻的时空体验。在广州增城的增江画廊,却藏着“时间膨胀 ...[详细]
-
安康市第十七届小学语文青年教师素养展示与课堂教学观摩活动在汉阴开幕
12月25日,安康市第十七届小学语文青年教师素养展示与课堂教学观摩活动在汉阴县开幕。据了解,此次活动为期三天,各县市、区)小学语文教研员、小学语文教师代表共计200余人参加。参赛教师们将围绕语文教师素 ...[详细]
-
鳕鱼属脊椎动物门Vertebrata)鳕形目Gadiformes),广泛分布于各大洋。鳕鱼是我国远洋捕捞的重要鱼种之一,我国每年的鳕鱼加工量达到40~50万t。鳕鱼营养丰富,含有众多人体所需常量和微量 ...[详细]
-
《鱿鱼游戏》 相关报道详见《为什么影视、动漫和游戏的“大逃杀”越来越流行》曾受日本动画影响的中国80后90后,都能说出自己受优秀日本动画作品滋养的故事,无论是《攻壳机动队》提出的人工智能机器人之问,还 ...[详细]
-
编辑:邱潮编审:黄琪雅 文婷终审:钟明明 ...[详细]
-
天下財經週報:台積電先進製程赴美設廠,未來只會增加?|天下雜誌
美國總統拜登本週將出席台積電亞利桑那廠裝機儀式,台積電最先進製程未來是否會到美國設廠,是市場關注焦點。行政院主計總處公布11月消費者物價指數,將顯示哪些物價還在漲。美國勞工統計局公布11月生產者物價指 ...[详细]
-
11个月大婴儿术后哭闹不止 女护士撩衣喂奶获赞发布时间:2017-11-08 11:41 来源:豫都网 我要投稿[摘要]“患儿做过手术后一直不吃奶粉,而其母亲因奶水不足无奶可喂,如果患儿一直哭闹下去, ...[详细]
-
海峡网11月1日讯 (海峡导报记者 陈捷 见习记者 叶晓菲 通讯员 洪恒亮/文 陶小莫/漫画)好友转发短信,经理被骗11万元;“董事长邮件”骗走下属35.7万元;“ ...[详细]
-
天下晨間新聞 銀行裁員,真的不妙?|微軟收購動視暴雪添變數|天下雜誌
如果連最懂經濟的都說要裁員……微軟收購動視暴雪添變制裁俄羅斯,油價為何不漲反跌?露露檸檬財報散戶信心不滅?您的閱讀篇數已達上限立刻訂閱全閱讀,即可享全站不限篇數閱讀 ...[详细]