全球范围内股票按天配资,多家大模型厂商都在采购算力芯片并投资建设大型数据中心,大模型竞争同时也是算力竞争。今年两会期间,如何解决大模型算力层面的算力短缺、异构计算分散等问题,成为了热议话题。
全国政协委员、中国科学院计算技术研究所研究员张云泉在过去一年里走访了众多算力中心及相关企业。根据了解到的行业现象,他今年提出了“关于超智融合突破‘算力围城’”的提案,呼吁加快高端算力设施建设,提升算力使用效率,以应对人工智能大模型快速发展所带来的“算力围城”困局。
张云泉告诉第一财经记者,他走访多个算力中心后,感触最深的是国内智算中心在算力、机架密度等方面与国际领先水平的差距。例如,国内目前公开报道的最大单体智算中心算力仅为万卡6.6Eflops(BF16精度),与国际领先水平差两个数量级;不少智算中心主流机架功率密度低于15kW,远低于高端AI功率密度要求;能支撑大模型训练的高端算力中心极为稀少且训练效率不超过30%。
“伴随DeepSeek等开源大模型涌现,大模型在各个行业的应用变多,这对算力基础设施建设提出新需求。而当前算力市场存在供需性矛盾,即算力结构单一、高端算力紧缺。算力基础设施与国际领先水平存在代际差异,制约了大模型迭代创新速度。” 张云泉表示。
张云泉向记者解释,算力结构单一是指很多智算中心设计只能支持低精度算力架构、只能支持特定生态体系的大模型训练场景。造成这一现象的原因,包括核心芯片领域的很多国产AI芯片最高只能支持FP32精度的计算。随着AI应用场景增多、需求量增加,只满足低精度训练的智算中心不能很好支持未来“超智融合”趋势下的全精度算力需求。同时,国产高性能可扩展并行训练与推理编程框架和优化工具链缺失,还导致国产大规模智算集群计算效率普遍偏低。
“超智融合”则是指将超算与智算的能力结合,“超智融合”目前被认为有可能用于满足各行业的多元算力需求。张云泉告诉记者,“超智融合”能将国产超算几十年间积累的架构、芯片、并行与通信算法、算力调度与负载均衡乃至底层优化等方面的关键技术和人才,赋能高端智算中心建设以及大模型高效训练推理优化过程。
张云泉建议,建设国家级大算力集群,引入先进算力调度、分配、优化和管理技术,提高算力利用率,并积极引导基于全精度、大算力、高互连国产芯片,构建新一代超智融合国家级算力中心。同时,集中资源重点支持大模型领军企业,打造世界领先的开源开放主权级基础通用大模型。
两会期间,全国政协委员、京东集团技术委员会主席曹鹏则关注到国内异构算力分散且利用率低、中小企业难以负担大模型应用的智算成本。对于以上问题,曹鹏建议加强建设异构算力以降低智算成本。例如,夯实自主可控的智算底座,通过存算协同发展降低企业智算成本。此外,建议推动链主企业向中小企业开放智算配额,实现产业智算普惠。
全国人大代表、科大讯飞董事长刘庆峰关注的则是算力平台的国产化话题。刘庆峰认为,若不能加快解决国产自主可控人工智能产业生态薄弱、适配困难等问题,做大模型无异于“在别人地基上建高楼”。他建议加快构建国产算力平台上的自主可控大模型及产业生态,例如,鼓励基于自主可控国产算力平台的大模型研发和应用,鼓励央国企优先采购基于国产算力平台研发的全栈自主可控大模型,专项支持基于国产算力平台的生态体系建设。
DeepSeek出现后,近期业内也在热议大模型是否仍需大量算力支撑。就新的技术是否减少了大模型整体算力需求,张云泉告诉记者,“小力出奇迹”并不意味着规模法则(Scaling Law)的破产。未来,AI发展可能会呈现“双轨并行”的格局,一方面,小而精的模型蓬勃发展,另一方面,通用基础大模型仍会沿着Scalling Law路径,继续通过大算力投入、扩展参数规模实现更强悍的性能。国内发展通用基础主权大模型是必要的,通用基础大模型将作为AI技术的基石,为各行各业提供强大的基础智能。
举报 第一财经广告合作,请点击这里此内容为第一财经原创,著作权归第一财经所有。未经第一财经书面授权,不得以任何方式加以使用,包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。 如需获得授权请联系第一财经版权部:021-22002972或021-22002335;banquan@yicai.com。 文章作者
郑栩彤
相关阅读
DeepSeek给云计算厂商带来立竿见影的回报。
324 02-27 21:00
DeepSeek的低成本高效训练方法可能导致训练需求下降,抑制算力需求,从而打破“人工智能革命将伴随计算和能源需求呈指数级增长”的假设。
1277 02-14 21:52
DeepSeek概念多股连板,美格智能7连板,航锦科技6连板,梦网科技、杭钢股份等5连板。
87 02-11 17:13
当开源模型能力赶上最新的闭源模型,闭源模型是否还有竞争力?
1500 01-26 13:42
微软、谷歌、Meta、亚马逊和特斯拉在内的科技巨头一直在增加与人工智能相关的投资。这些公司预计将于2025年在人工智能领域总共投资约2000亿美元股票按天配资,其中大部分投资用于数据中心的建设。
138 01-17 22:31 一财最热 点击关闭