行业资讯

您当前所在位置:首页 > 新闻中心 > 行业资讯

大模型发展需要算力 更需要“朋友圈”

发布日期:2024-06-27  浏览次数:

日前,国家互联网信息办公室发布第六批深度合成服务算法备案信息,腾讯、喜马拉雅、支付宝、快手等厂商的492个应用产品在列。

新一轮AI浪潮席卷而来,生成式人工智能技术正飞速向千行百业融入,“千模大战”的产品涉及多模态、多行业。面对前所未有的激烈竞争,大模型发展既需要跨过算力门槛,更还需要齐全的“朋友圈”。

AI的迫切性与算力新需求

得益于AI高效的生产力与简单的交互方式,以大模型为代表的新一波AI浪潮,在带来生产力爆发的同时,还将引发新一轮的产业市场洗牌。

这恰恰说明,AI不是大模型厂商的专属,与其他领域、传统行业都有关,与每个企业也息息相关,业界甚至有“企业不参与AI就会被淘汰”的说法。

看得见的大模型、AI狂飙背后,是看不见的算力在支撑。以大模型为代表的新一波AI浪潮,正在对算力提出新需求。

需求一:从通用算力到智能算力

随着人工智能产业进入爆发增长期,企业数量快速增加,大模型不断涌现,模型参数达千亿级甚至万亿级,智能算力需求呈指数级增长。截至去年6月,我国算力总规模达到197EFLOPS,其中智能算力规模占整体算力规模的比例提高到25.4%,超过四分之一,智能算力规模同比增长45%,比算力规模整体增速高15个百分点。

可以看出,以通用算力为主的算力格局迎来改变,智能算力成为增长主力。

需求二:高性能

大模型迭代速度越来越快,参数越来越大,对智能算力提出了更高性能的挑战。

面对万亿级参数的大模型,单体服务器乃至单体智算中心都算力有限,需要将大量服务器通过高性能网络相连,打造大规模智算集群,目前GPU并行是大模型训练的必备技术,对于大模型并行计算来说,不仅需要更高性能的芯片与服务器,以加快计算速度,对网络也有更高要求——需要将庞大的参数有机地分布到多张GPU卡中,并保持不同GPU卡之间有效的通信,整体配合完成大模型的训练部署。

更高的计算精度、更高吞吐和更低延迟,意味着更高的计算效率,更快的训练与推理,抢先赢得市场和用户青睐。

需求三:高可靠性

作为大模型的基石,算力的稳定性与可靠性至关重要。大模型等AI训练周期往往长达数月,海量服务器组成的AI计算集群易发生故障,算力不稳情况下会造成训练中断,降低训练成功率,也使训练成本居高不下。而据统计,在数据中心宕机事故中,电力因素占比近一半,可以说,电力稳定性在一定程度上决定算力的稳定性。

 


需求四:绿色低碳

大模型训练需要大量能源,智算中心比传统的数据中心要消耗更多电力,也付出更多运营成本。OpenAI曾发布报告指出,自2012年以来,AI训练应用的电力需求每3到4个月就会翻一倍。ChatGPT每天要响应大约2亿个请求,在此过程中消耗超过50万度电力,也就是说,ChatGPT每天用电量相当于1.7万个美国家庭的用电量,

成本压力之外,还有我国“双碳”战略的不断推进,都促使绿色低碳成为智算发展的必然趋势,其中使用绿色能源成为最重要也是必需的手段。

据悉,和林格尔所在的呼和浩特市正增强绿色能源替代,已经与华电集团合作,建设华电和林格尔数据中心集群绿色能源供给示范项目,积极探索绿电直供模式,实施绿色能源供给示范项目,通过“风-光-储”一体化清洁能源供电方式为算力基础设施提供“绿电”,未来,该地数据中心可实现100%绿电供应。

算力之外大模型发展还需要朋友圈

过去的一年,科技大厂、人工智能企业和创业公司等众多玩家切入大模型赛道,上半场的竞争是资源和投入的比拼,随着产业发展的日趋成熟,技术落地和商业闭环的形成将成为产业发展面临的新挑战。

目前AI大模型产业链可以分为三部分:上游为基础层,包括芯片、服务器、算力、数据、网络、模型开发训练平台等;中游为大模型,我国生成式人工智能技术发展时间较短,目前产品和企业主要集中在中游,大模型数量不断增加,这也带来了产业规模快速扩大;下游为应用层,大模型可以生成包括文本、图片、音频、视频等在内的多种模态的内容,应用于传媒、电商、影视、金融、游戏、制造、教育等领域,千行百业通过使用模型技术,可以提高效率、降低成本、改善用户体验等,推动各个行业的发展和变革。

对于希望发展AI产业的地区来说,需要重视算力的建设,又不能仅仅只建设算力,从上游服务器制造、数据清洗标记,到下游行业应用场景开发对接,构建完善的产业生态,聚合产业链上、中、下游的玩家,实现互补协同,打通供需链接,方能吸引越来越多AI企业落地发展。

将于6月29日在呼和浩特举办的2024中国绿色算力(人工智能)大会,由内蒙古自治区人民政府主办,中国信息通信研究院、呼和浩特市人民政府承办,以“共筑绿色算力网络,共赢人工智能未来”为主题,旨在打造绿色算力暨人工智能前沿技术交流合作平台、高质量发展成果展示窗口。

大会将搭建“1+11+1+1”高端交流平台,包括1个开幕式暨主旨演讲、11个平行会议、1个“东数西算”工程算力枢纽节点交流会与1个人工智能展览展示体验。


田鑫,专业的企业组网服务商,致力于为企业提供企业组网(SD-WAN、MPLS、云互联)、数据中心、网络安全、系统集成服务、ICT解决方案、行业IT解决方案等相关服务。


更多相关内容推荐:
两会代表热议,政府工作报告聚焦,数字经济有多重要?
智算时代 新一代高端基础设施前瞻布局
刘烈宏:加快构建全国一体化算力网 推动建设中国式现代化数字基座
《节约用水条例》发布——定额用水 数据中心怎么办?
如何优化数据中心气流效率?
数据中心如何减少对环境的影响
高功率工作负载是否导致数据中心运行崩溃?
数据中心:能否可持续地满足容量与能源需求?
智算中心AI产业国内现状和趋势
智算中心都是谁建的
智算中心的用户在哪里?
智算需求与技术革新
2024中国绿色算力(人工智能)大会新闻发布会在呼和浩特召开

 
标签:
在线客服
服务热线

服务热线

400-613-6156

微信咨询
返回顶部
X

截屏,微信识别二维码

微信号:Lucky--1811

(点击微信号复制,添加好友)

打开微信

微信号已复制,请打开微信添加咨询详情!