门户
图库
科技
数据
VR
区块链
学院
论坛
百科
导航
登录
注册
帮助
公社首页
中国人工智能社区
公社版块
公社群组
Group
升级会员
用户名
Email
自动登录
找回密码
密码
登录
立即注册
登录后你可以:
登录
首次使用?
点我去注册
搜索
搜索
本版
帖子
公社群组
用户
道具
勋章
任务
设置
我的收藏
退出
首页
›
公社水吧
›
大话智能
›
一线:智算中心是系统工程,还面临十个挑战 ...
返回列表
一线:智算中心是系统工程,还面临十个挑战
[复制链接]
誓约之剑
2024-5-3 18:27:59
显示全部楼层
|
阅读模式
构筑AI时代的数字底座。
数字时代下,智算中心将会给行业带来哪些影响?如何充分发挥智算中心的技术优势,构筑数字经济算网新底座,助力产业数字化发展?
“我们相信不仅仅是算网融合,而是算网电能源融合才能构建可持续发展的数字经济底座,国家算力一体化顶层设计才是破解进入智能社会的开门钥匙。”鹏博士集团副总工程师、鹏博士研究院负责人侯兴泽在接受《通信产业报》全媒体记者采访时表示,
不能只着眼于算力中心单一环节,必须是系统工程,整体推进。
在侯兴泽看来,智算中心是基于最新人工智能理论,采用领先的人工智能计算架构,专门为人工智能应用提供所需的算力服务、数据服务和算法服务的新型基础设施。
它旨在支撑数据开放共享、智能生态建设、产业创新聚集,促进AI产业化、产业AI化及政府治理智能化。
此外,
液冷技术在智算中心中的应用更为普遍,
以支持高功率密度的设备并有效管理散热问题。智算中心往往需要部署大量的高性能计算设备,如GPU、TPU和FPGA等,这些设备通常具有较高的功耗。因此,智算中心的单机柜功率密度通常会高于传统数据中心。根据调研,智算中心的单机柜功率密度需要超过30kW,甚至达到100kW以上,而传统数据中心的单机柜功率密度一般在6kW~15kW之间。
侯兴泽认为,智算中心是个复杂的系统工程,从各方面来看都处在积极演进过程中,随着主流厂商系统架构的快速演进迭代升级,不同建设时期的算力中心有很大不同。已经投产运营的
第一代算力中心
单机电源功率在6.5kw左右,单机可提供5P算力,普遍采用风冷散热模式。到
第二代算力中心
单机电源功率提升至10.5kw,单机可以提供15P算力,开始出现气液混合制冷散热模式。到
第三段算力中心
单机电源功率可达24kw,单机可提供225P算力,普遍采用板式液冷散热模式。
可以预见,未来采用浸没液冷的算力中心单机柜功率密度达到60kw~240kw,
单机算力超过1440P指日可待
。第一第二代智算中心普遍进入运营期,第三代智算中心基本在建设阶段,更新的智算中心还处于设计预研过程中。
目前,智能算力需求的快速增长让智算中心的建设也进入了高速发展时期,各地也开始逐步出台关于整体建设的指引以及相关指标,
这主要还是为了引导智算中心向着“重质量”“绿色”的方向健康发展。
侯兴泽指出,智算中心作为人工智能技术研发与应用的重要基础设施,其发展面临多方面的挑战和难点。
第一,算力融合问题。
智算中心需要提供通用算力和专用算力,以满足自动驾驶、智慧医疗、智慧城市等不同场景的多元算力需求。单一化的算力方案难以兼顾多产业和多领域的特定需求。
第二,软硬件协同不足。
在智算中心的建设过程中,不同芯片平台、算法模型、数据库和应用层面之间存在垂直一体化的“孤岛”状态,软硬件兼容性问题亟待改进。
第三,投资建设运营联动问题。
智算中心的投资、建设和运营往往由不同主体负责,可能导致建设和运营割裂,影响客户体验和服务质量。
第四,能耗和碳排放问题。
智算中心的设备能耗和碳排放较高,AI模型训练耗电量巨大,这对环境和成本控制构成挑战。
第五,成本和价格规范问题。
智算中心的建设和运营成本较高,部分智算中心的投资成本和使用成本超出正常市场价格,需要进一步规范和优化。
第六,应用场景丰富性和运营模式成熟度。
智算中心在发展过程中需要更丰富的应用场景和成熟的运营模式,以实现其在各行各业的有效应用和商业化运作。
第七,开放性问题。
智算中心需要解决开放性问题,以适应AI应用数量的增加和迭代速度的加快,确保能够服务于更广泛的领域和需求。
第八,技术瓶颈与优化方向。
随着生成式AI和大模型的兴起,智算中心需要不断突破技术瓶颈,优化算力供给和算法支持,以满足日益增长的算力需求。
第九,安全可信问题。
智算中心的建设需要充分考虑信息安全和产业安全,构建基于自主技术体系的安全可信环境。
第十,智算中心的网络设计必须考虑到AI和大数据应用的特殊需求,
提供高性能、低时延、大带宽、高稳定性、易扩展、易于管理和维护的网络环境。智算中心在节点硬件、能源供应、制冷散热、网络互联、开发环境、平台功能、持续运营方面都有更高要求,传统数据中心难以满足,因此需要
定制化设计建设。
采写:胡媛
图表:曙念
编辑、校对:
胡媛
指导:辛文
一线谈:智算中心的挑战与应对
智算中心产业图谱:典型企业及竞争力一览
智算中心:"引燃"算力新基建(附产业图谱)
政府工作报告首提“全国一体化算力体系”:为什么?如何建?
“东数西算”两年:全国一体化算力网呼之欲出
专家解读:如何构建全国一体化算力体系?
专家解读:加快构建全国一体化算力网络
本帖子中包含更多资源
您需要
登录
才可以下载或查看,没有账号?
立即注册
x
回复
使用道具
举报
发表新帖
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
立即注册
本版积分规则
发表回复
回帖后跳转到最后一页
誓约之剑
注册会员
0
关注
0
粉丝
10
帖子
Ta的主页
发布
加好友
最近发表
智能家居离互联互通还有多远?
智能家居离互联互通还有多远?
智能家居产品“鸡肋”功能引热议 八成网友直呼“不太实用”
新华网财经观察|智能家居离互联互通还有多远?
新车 | 官宣:特斯拉无人驾驶出租车Robotaxi将于10月10日亮相
10例——“智能家居”产品设计!
公社版块
版块推荐
更多版块
智能穿戴
智能家居
机器人
无人驾驶
无人机
反馈吐槽
闲聊灌水
大话智能
大数据
图像识别
自然语言
数据挖掘
大话智能
数据挖掘
北大讲座
清华讲座
网贷观察
股市评论
区块链
闲聊灌水
反馈吐槽
站务通知
关注我们