GPU最多用3年 智算中心要怎么建?

 新闻资讯     |      2024-11-07 09:46

11月1日消息,据TrendForce报道,凯发旗舰厅GPU的使用年限最长为3年,其原因是GPU在AI训练和推理中承受相当大的负载,要比其他组件退化得更快。

GPU

GPU

这一结论来自于一位Alphabet(谷歌母公司)AI架构师的说法,该架构师表示,云服务提供商运行的数据中心中,用于AI工作负载的GPU利用率在60%到70%之间,在这样的利用率下,GPU通常只能使用1到2年,即便较为理想的状态,最多也就使用3年。

目前这一信息的准确性暂时无法完全确认,但GPU作为算力的核心部件,如果其使用寿命较短,对于服务器架构、智算中心建设运维都将产生重要影响,需要围绕这一特征制定更为匹配的方案,GPU的商业价值需要进一步评估,算力租赁等衍生出的商业生态或许也需要重新评定,AI自身产生的效益也将受到影响。

由此可见,智算的加速到来给智算中心建设带来深刻影响,相关探讨正不断增多。为推动智算中心高质量建设,提升绿色算力供给, 多元重构算力跃迁 第十九届中国IDC产业年度大典(IDCC2024)算力中心建设系列论坛将于12月20日在北京 首钢园(四高炉)举办。

系列论坛分为智算基础设施建设论坛、绿色可持续建设论坛、产业生态建设论坛,将邀请设计院专家、算力服务商、集成商、方案解决商、芯片厂商、设备方等,聚焦万卡智算集群、绿色节能、液冷应用、智能运维、模块化、大模型需求、国产生态等热点话题共同探讨算力中心建设的新发展、新机遇,分享面临的挑战及相应解决方案。目前报名通道已开启,扫描以下二维码即可报名。

IDCC2024-第十九届中国IDC产业年度大典报名baoming

IDCC2024-第十九届中国IDC产业年度大典报名baoming