当前位置：正文

开云体育发布 AI 推理界限的打破性时刻效果-亚博正规下单平台(官方)网站/网页版登录入口/手机版

快科技 8 月 10 日音信，据国内媒体报谈，华为将于 8 月 12 日在 2025 金融 AI 推理哄骗落地与发展论坛上，发布 AI 推理界限的打破性时刻效果。

据显现，这项效果或能缩小中国 AI 推理对 HBM（高带宽内存）时刻的依赖，擢升国内 AI 大模子推感性能，完善中国 AI 推理生态的要害部分。

HBM（High Bandwidth Memory，高带宽内存）是一种基于 3D 堆叠时刻的先进 DRAM 科罚决策，多层 DRAM 芯片垂直集成，权贵擢升数据传输服从。具有超高带宽与低蔓延、高容量密度、高能效比等上风。

AI 推理需持续调用海量模子参数（如千亿级权重）和及时输入数据。HBM 的高带宽和大容量允许 GPU 班师看望齐备模子，可幸免传统 DDR 内存因带宽不及导致的算力闲置。关于千亿参数以上的大模子，HBM 可权贵擢升反应速率。

当下，HBM 已成为高端 AI 芯片的标配，施行侧渗入率接近 100%，推理侧随模子复杂化加快普及。

可是，其产能弥留和好意思国出口收尾倒逼国内厂商探索 Chiplet 封装、低参数模子优化等替代决策。

开云体育