AI算力重心正转向“推理时代”,边缘节点成新战场

发布时间:2025-06-12作者:网翼互联阅读:0

随着AI技术进入应用爆发期,算力结构正在发生深刻变化。Gartner最新预测数据显示,2024至2027年间,全球AI训练算力需求将维持稳定,仅有小幅上升,而推理算力需求将以几何级数增长。到2028年,推理与训练的算力比例将达到3:1,在中国甚至可能高达4:1。这一趋势预示着AI产业的核心驱动力,正从模型训练向推理落地全面转移。

image.png

Gartner高级研究总监曾劭清在沟通会上表示:“企业对基础模型的微调需求有限,尤其是大模型预训练成本高昂,而复用公共模型进行推理应用更为普遍。”他指出,未来AI算力的主要增长点,将来自于推理侧,尤其是涉及实时响应的各类场景,对低延迟的强依赖将推动AI从云端延伸至边缘节点。

这一变化,正在重构AI基础设施的部署逻辑。在智能摄像头、车载终端、工业设备等场景中,边缘推理已经成为技术与市场共同关注的焦点。AI加速器的角色日益凸显。据Gartner预测,到2027年,AI加速器在推理算力中的出货量将首次超越GPU,成为边缘AI的“主力军”。

不仅是技术路径的转变,更是产业格局的重塑。从过去集中在数据中心的训练时代,到如今碎片化、高并发、近端响应的推理时代,AI算力需求呈现出“去中心化”趋势。这对硬件设计、网络架构以及能效管理都提出了全新的挑战,也为本土企业参与全球AI供应链带来了新机遇。


标题:AI算力重心正转向“推理时代”,边缘节点成新战场

TAG标签:

上一篇:AI算力狂飙背后,电力正成为下一场“硅谷战争”
下一篇:从集中训练走向边缘推理,AI架构迎来新一轮重构潮
返回顶部