跳到正文
NVIDIA Blog· Amr Elmeleegy·· 3 天前AI 评分43

让每一字节发挥更多性能:NVIDIA 全栈协同设计如何化解 AI 内存挑战

More Performance From Every Byte: How Full-Stack Codesign Solves AI’s Memory Challenge

AI 导读

NVIDIA 以 GPU、CPU、网络、存储与软件的全栈协同设计化解 AI 工厂的内存压力:从 Blackwell Ultra 到 Vera Rubin 平台,每 GPU HBM 容量仅增约 3%,SemiAnalysis AgentX 上每美元智能体吞吐量最高提升 30x。

来源:NVIDIA Blog · blogs.nvidia.com