2024-04-16
高性能GPU服务器硬件拓扑与集群组网
一些 GPU 厂商（不是只有 NVIDIA 一家这么做）将将多个 DDR 芯片堆叠之后与 GPU 封装到一起 （后文讲到 H100 时有图），这样每片 GPU 和它自己的显存交互时，就不用再去 PCIe 交换芯片绕一圈，...
2024-04-15
云巨头两面下注：亚马逊云科技既要原研AI芯片，又要英伟达GPU
曾几何时，或者说就在短短几年之前，数据中心芯片市场还是个资金门槛极高但却相对简单的市场。CPU战团主要有英特尔、AMD和Arm，GPU阵营则是英伟达、AMD和英特尔等厂商的舞台。尽管AI初创公司数量可观，但普遍并未在数据...
2024-04-09
重磅！维谛Vertiv加入英伟达NPN全球生态伙伴网络
维谛Vertiv（NYSE：VRT）作为关键基础设施和连续性解决方案的全球领导者，加入英伟达NVIDIA生态伙伴网络（NPN），并成为解决方案顾问合作伙伴。这一合作将维谛Vertiv丰富的专业知识以及全系列电力与制冷解决...
2024-03-21
英伟达BLACKWELL系统如何“吃下”万亿级参数AI模型
可以看到，单纯将Hopper替换为Blackwell并不是最好的答案。根据英伟达方面的解释，只有在配合一系列正确举措之后，推理性能提升至30倍、推理功耗降低至1/25的结果才有可能实现。
2024-03-19
BLACKWELL GPU亮相：AI从此更便宜、更简单，英伟达竞争优势愈发凸显
日前在圣何塞举行的2024年GPU技术大会上公布的英伟达“Blackwell”GPU，是这家计算引擎制造商推出的第七代、也是最令人印象深刻的数据中心级GPU。GPU计算浪潮始于2000年代中期，并随着2012年5月“Ke...
2024-03-18
走进芯时代：AI算力GPU芯片分析
尽管AI芯片种类繁多，GPU因其适应性和强大的并行计算能力，仍是AI模型训练的主流硬件。英伟达在GPU领域的技术积累和生态建设使其处于领先地位，而国内GPU厂商虽在追赶，但仍存在差距。AI应用向云、边、端全维度发展，模型...
2024-03-15
META PLATFORMS大规模GPU设施全解析
如果大家每天需要处理数百万亿次AI模型执行，并在生成式AI步入主流的背景下时刻准备将这样的负载规模再提升一、两个数量级，那GPU就是各位不可或缺的战略资源。Meta Platforms明显就是这样，他们正拿出大笔财务预算...
2024-03-05
AI芯片架构众多，谁会主宰算力芯片？
智算中心的发展依托最新AI理论和计算架构，以AI大模型和算力技术为核心。GPU主导算力芯片市场，AI信创推动国产算力。AI分布式计算市场由算力芯片、内存和互联设备组成。ChatGPT推动GPU需求，SK海力士HBM3产量...
2024-03-04
AIGC产业图谱V2.0
ChatGPT的火爆使生成式AI（AIGC）回归焦点，AIGC指利用AI技术生成内容，涵盖文本、图像、音频等领域。AIGC产业图谱V2.0展示了基础设施、算法模型、内容应用等生态布局。
2024-02-22
ARM NEOVERSE路线图发布：CPU设计出炉，大型GPU缺席
Arm Neoverse数据中心计算路线图刚刚迎来一系列新鲜元素，遗憾的是数据中心级独立GPU加速器仍然缺席。
2024-02-18
NVIDIA RTX 2000 Ada GPU赋能AI加速的未来，革新各行各业工作流"
NVIDIA RTX 2000 Ada的推出为AI加速带来了高性价比的解决方案，展现了NVIDIA在推动技术进步和赋能未来工作方式方面的前瞻性。
2024-02-16
EOS只能半速运行：就连英伟达也无法为自家超级计算机提供充足H100 GPU
要说当下最困难的挑战，就是如何为计算系统采购充足的英伟达“Hopper”H100 GPU。哪怕是作为供应商的英伟达自己，也只能在有限的配额之下谨慎规划、调拨给内部使用。
2024-02-13
英伟达推出用于AI加速设计工作负载的RTX 2000 Ada Generation GPU
英伟达公司今天推出了新的Nvidia RTX 2000 Ada Generation GPU，将更强大的生成式人工智能处理器打包到“紧凑型工作站”中，让用户能够在设备上运行高级AI应用程序。
2024-02-01
“ANTARES”MI300 GPU表现抢眼，AMD数据中心业务正在复苏
从最近的态势来看，AMD旗下Instinct数据中心GPU加速器业务在2024年的表现似乎将比人们的预期好上不少。
2023-12-07
AMD当前已成无可争议的数据中心GPU性能王者
AMD在圣何塞召开的Advancing AI大会上公布了MI300产品家族，基本与英伟达、英特尔和其他AI加速器厂商的节奏保持一致。
2023-11-14
为提升GPU性能，英伟达选择对HOPPER HBM内存扩容
一个月前，在英伟达通过财务会议放出的技术路线图中，可以看到GH200 GPU和H200 GPU加速器将作为“Blackwell”GB100 GPU和B100 GPU之前的过渡产品，而Blackwell家族计划在明年年内推...