全球首个液冷!8192块AMD加速卡齐聚一堂:2048TB显存
AI基础设施企业TensorWave宣布,已经完成了北美地区最大AI训练基地的建设与部署,采用了多达8192块AMD Instinct MI325X AI加速卡。同时,这也是全球首个已公开的采用直触液冷散热的大型AI数据中心。AMD MI325X是去年刚刚发布的,采用5nm制造工艺,拥有304个计算单元(19456个核心)、1530亿个晶体管,FP8精度算力2.6千万亿次计算每秒,搭配256GB HBM3E高带宽内存(显存),带宽6TB/s。虽然AMD最新发布了MI350X、MI355X,但部署尚需时日,MI325X仍然是已落地的最先进的AMD AI加速卡。8192块放在一个系统内,总的核心数就到了几乎1.6亿个,FP8性能达到恐怖的2100亿亿次浮点每秒。同时,显存总容量多达2048TB,总带宽超过2PB/s!单卡功耗就有1000W,满载情况下一个小时就是8000多度电,确实需要配液冷,所有节点的GPU都使用了TensorWave自有的芯片直触液冷循环系统,确保高效带走热量。这套系统将以云服务的方式,对外提供租赁服务。这还只是TensorWave更宏大工程的第一阶段,预计今年晚些时候...
MXM显卡重现江湖
MXM曾经是笔记本上比较常见的显卡接口,可以随时插拔替换,但如今已经基本消失,只有在一些专业领域才能见到。可能是最新Blackwell架构的RTX PRO系列专业显卡已经发布,索泰官方正在公开销售Ampere、Ada Lovelace旧架构的RTX专业显卡,而且都是MXM接口的工业级产品。具体包括Ampere架构的RTX A500/A1000/A2000/A4500、Ada Lovelace架构的RTX 2000/3500/5000,选择空间非常丰富,价格分别为2999元、3999元、6999元、16999元、7399元、12999元、39999元。它们适合医疗设备、工业制造、人形机器人、智能运输、高密度计算服务器、边缘计算等既需要高性能、同时空间有限的专业领域。同时,索泰还贴心地同时销售一款MXM-PCIe转接卡,插入上述显卡,就可以当做普通的PCIe扩展卡使用,满足更多场景。它长度235.95毫米、高度162.21毫米,支持完整的PCIe 4.0 x16系统通道,兼容MXM 3.1 Type A/B规格,提供5V/12V风扇接口,预留插针接口供扩展子板,对外输出则是四个DP 1.4...