在今天凌晨的發表會上,AMD 正式發表全新MI325X 人工智慧晶片,將會在今年第四季開始量產。
MI325X採用與MI300X相同的基本設計和架構,MI325X 採用 CDNA 3 GPU 架構,可視為中期升級版,可提供 256 GB HBM3e 內存,採用 16-Hi 堆疊,內存頻寬高達 6 TB/s,FP8 性能為 2.6 PFLOPs,FP16 性能為 1.3 PFLOPs,所有這些都封裝在一個擁有 1530 億個電晶體的晶片中。
AMD 聲稱 Instinct MI325X AI GPU 加速器在 Mixtral 8x7B 中比NVIDIA H200 快 40%,在 Mistral 7B 中比NVIDIA H200 快 30%,在 Meta Llama 3.1 70B LLM 中比NVIDIA H200 快 20%。
在 Llama 3.1 405B 中,8 倍速 MI325X 平台的性能比 H200 HGX AI 平台快 40%,在 70B 推斷測試中快 20%。
在人工智慧訓練方面,MI325X 的性能將與 H200 平台相近或高出 10%。
本文為品玩授權刊登,原文標題為「AMD 發佈新款人工智能芯片MI325X,與英偉達轉開競爭」