焦點滾動:英偉達(dá)AI芯片勁敵來了！AMD推出MI300X，可運行多達(dá)800億參數(shù)模型

MI300X提供的HBM密度是英偉達(dá)AI芯片H100的2.4倍，HBM帶寬是H100的1.6倍，可以運行的模型比H100的更大。

來源：華爾街見聞

憑借發(fā)布的新品，AMD正式向英偉達(dá)的AI芯片王者地位發(fā)起挑戰(zhàn)。

(資料圖片)

美東時間6月13日周二，AMD舉行了新品發(fā)布會，其中最重磅的新品當(dāng)屬性用于訓(xùn)練大模型的Instinct MI300。

AMD CEO蘇姿豐介紹，生成式AI和大語言模型（LLM）需要電腦的算力和內(nèi)存大幅提高。AMD的Instinct MI300A號稱全球首款針對AI和高性能計算（HPC）的加速處理器（APU）加速器。在13個小芯片中遍布1460億個晶體管。

它采用CDNA 3 GPU架構(gòu)和24個Zen 4 CPU內(nèi)核，配置128GB HBM3。相比前代MI250，MI300的性能提高八倍，效率提高五倍。AMD在發(fā)布會稍早介紹，新的Zen 4c內(nèi)核比標(biāo)準(zhǔn)的Zen 4內(nèi)核密度更高，比標(biāo)準(zhǔn)Zen 4的內(nèi)核小35%，同時保持100%的軟件兼容性。

AMD推出一款GPU專用的MI300，即MI300X，該芯片是針對LLM的優(yōu)化版，擁有192GB的HBM3、5.2TB/秒的帶寬和 896GB/秒的Infinity Fabric 帶寬。AMD將1530億個晶體管集成在共12個5納米的小芯片中。

AMD稱，MI300X提供的HBM密度是英偉達(dá)AI芯片H100的2.4倍，其HBM帶寬是H100的1.6倍。這意味著，AMD的芯片可以運行比英偉達(dá)芯片更大的模型。

Lisa Su介紹，MI300X可以支持400億個參數(shù)的Hugging Face AI 模型運行，并讓這個LLM寫了一首關(guān)于舊金山的詩。這是全球首次在單個GPU上運行這么大的模型。單個MI300X可以運行一個參數(shù)多達(dá)800億的模型。

LLM需要的GPU更少，帶來的直接好處就是，可以節(jié)約成本。

AMD還發(fā)布了AMD Instinct 平臺，它擁有八個MI300X，采用行業(yè)標(biāo)準(zhǔn)OCP設(shè)計，提供總計1.5TB 的HBM3 內(nèi)存。

蘇姿豐稱，適用于CPU和GPU的版本MI300A現(xiàn)在就已出樣，MI300X和八個GPU的Instinct 平臺將在今年第三季度出樣，第四季度正式推出。

關(guān)鍵詞：