當地時間12月6日，在圣何塞舉辦的AMD Advancing AI活動上，AMD CEO Lisa Su釋出重磅消息，為強勁的年終業績畫上一串驚嘆號：盛傳許久的MI300發布；終于兌現E級APU承諾；在ROCm軟件領域取得顯著進步，硬剛CUDA的薄弱環節繼續得以強化。
隨著生成式AI的快速發展，全球高性能計算需求不斷增加，進一步推動了AI芯片的激烈競爭。以微軟、Meta為首的大型云廠商也在尋求自研AI芯片或支持新的供應商，來降低對英偉達的依賴。AMD MI300 推出后，微軟、Meta就在首批客戶之列。
MI300兩大系列：MI300X大型GPU、MI300A數據中心APU
在英偉達占據絕對地位的AI芯片領域中，AMD是為數不多具備可訓練和部署AI的高端GPU公司之一，業界將其定位為生成式AI和大規模AI系統的可靠替代者。AMD與英偉達展開競爭的戰略之一，就包括功能強大的MI300系列加速芯片。當前，AMD 正在通過更強大的 GPU、以及創新的CPU+GPU平臺直接挑戰英偉達H100的主導地位。
Lisa Su在開場演講中談到，包括GPU、FPGA等在內的數據中心加速芯片，未來四年每年將以50%以上的速度增長，從2023年的300億市場規模，到2027年將超過1500億。她表示，從業多年，這種創新速度比她以往見到的任何技術都快。
最新發布的MI300目前包括兩大系列，MI300X系列是一款大型GPU，擁有領先的生成式AI所需的內存帶寬、大語言模型所需的訓練和推理性能；MI300A系列集成CPU+GPU，基于最新的CDNA 3架構和Zen 4 CPU，可以為HPC和AI工作負載提供突破性能。毫無疑問，MI300不僅僅是新一代AI加速芯片，也是AMD對下一代高性能計算的愿景。
生成式AI領域，MI300X正面挑戰英偉達
AMD MI300X 擁有最多 8 個 XCD 核心，304 組 CU 單元，8 組 HBM3 核心，內存容量最大可達 192GB，相當于英偉達H100（80GB）的2.4 倍，同時HBM內存帶寬高達5.3TB/s，Infinity Fabric總線帶寬896GB/s。擁有大量板載內存的優點是，只需更少的GPU 來運行內存中的大模型，省去跨越更多GPU的功耗和硬件成本。
Lisa Su表示，生成式AI是有史以來要求最高的工作負載，需要成千上萬的加速器來訓練和完善數十億參數的模型。它的“法則”非常簡單，你擁有的計算越多，模型的能力越強，生成答案的速度就越快。
“GPU是生成式AI世界的中心。每個與我交談的人都說，GPU計算的可用性和能力是AI采用的一個最重要的因素”，她興奮地表示，“MI300X是我們迄今為止最先進的產品，也是業內最先進的AI加速芯片。”
Instinct平臺是基于OCP標準設計的生成式AI平臺，包括8個MI300X，可以提供1.5TB HBM3內存容量。與英偉達H100 HGX相比，AMD Instinct平臺可以提供更高的吞吐量，例如運行176B的 BLOOM 等LLM推理時，性能提升高達 1.6 倍，并且是當前市場上唯一的能夠對 70B 參數模型（如 Llama2）進行推理的方案。
此外，AMD宣布了與微軟Azure等合作，通過將尖端的AI硬件集成到領先的云平臺中，也標志著當前業界人工智能應用的持續進步。而在 Azure 生態系統中引入 AMD Instinct MI300X，也進一步鞏固了AMD在云端AI的市場地位。
數據中心MI300A——E級APU成為現實
MI300A 是全球首款適用于HPC和AI的數據中心APU，結合了CDNA 3 GPU內核、最新的基于AMD“Zen 4” x86的CPU內核、以及128GB HBM3 內存，通過3D封裝和第四代AMD Infinity架構，可提供HPC和AI工作負載所需的性能。與上一代 AMD Instinct MI250X5 相比，運行HPC和AI工作負載，FP32每瓦性能為1.9 倍。
能源效率對于HPC和AI領域至關重要，因為這些應用中充斥著數據和資源極其密集的工作負載。MI300A APU將CPU和GPU核心集成在一個封裝中，可提供高效的平臺，同時還可提供加速最新的AI模型所需的訓練性能。在AMD內部，能源效率的創新目標定位為30×25，即2020-2025年，將服務器處理器和AI加速器的能效提高30倍。
對比MI300X的8個XCD核心，MI300A采用6個XCD，從而為CCD留出空間。APU的優勢意味著，它擁有統一的共享內存和緩存資源，因此省去了在CPU和GPU之間來回復制數據。切換電源時，它只需運行GPU，在CPU上運行串行部分即可，由于省去復制數據的過程，因此性能表現更好。同時也可以為客戶提供易于編程的GPU平臺、高性能的計算、快速的AI訓練能力和良好的能源效率，能夠為需求嚴苛的HPC和AI工作負載提供動力。
美國即將推出的新一代 2ExaFLOPS (200億億次)的El Capitan超算將采用AMD MI300A，這將使得El Capitan成為世界上最快的超級計算機。
AI開源軟件戰略持續強化
AMD 發布了最新的ROCm 6開放軟件平臺，也是AMD對開源社區貢獻最先進的庫的承諾。Lisa Su表示，ROCm 6代表AMD軟件工具的重大飛躍，進一步推進了AMD開源AI軟件開發的愿景。該軟件平臺增強了AMD的AI加速性能，在 MI300 系列加速器上運行Llama 2 文本生成時，與上一代硬件和軟件相比，性能提高約8倍。
針對生成式AI，ROCm 6增加了關鍵功能：包括 FlashAttention、HIPGraph 和 vLLM等。 AMD正在在與軟件伙伴推進合作，例如PyTorch、TensorFlow、hugging face等，打造強大的AI生態系統，簡化AMD AI 解決方案的部署。
此外，AMD 還通過收購開源軟件公司Nod.AI，進一步增強為AI客戶提供開放軟件的能力，使他們能夠輕松部署針對AMD硬件調整的高性能AI模型。并且通過與Mipsology的生態系統合作等，持續強化其開源的AI軟件戰略。
AMD致力于建立一個開放的軟件生態系統，利用廣泛的開源社區基礎來加快創新步伐，同時為客戶提供更多的靈活性。不得不說，對標英偉達在AI領域強大的CUDA生態，此舉是AMD將其自身打造為有力的AI競爭者的關鍵環節，也有助于AMD切入CUDA現有的市場。
三代產品演進，Lisa首談三大AI戰略
前不久，AMD在公布2023年Q3財報時，預計到 2024 年數據中心 GPU 收入將超過20 億美元，實現大幅增長。當時，這種加速的收入預測主要取決于以AI為中心的解決方案，能夠滿足跨行業的各種AI工作負載的能力，這也是最新推出的MI300獲得業界高度關注的一個原因。
AMD的加速芯片之旅，始于第一代基于CDNA計算架構的MI100，通過一些HPC的應用和部署，為MI200取得更廣泛的商業成功鋪平了道路。MI200量產出貨已有幾年，在大型HPC和前沿AI部署應用方面收獲頗豐，并且是超級計算機500強榜單的第一名。
也正是經過這兩代產品的打磨，使AMD真正對AI工作負載、軟件需求等有了更深入的理解，為MI300打下了堅實基礎。當前，MI300A主要專注于HPC和AI應用，是全球首個數據中心APU。MI300X則專為生成式AI而設計，通過硬件和軟件全面提升，使得該產品的應用門檻進一步降低。
Lisa Su在大會上首次談到了AMD的三大AI戰略：首先，AMD始終提供通用的、高性能的、節能的GPU、CPU和用于AI訓練和推理的計算方案；其次，將繼續擴展開放、成熟和對開發人員友好的軟件平臺，使得領先的AI框架、庫和模型都完全支持AMD硬件；第三，AMD將與合作伙伴擴大聯合創新，包括云提供商、OEM、軟件開發人員等等，實現更進一步的AI加速創新。
寫在最后
AMD此次推出MI300是其發展歷程中的一個重要里程碑。 通過比英偉達H100更優的一系列表現，AMD致力于成為生成式AI時代的有力競爭者。
隨著重磅產品的問世，大客戶合作是否會助力AMD加速追趕？AMD能否抓住AI時代機遇，復刻CPU成功之路？在高端GPU領域，英偉達已經先發制人，AMD能否成為游戲規則改變者？
短期內可以看到的是，隨著英偉達明年推出H200和B100兩款芯片，高端AI芯片的競爭態勢繼續膠著，AI加速計算有望開啟新一輪超級周期。
至于AMD是否有計劃開發和銷售能夠符合美國對華芯片出口禁令的特定版本的MI 300？就在本文發稿前，AMD方面回應：中國市場對AMD很重要，但今天沒有宣布專門針對中國市場的特別產品。
（新聞稿 2023-12-13）
