[正文]
在昨日舉辦的“Advancing AI”峰會上,AMD CEO Lisa Su除了帶來精彩的MI 300系列芯片介紹外,“Ryzen AI”也成為了她昨天演講中不可忽略的一個重點。IDC在日前發布的一份白皮書中也表示,到2024年,人工智能將成為PC行業的“必備功能和主流選擇”。
以中國市場為例,根據IDC提供的數據,2024年中國新增的個人電腦將有54.7%是人工智能個人電腦,但在2023年這一比例僅為8.1%。展望2027年,這個數字將快速飆升至84.6% 。
而伴隨著AI PC的火熱,整個PC市場也有望迅速回溫。
研究公司Canalys在最近的報告中表示,由于宏觀經濟環境改善以及假期通常是銷售旺季,所以本季度PC出貨量將增長 5%,一扭過去七個月連續下降的局勢。報告進一步指出,在AI進入PC這個概念的推動下,整個PC出貨量在2024 年將進一步加速,全球增速將達到 8%。
率先將NPU引入X86處理器
首先說明一下,將AI引入PC,AMD是x86領域的第一個。
早在年初發布銳龍7040系列處理器的時候,AMD就領先于競爭對手,率先將一個NPU集成到其X86處理器中,從而引出了公司的“Ryzen AI”概念。據了解,這是一種集成的 AI 引擎,可以處理諸如在視頻通話期間進行背景模糊、自動取景、眼神矯正等任務。從技術層面看,如下圖所示,AMD通過在X86處理器中加入一個NPU,讓消費者在 AI PC 上更接近個人計算的強大功能,將工作、協作和創新的效率提升到一個全新的水平,以便您可以更好地與周圍的世界保持聯系。
在行業盛會Hotchips 2023上,AMD更是通過銳龍7040 Phoenix系列,概覽公司“Ryzen AI背后的神秘面紗——XDNA架構,這也是其NPU的核心技術。如圖所示,AMD 在Phoenix 中集成了16 個AIE-ML 區塊,并可功能分割,讓多個應用共用人工智能引擎。
雖然AMD并沒有詳細介紹AIE,但據臺媒引述相關資料介紹,這是一個來自AMD收購的Xilinx公司的技術,集成了六個指令的超長指令集架構(6-way VLIW),單一指令含兩個純量(Scalar)運算、一個向量乘法(Vector Multiplication)、兩個存儲載入(Load)和一個存儲回存(Store)。AIE 有兩個向量暫存器檔案,一組6kB 提供浮點乘法器輸入,另一組8kB 保存累加值。此外,AIE 有16kB 指令存儲和64kB 數據存儲,16 個AIE 共用2MB L2 快取。
值得一提的是,和Nvidia A100 / H100 一樣,AIE 支援50% 稀疏率(Sparsity),特定場合可提高一倍理論效能。
AMD Lisa Su表示,目前市場上已經有50多款筆記本產品采用基于銳龍7040系列處理器的Ryzen AI。AMD 現在也已發貨超過數百萬顆內置 XDNA NPU 的處理器。不過,他們并未止步,開始邁入了Ryzen AI的第二個階段,Ryzen 8040則是其首個重磅產品。
Ryzen AI,新的路線圖
據AMD介紹,代號為“Hawk Point”的銳龍8040 系列移動處理器AI性能將提升60%。該芯片采用與現有銳龍7040“Phoenix”處理器相同的 4nm Zen 4 核心、RDNA 3 顯卡和 XDNA AI 引擎,但性能卻有不同程度的提升。
AMD透露,以 8 核銳龍9 8945HS為首的銳龍8040系列芯片在 Llama 2 和 AI 視覺模型性能方面比前代產品快了 1.4 倍。其游戲速度更是比英特爾高端i9-13900H芯片快 1.8 倍,內容創建速度快 1.4 倍。與競品相比,在視頻編輯、3D渲染和游戲性能等方面也是大幅領先。
而AI性能也提升顯著,AMD表示,銳龍7040 的 NPU AMD XDNA 能夠達到 10 TOPS,而 8040 的 NPU 可以達到 16 TOPS。展望 2024 年,AMD 還預告了其下一代 NPU 架構的處理器,代號為“Strix Point”,它將提供“超過 3 倍的生成式 AI NPU 性能”。這主要得益于全新改進的 XDNA 2 NPU 引擎。
與此同時,AMD 還發布了新的 Ryzen AI 軟件,這是一款可以讓愛好者和開發人員可以在其芯片上部署與 XDNA AI 引擎配合使用的預先訓練的 AI 模型。據介紹,Ryzen AI 軟件 1.0 版的新增功能是支持開源 ONNX Runtime 機器學習加速器,其中包括對混合精度量化的支持,當中包括 UINT16/32、INT16/32 和 FLOAT16 浮點格式。同時,AMD Ryzen AI 1.0 版還支持 PyTorch 以及 TensorFlow 2.11 和 2.12,這拓寬了軟件開發人員在模型和 LLM 方面運行的能力,從而為軟件創建新的創新功能。
具體而言,用戶只需選擇在 PyTorch 或 TensorFlow 等框架上訓練的機器學習模型,并使用 AMD 的 Vitis AI 量化器將模型量化為 ONNX 格式。然后軟件對模型進行分區和編譯,然后在 Ryzen AI NPU 上運行。
借助新的軟件,AMD讓開發者可以獲得基于 XDNA 的 NPU 硬件能力,以促進高級 AI 應用程序的開發,例如手勢識別、生物識別身份驗證和其他輔助功能(包括相機背景)。AMD表示,Ryzen AI 軟件現已免費提供,公司同時還在 Hugging Face 上提供了預先優化的模型供用戶使用。值得一提的是,該軟件目前僅適用于 Windows,但據AMD方面透露,公司Linux 版本的軟件將在未來幾個季度推出。
過去幾十年里,PC處理器的競爭主要集中在性能和功耗等多個方面。但從現在開始,AI將會給PC帶來新的革命,這值得我們所有人期待。
(新聞稿 2023-12-13)
|