IBM打造AI專用POWER9處理器與伺服器

IBM於本周二（12/5）揭露了專為人工智慧（AI）應用所設計的POWER9處理器與伺服器，推出首款支援OpenCAPI新一代資料中心伺服器架構的Power Systems AC922 。

IBM自4年前便開始替需要密集運算的AI任務量身打造POWER9處理器，相較於POWER8，POWER9有4倍的頻寬，採用基於CAPI 2.0的25Gb/s連結以執行GPU/OpenCAPI加速；其AI模型可支援2TB的同調記憶體、GPU至CPU通訊與CPU至GPU通訊；它支援NVIDIA NVLINK，可大幅提升GPU與CPU之間的數據交換速度，並可選擇PCIe 3或PCIe 4。

此外，POWER9的最大I/O頻寬是Intel x86處理器的9.5倍，可支援的記憶體容量是x86的2.6倍，高效能核心數量是x86的2倍，記憶體頻寬則是x86的1.8倍。

至於基於POWER9的Power Systems AC922號稱為企業AI的最佳伺服器，執行深度學習框架Chainer與Caffe的效能分別可達3.7倍與3.8倍。

Power Systems AC922也是首個符合OpenCAPI架構的伺服器。Google、IBM、AMD、NVIDIA、Mellanox、Micron、Dell EMC、Xilinx及HPE等9家業者在去年組成OpenCAPI聯盟，攜手研發針對大數據、機器學習、分析或其他新型態資料中心應用所需的資料中心伺服器架構。

Power Systems AC922可望加快資料科學家建置應用的速度，從科學研究的深度學習、即時詐欺偵測及信用風險分析等。

至於POWER9則會是美國能源部即將啟用的Summit與Sierra超級電腦核心，也將被應用於Google的資料中心。

AI伺服器大戰，IBM聯手Google、NVIDIA，對抗Intel能成功嗎？

IBM12月推出的新一代POWER9處理器，這個處理器是針對AI工作負載而設計，從科學研究的深度學習、即時詐欺偵測及信用風險分析等領域，加速資料科學家建置認知應用。自4年前便開始替需要密集運算的AI任務量身打造POWER9處理器，而每一代的處理器至少投入30億美元研發。

IBM POWER9的最大I/O頻寬是Intel x86處理器的9.5倍，可支援記憶體容量是2.6倍，高效能核心數量為x86的2倍，記憶體頻寬則是x86的1.8倍。

臺灣IBM硬體系統事業部總經理李正屹表示，目前POWER9處理器將被應用於美國能源部的超級電腦「Summit」和「Sierra」，以及Google資料中心。在台灣IBM也協助如中國端子、全國電子、淡江大學和中鋼等企業，從硬體加速上層應用之發展。

策略：NVIDIA為技術戰友，Google則是重要客戶

IntelX86架構伺服器仍是主流，根據TrendForce記憶體儲存研究（DRAMeXchange）的調查顯示，伺服器用處理器中，X86架構市場約96%，其中Intel出貨量占99%，為此退出X86架構的IBM改從生態系角度對抗Intel。

IBM在2013年號召Google、NVIDIA、Mellanox與Tyan等成員組成OpenPOWER聯盟。聯盟主要目標在相互開放頂尖技術，打造更好的解決方案，對抗Intel。目前聯盟成員已經達到300多家。

而在這次亮相的POWER9處理器中，NVIDIA即為重要戰友。POWER9處理器搭載於IBM AC922 Power Systems伺服器中，IBM與把NVLink 2.0技術應用在其中，讓CPU和GPU之間的數據遷移速度達成到x86的9.5倍。

而Google則是重要客戶。Google的資料中心過去大量採用Intel x86，但在2016年Google宣布與Rackspace聯手打造Power9處理器架構的伺服器，藉此提升資料中心的效能和能耗問題。

不僅硬體，也提供基礎架構與軟體工具

為了拚贏這場仗，IBM不僅提供處理器等硬體而已，IBM的PowerAI深度學習平台，提供常用的TensorFlow和Caffe深度學習框架與自動化標籤以及參數調優等工具，以節省深度學習人工神經網絡的「訓練」時間。

IBM硬體系統部業務協理秋垂彬就說，在訓練過程中，清洗與上標籤等數據處理流程，耗費了八成左右的時間，因此IBM提供更為自動化的數據標籤工具，而參數調整也另一個大挑戰，參數常牽一髮動全身，因此系統也會提供參數調整參考值。

「現行企業進行深入學習，光人工神經網絡的訓練過程就耗費一到兩個月，實在太久了，我們系統最終可以節省4倍的時間。」秋垂彬說。