AI推理能力優于英特爾，192核！這家初創公司的芯片想以量取勝

發布192核Arm服務器芯片后，芯片初創公司Ampere希望拓展更多CPU市場份額，并在AI能力上戰勝競爭對手。

近日， Ampere首席產品官Jeff Wittich接受了包括界面新聞在內的媒體采訪，解析芯片架構并展望產品路線圖。

AmpereOne采用小芯片（Chiplet）設計，使用5納米工藝制造，并首次采用Ampere自研內核，還擴展了內存容量、帶寬和IO帶寬等，支持PCIe 5.0和DDR5規格。

據Jeff Wittich介紹，該芯片為云原生設計，意味著在芯片設計環節，從核心到SoC，均考慮到云計算場景，以實現最好的能效。“它不是其他產品稍加更改而來的衍生產品線，更不是我們去利用所謂的傳統架構，來打造出適應市場變化的產品。”

192核心（Core）是此次AmpereOne處理器的核心特點，為業內最高，遠超同期英特爾、AMD兩大x86架構廠商處理器核心數量。通常而言，處理器核心數量越多，可同時處理任務的能力越強。Ampere宣稱，192核心的AmpereOne處理器在云端環境時，可運行虛擬機的數量要遠大于同期的旗艦x86處理器，也擁有更好的能效表現。

隨著AmpereOne處理器的推出，Ampere已擁有Altra、AmpereOne兩大產品線系列，覆蓋不同計算需求。Jeff Wittich舉例，在邊緣計算場景，客戶僅需部署32核、功耗40瓦的Ampere Altra處理器。而對于在大規模數據中心環境、有更大算力需求的客戶，AmpereOne認為更高核心數可以提供更好性能。

Jeff Wittich稱，邊緣作為云端的延伸，也是Ampere關注的領域，其許多需求與云類似。但在部署邊緣算力上，由于供電、制冷、網絡、部署條件等限制，資源的限制更多。Ampere Altra高性能、低能耗的特點，可以在冷卻設備受限的場景下工作，“許多邊緣場景為了規避能耗的增加，可能還在使用原來的低性能產品。”他認為，Ampere處理器將改變現狀。

在云端，諸如英特爾至強、AMD霄龍等處理器用于AI推理工作，是AI計算的一大主流負載，Ampere芯片同樣可應用于此。“Ampere的產品不只適用于當前常見的大型語言模型，也適用于過去幾年相對舊的模型。”Jeff Wittich稱，云廠商在AI計算中追求高能效以降低成本，而GPU服務器功耗極大，成本高昂，擴展和可部署的服務器數量受到限制，Ampere可以滿足云廠商需求。

AI是當前芯片廠商重要的負載類型，生成式AI的流行加速了廠商投入。Jeff Wittich分析稱，AI訓練發生在服務器上的CPU、GPU，而AI推理在整個云端基礎設施中均有涉及，在負載特征上需要不斷地進行重復推理，并向用戶快速交付結果。他稱，Ampere兩年多前就組建了AI團隊。此次AmpereOne針對流媒體推薦、商品智能推薦、生成式AI等AI負載進行優化。

根據Ampere展示的產品性能對比，在生成式AI負載的文本提示生成圖像模型Stable Diffusion推理中，AmpereOne以每機架性能高出2.3倍優勢領先AMD霄龍9654處理器。Ampere未提供與英特爾芯片對比數據。

Ampere介紹稱，包括谷歌、微軟、甲骨文、阿里巴巴、騰訊在內的云服務廠商，以及慧與、Supermicro等服務器廠商已經與Ampere合作，測試或使用Ampere產品。

基于成本、性能考慮，云計算廠商對不同架構處理器保持開放態度。2018年11月，亞馬遜發布基于Arm架構的首款服務器芯片Graviton，主打性價比。亞馬遜宣稱，與主流的英特爾x86架構CPU（中央處理器）相比，基于Graviton芯片的云服務在處理一些簡單的工作負載時，成本可最多降低45%。隨后該芯片多次迭代，性能提升數倍，可應付更多、更復雜的工作類型，至今已經迭代多代。