所有語言
分享
文章來源:鈦媒體
“牙膏藍廠”終於迎來翻身日。
就在剛剛,北京時間4月9日23點半,美國亞利桑那州Intel Vision 2024會議上,芯片巨頭英特爾(Intel)發布性能最強的新一代Gaudi3 AI 加速芯片,以及全新的下一代英特爾至強6處理器等產品。
其中,英特爾Gaudi 3 AI芯片採用台積電5nm工藝,支持128GB HBMe2內存。相比上代產品,英特爾Gaudi 3帶來4倍(400%)的BF16 AI計算能力提升,1.5 倍的內存帶寬以及 2 倍的網絡帶寬提升。
同時,在AI模型算力中,相比於英偉達H100 GPU,Gaudi3 AI芯片的模型訓練速度、推理速度分別提升40%和50%,平均性能提高 50%,能效平均提高40%,而成本僅為H100的一小部分。
相比最新英偉達H200,Gaudi3 AI芯片的推理速度竟然也提升30%。堪稱最強 AI 芯片。
英特爾預計,Gaudi 3將於2024年第二季度起出貨,戴爾、惠普、聯想、超微電腦等企業將成為首批客戶。
英特爾CEO基辛格(Pat Gelsinger)表示,“創新技術正在以前所未有的速度發展,每家公司都在加速成為AI公司,這一切都需要半導體技術提供支持。從PC到數據中心再到邊緣,英特爾正在讓AI走進千行百業。”
實際上,隨着ChatGPT爆火,AI 模型、數據、算力基礎設施成為生成式 AI 技術發展的三大要素。
據Gartner數據显示,2024年,企業在生成式 AI 方向上預期支出達400億美元,到2027年這一數據增至1510億美元。與此同時,到2026年,企業對生成式 AI 使用程度達80%,同時至少有50%的邊緣計算部署將與AI、機器學習(ML)等方向有關。
然而,AI 技術的全部潛力並沒有完全釋放出來。僅10%的企業組織去年推出面向生產的生成式 AI 方案;同時,有46%的的專家指出,基礎設施是將大模型產品化的最大挑戰。
因此,英特爾希望能夠利用長期的 AI 技術積累,通過開放生態系統的力量,乘上 AI 熱潮。與英偉達部分類似,英特爾也將提供一整套 AI 算力基礎設施方案,從而“解鎖”企業 AI,推動生成式 AI 的廣泛應用和快速商業化,有望幫助企業應對 AI 項目時所面臨的挑戰。
基辛格在會上表示,到2030年,半導體市場規模將達1萬億美元,而 AI 是其中的主要推動力。
從整體路線圖來看,AI PC、Edge AI(邊緣)、Data Center AI(數據中心)將成為英特爾三大重要的計算生態系統,比英偉達覆蓋面積更廣,加上其開放、可擴展的軟件和算法特性,廣泛適用於多個 AI 領域,從而推動英特爾持續為企業客戶打造全新 AI 方案。
具體到技術產品層面,此次Intel 產業創新開幕活動上主要公布五個方向的重要進展:
1、首先是英特爾Gaudi3。新一代Gaudi 3 AI加速器專為高性能、高效率的生成式 AI 計算而構建,每個加速器都具有獨特的異構計算引擎,由 64 個 AI 定製和可編程TPC和 8 個 MME 組成,每個Gaudi 3 MME 都能夠執行 64000個并行運算,支持128 GB HBMe2 內存容量、3.7 TB 內存帶寬和 96 MB 板載靜態隨機存取內存 (SRAM) 。同時,每個Gaudi 3當中都集成24個200 Gb以太網端口,提供靈活且開放標準的網絡。而Gaudi 3 的PCIe 功率為600w,帶寬為每秒 3.7TB。
英特爾 Gaudi 3 AI加速器於在今年二季度進行首批供貨,而預計將於 2024 年第三季度全面上市,英特爾 Gaudi 3 PCIe 附加卡預計將於 2024 年第四季度上市。
2、全新英特爾至強6處理器品牌,應用於數據中心、雲和邊緣場景。
其中,與第二代至強處理器相比,配備能效核(此前代號為Sierra Forest)的全新至強6處理器每瓦性能提高2.4倍,機架密度提高2.7倍,客戶能以近3:1的比例替換舊系統,大幅降低能耗,預計將於2024年第二季度推出;而配備性能核的英特爾至強6處理器,可將下一個令牌(token)的延遲時間最多縮短6.5倍,能運行700億參數的Llama2模型,預計不久后推出。
3、預覽下一代英特爾酷睿Ultra處理器。英特爾宣布將推出下一代酷睿Ultra客戶端處理器家族(代號Lunar Lake),將具備超過100 TOPS平台算力,以及在神經網絡處理單元(NPU)上帶來超過46 TOPS的算力,從而為下一代AI PC提供強大支持。據悉,英特爾預計將於2024年出貨4000萬台AI PC設備。
4、面向網絡互連層面的新品部署。與NVLink一樣重要,通過超以太網聯盟(UEC),英特爾公布面向AI高速互聯技術(AI Fabrics)開放技術的以太網解決方案,利用高速互聯技術支持AI模型訓練和推理,產品組合包括英特爾AI網絡連接卡(AI NIC)、集成到XPU的AI連接芯粒(Chiplet)、基於Gaudi加速器的系統,以及一系列面向英特爾代工的AI互聯軟硬件參考設計。
5、全面更新的邊緣計算和Tiber業務組合。英特爾還發布新的Edge芯片產品,包括酷睿TM Ultra、酷睿TM、凌動處理器以及面向Edge的英特爾ArcTM GPU,預計所有新品將於本季度上市,應用於包括零售、工業製造、醫療保健等關鍵領域,並將於今年獲得英特爾Tiber邊緣平台的支持。另外,英特爾還發布Tiber業務解決方案組合,以簡化企業對生成式 AI 軟件服務的部署工作,預計Tiber方案將於今年第三季度全面推出。
英特爾披露,截至目前,英特爾邊緣計算處理器銷量達2億塊,已邊緣部署超過9萬個解決方案。
另外,英特爾還宣布聯合Hugging Face、RedHat、SAP、VMware等15家公司,將共同創建一個開放、多供應商的生成式AI系統平台,通過RAG(檢索增強生成)技術,提供運行大量現存專有數據源得到增強版開放大模型。
英特爾強調,公司不僅將提供包括硬件、軟件、框架和工具,而且希望設備製造商、數據庫提供商、系統集成商、軟件和服務提供商等參与其中,推動英特爾AI開放生態系統的構建,以及將生成式AI技術進行場景落地。
總體來說,基於英特爾5nm Gaudi3 AI芯片,以及至強6處理器和軟件棧,該公司正逐步構建 AI 領域的算力基礎設施生態,全面挑戰英偉達以及現有 AI 芯片市場格局。
英特爾方面去年7月對鈦媒體App表示,市場需要替代品。客戶非常歡迎英特爾Gaudi方案在向大眾部署 AI 方面發揮重要的領導作用。“幾十年來,英特爾一直致力於把新的技術普及、普惠到各行各業。通過降低進入門檻,提高市場參与度,從而加快創新速度。”
“未來,每一家公司都成為一家 AI 公司。”基辛格稱。
那麼,前有OpenAI、微軟、亞馬遜“造芯”,後有英特爾“彎道超車”,英偉達真的危險了嗎?
黃仁勛前段時間這段話其實表達的非常明確:“數據中心需要你運營它。購買和銷售芯片的人考慮的是芯片價格。運營數據中心的人考慮的是成本,我們總擁有成本(TCO)非常好。即使競爭對手芯片是免費的,他們也不如我們,客戶也不會買。我們的目標是增加更多的價值。但這背後需要很多努力,我們必須不斷創新、我們不能把任何事情視為理所當然、我們有很多競爭對手。”
事實上,AI 芯片是一個不斷向前“奔跑”的高技術行業。它沒有垄斷,只有不斷創新提供更大價值,才有可能讓企業持續保持領先地位。因此,無論是英偉達還是英特爾,他們都有非常強大的市場競爭力,也都有望成為 AI 加速計算市場的“領先者”。
英特爾強調,未來公司將在 AI 浪潮中全力引領創新,為各行各業帶來前所未有的價值。