英特爾執行長基辛格。圖/本報資料照片
英特爾Gaudi系列加速器
英特爾9日舉辦Vision 2024年度客戶及合作夥伴大會,執行長基辛格(Pat Gelsinger)揭示全新的Gaudi 3 AI加速器,以及一系列支持企業級通用 AI(GenAI)部署的開放可擴展系統、新產品和戰略合作;他強調,未來每家公司都需要AI,英特爾將扮演重要角色。台廠相關英特爾供應鏈包含台積電、日月光、世芯、智邦、高技等都將受惠。
■全新Gaudi 3,台廠扮要角
基辛格表示,AI創新正在以前所未有的速度推進,在晶片驅動之下,未來每家公司都將迅速成為AI公司;英特爾正將AI帶向企業的各個層面,自個人電腦到數據中心、再到邊緣計算,包括最新Gaudi、Xeon 和Core Ultra 平台。
Gaudi 3將由5奈米打造,晶片整體包含10個主要模組,包含2個運算模組和8個記憶體堆疊(HBM 模組)。外傳世芯為其提供設計服務,效能皆較前代有所提升,包括工作負載性能、網路性能及HBM容量,皆有倍數之升級。法人也指出,高技為其提供PCB、智邦則提供通用基板(UBB SMT),為英特爾GPU伺服器受惠業者。
■火力展示,力壓輝達H100
相比輝達H100,Gaudi 3在訓練和推論性能上,皆有5成以上之提升,同時在推理延遲方面也有大幅改善;Gaudi 3加速器將於本季度提供給OEM業者,包含HPE、聯想和美超微。
英特爾強調,Gaudi 3擁有高度並行的運算引擎,涵蓋64個自定義AI處理器核心和8個矩陣乘法引擎,能高效處理複雜的矩陣運算;擁有128GB HBM2e高頻寬記憶體和3.7TB/s記憶體頻寬,為大型LLM和多模態模型提供充足的空間。
作為火力展示,英特爾透露眾多採用Gaudi AI加速器之公司,NAVER(Line母公司)將使用Gaudi於雲端至邊緣設備上部署先進的AI服務、博世(Bosch)將探索智慧製造應用,如生成合成數據;另外,包括NielsenIQ、Seekr及國際香料公司 IFF都將利用英特爾GenAI技術,拓展相關應用。
在Vision 2024 大會,英特爾展現致力於讓 AI技術更加開放、安全,並惠及全球企業的決心。憑借新方案與合作,英特爾積極在AI革命中發揮領導作用。