谷歌今天推出首款專為人工智能(AI)推論打造的新一代AI芯片TPU、命名Ironwood,云端計(jì)算服務(wù)提供2種計(jì)算配置,大型配置由9216顆芯片組成,計(jì)算能力為最大超級(jí)電腦El Capitan的24倍以上。
以云端計(jì)算技術(shù)為主的Google Cloud Next大會(huì)9至11日在美國(guó)拉斯維加斯舉行,Google推出第7代AI芯片TPU(張量處理單元)Ironwood。
Google Cloud副總裁瓦達(dá)特在會(huì)前記者會(huì)指出,Ironwood是Google首款專為AI推論任務(wù)設(shè)計(jì)的TPU,也是迄今最強(qiáng)大、且能源效率最高的TPU,引領(lǐng)客戶邁入推論新時(shí)代,意味能夠以更大規(guī)模開(kāi)發(fā)和部署推論式。
谷歌并提供搭載256顆芯片和9216顆芯片的配置,后者計(jì)算能力估計(jì)為全球最大超級(jí)電腦El Capitan的24倍以上,能支持如Google最新Gemini 2.5的需求。
計(jì)算能力推進(jìn)外,Ironwood的能源效率也有所提升,每瓦性能是第6代TPU2倍,使執(zhí)行AI工作更具成本效益;此外,Ironwood提供192GB的高帶寬內(nèi)存(HBM)容量,為Trillium的6倍,能處理更多的資料,進(jìn)而提升性能。
以Ironwood為核心,Google再?gòu)?qiáng)化AI云端基礎(chǔ)設(shè)施,多樣化硬件選擇,除TPU創(chuàng)新,也提供英偉達(dá)繪圖處理器(GPU)的組合算力,為第一家同時(shí)提供B200和GB200芯片的云端服務(wù)商,也將提供英偉達(dá)下一代AI超級(jí)芯片Vera Rubin。
谷歌在TPU的持續(xù)突破能使其在硬件上減少對(duì)英偉達(dá)依賴,提供更具競(jìng)爭(zhēng)力價(jià)格。研調(diào)機(jī)構(gòu)Omdia估計(jì),Google去年TPU花費(fèi)為60億至90億美元。
美國(guó)科技媒體The Information日前報(bào)導(dǎo),Google與聯(lián)發(fā)科攜手開(kāi)發(fā)新一代TPU,將于明年生產(chǎn),谷歌對(duì)此不予置評(píng)。