Google Cloud用戶現(xiàn)在可以利用NVIDIA Ampere GPU的功能處理其AI工作負載。
谷歌云中添加的特定GPU是上個月宣布的NVIDIA A100 Tensor Core。NVIDIA表示,A100“比歷史上任何NVIDIA GPU更快地進入云計算。”
NVIDIA聲稱A100將訓(xùn)練和推理性能提高了20倍。在1,024架A100上,僅需37分鐘即可訓(xùn)練BERT等大型AI模型。
對于那些享受以萬億浮點(TFLOPS)進行測量的人來說,A100可提供約19.5 TFLOPS的單精度性能和156 TFLOPS的Tensor Float 32工作負載。
Google Cloud產(chǎn)品管理總監(jiān)Manish Sainani說:
“ Google Cloud客戶經(jīng)常希望我們提供最新的硬件和軟件服務(wù),以幫助他們推動AI和科學(xué)計算工作負載的創(chuàng)新。
與我們的NVIDIA T4 GPU一樣,憑借我們新的A2 VM系列,我們很榮幸成為市場上第一批銷售NVIDIA A100 GPU的主要云提供商。我們很高興看到我們的客戶將如何使用這些新功能。”
宣布的時機來得更好,除了氣候變化等其他全球性挑戰(zhàn)之外,許多人都希望利用AI來解決COVID-19大流行。
除了AI培訓(xùn)和推理外,客戶還將能夠通過新功能實現(xiàn)其他功能,包括數(shù)據(jù)分析,科學(xué)計算,基因組學(xué),邊緣視頻分析和5G服務(wù)。
新的基于Ampere的數(shù)據(jù)中心GPU現(xiàn)在可以在Google Cloud的Alpha中使用。用戶可以訪問多達16個A100 GPU的實例,這些實例總共提供640GB的GPU內(nèi)存和1.3TB的系統(tǒng)內(nèi)存。