Google Cloud AI Platform是一個端對端的機器學習平臺即服務(ML PaaS)，面向數(shù)據(jù)科學家，ML開發(fā)人員和AI工程師。Cloud AI Platform提供了解決機器學習模型生命周期的服務。從數(shù)據(jù)準備到培訓再到模型服務，該平臺具有開發(fā)和部署復雜的機器學習模型的所有基本構件。

運行定制容器以在Cloud AI Platform上訓練模型的支持已普遍可用。該功能使用戶可以將其自己的Docker容器映像與任何預安裝的ML框架或算法一起在AI平臺上運行。

自定義容器支持消除了云中大規(guī)模培訓模型所涉及的約束?？蛻衄F(xiàn)在可以使用其培訓計劃中使用的特定版本的語言，框架和工具來打包自定義容器映像。這樣就無需選擇平臺期望用來訓練模型的特定版本的工具。通過自定義容器，數(shù)據(jù)科學家和ML開發(fā)人員可以將自己的框架和庫帶入AI平臺，即使它們本身不受平臺支持。開發(fā)人員可以在將其部署到云之前在本地構建和測試容器映像。DevOps團隊可以將AI平臺與現(xiàn)有CI / CD管道集成在一起，以自動化部署過程。為了簡化為訓練ML模型選擇正確的硬件配置的過程，Google引入了擴展層-一組基于一類GCE VM的預定義群集規(guī)范。每個等級級別都是根據(jù)其對某些類型工作的適用性來定義的。

客戶還可以選擇一個自定義層，在其中可以提及主服務器，工作服務器和參數(shù)服務器的計算機配置。集群中的這些服務器有助于分布式訓練，以加快訓練大型數(shù)據(jù)集的速度。

這兩種功能-自定義容器和用于培訓的機器類型-現(xiàn)在通常都可以使用。

模型部署和推理

托管一個響應預測的經(jīng)過全面訓練的模型的過程稱為推理。

客戶可以在Google Cloud AI平臺中托管經(jīng)過訓練的機器學習模型，并使用AI平臺預測服務來推斷新數(shù)據(jù)的目標值。Cloud AI Platform Prediction管理云中的計算資源以運行ML模型。使用ML模型的開發(fā)人員可以從部署的模型中請求預測，并作為響應獲得預測的目標值。

借助Cloud AI Platform Prediction服務，客戶可以從一組Google Compute Engine計算機類型中進行選擇，以運行ML模型。客戶可以添加GPU，例如NVIDIA T4或TPU。加快推理過程。作為托管平臺，該服務無需人工干預即可處理預配，擴展和服務。以前，在線預測服務僅支持從一種或四種vCPU計算機類型中進行選擇。

使用AI平臺的GCP客戶現(xiàn)在可以將預測請求和響應直接記錄到BigQuery，以分析和檢測偏斜和異常值，或確定是否需要重新訓練以提高模型的準確性。

Cloud AI Platform Prediction由Google Kubernetes Engine提供支持，可提供所需的規(guī)模。

在Cloud NEXT活動中將ML PaaS重大更改為AI平臺后，Google一直在不斷增強服務。自定義容器和基于GKE的預測服務等功能的普遍可用性使該平臺具有靈活性和可擴展性，可以在云中訓練和部署機器學習模型。