在6月21日召開的華為開發(fā)者大會2024上,華為云CTO張宇昕表示:“華為云對AI 開發(fā)生產線ModelArts進行升級,在AI開發(fā)基礎設施和流水線之上,構建了大模型即服務平臺 ModelArts Studio。提供百模千態(tài)的第三方大模型托管服務,支持對大模型定制開發(fā),并提供相應的工具和行業(yè)集成套件,讓客戶可以方便的將大模型與業(yè)務系統(tǒng)結合?!?/p>
華為云CTO張宇昕
ModelArts Studio大模型即服務平臺具備三大特點:
一、支持零代碼、免配置模型開發(fā):華為云沉淀盤古大模型的開發(fā)經驗,以及100多個第三方大模型基于昇騰平臺適配和調優(yōu)的經驗,為企業(yè)模型調優(yōu)自動推薦最優(yōu)配置參數。
二、支持多模型智能路由:ModelArts Studio能夠根據任務類型、模型效果自動選擇合適的模型,例如將復雜推理類任務路由給盤古處理,而將簡單的文案生成類請求路由給開源模型來處理。從而提升企業(yè)的模型管理和維護效率,降低模型調用成本25%以上。
三、提供多個智能Agent:ModelArts Studio沉淀了50多個智能Agent,可以準確理解業(yè)務意圖,分解復雜任務,幫助企業(yè)快速智能構建和部署大模型應用。