6月25日(ri),萬維(wei)(wei)公司“一站式(shi)智(zhi)算調(diao)度服(fu)務(wu)平(ping)臺(tai)”全新(xin)V2.0版本(ben)(ben)正式(shi)上線。萬維(wei)(wei)戰新(xin)業務(wu)事業部智(zhi)算業務(wu)團隊聚焦模型服(fu)務(wu)、異構(gou)算力納管、異構(gou)算力調(diao)度適配三(san)大(da)方向(xiang),持續優化平(ping)臺(tai)核心(xin)功能,幫助用(yong)戶(hu)更好地(di)與智(zhi)算模型服(fu)務(wu)深度融合(he),進一步降低算力管理成(cheng)本(ben)(ben)、降低模型使用(yong)技術(shu)壁壘、簡化異構(gou)算力調(diao)度效率,助力降本(ben)(ben)增效,釋放數據價值(zhi)。
目前,平(ping)臺已實現北京、武漢、深圳等全國9大區域覆蓋,完成20余套(tao)部署,服務對象(xiang)涵蓋政府部門、企(qi)業客戶(hu)、院(yuan)校、金融機構及醫院(yuan)等多元化用戶(hu),有效解決了算力(li)管理成本高、模型使(shi)用技術難等痛(tong)點。
一是落地案例成效顯著。長慶(qing)油田(tian)部(bu)署“平臺+大小模型+視頻智(zhi)能(neng)(neng)業務”方案,打(da)造覆蓋煙火識別、車輛檢(jian)測等5個場景的(de)訓推(tui)一體服務,實現數據標注到部(bu)署推(tui)理全流程智(zhi)能(neng)(neng)化(hua)。深圳(zhen)G行(xing)采用(yong)“私有(you)算(suan)力+平臺+DeepSeek大模型”方案,快(kuai)速構(gou)建智(zhi)能(neng)(neng)客服、風控預警應(ying)用(yong),效(xiao)率提(ti)升20%。蘭(lan)州市“小蘭(lan)AI答”依托“平臺+DeepSeek模型”,提(ti)供7×24小時智(zhi)能(neng)(neng)政務咨詢,顯著提(ti)升服務智(zhi)能(neng)(neng)化(hua)水平。
二是以“三化”特色構建核心競爭力。國產(chan)化適(shi)配能力(li)突出,支持(chi)華為昇騰、寒武紀(ji)等國產(chan)GPU及主流(liu)算(suan)力(li)統一(yi)(yi)納管與卡級(ji)調度,適(shi)配市(shi)面80%以上(shang)大模(mo)(mo)(mo)型(xing)。服務流(liu)程輕(qing)量化,提(ti)供(gong)“一(yi)(yi)鍵接入模(mo)(mo)(mo)型(xing)、共享模(mo)(mo)(mo)型(xing)隨心換、按卡時訂購”等模(mo)(mo)(mo)式,降低技(ji)術壁壘,提(ti)升服務效率。訓推(tui)一(yi)(yi)體(ti)生態化,構(gou)建(jian)“數(shu)據(ju)標注-模(mo)(mo)(mo)型(xing)訓練-部署(shu)推(tui)理-模(mo)(mo)(mo)型(xing)評測(ce)”全流(liu)程服務鏈,支持(chi)多模(mo)(mo)(mo)態模(mo)(mo)(mo)型(xing)開發,形成(cheng)運營閉環。
三是V2.0版本強化五大特色服務。國產算(suan)力(li)(li)協(xie)同調(diao)度與(yu)可視化(hua)(hua)監控功能,實現(xian)了(le)算(suan)力(li)(li)資源的(de)高(gao)效配置和(he)實時(shi)管(guan)(guan)理,顯著提(ti)升運營效率。行(xing)業模(mo)型(xing)可視化(hua)(hua)微調(diao)支持(chi)SFT、PT等多種模(mo)式(shi),為模(mo)型(xing)的(de)精(jing)準適配和(he)優化(hua)(hua)提(ti)供了(le)強大(da)支持(chi)。模(mo)型(xing)一(yi)鍵部署推理與(yu)精(jing)細計量(liang)服(fu)務,極大(da)簡化(hua)(hua)了(le)操作流程(cheng),滿(man)足(zu)用戶對算(suan)力(li)(li)資源的(de)精(jing)準需(xu)求。多維(wei)度模(mo)型(xing)評測(ce)(基線、性(xing)能評測(ce))與(yu)報告生成功能,為模(mo)型(xing)的(de)持(chi)續優化(hua)(hua)提(ti)供了(le)科學依據。智算(suan)集群統一(yi)可視化(hua)(hua)多級(ji)管(guan)(guan)理機制,則進一(yi)步增強了(le)集群管(guan)(guan)理的(de)便捷性(xing)和(he)高(gao)效性(xing)。
四是平臺升級新增八大功能。平臺引入靈活的(de)框架(jia)管(guan)理(li),涵蓋推理(li)、訓練(lian)(lian)以及yolo框架(jia)等(deng)(deng)多種(zhong)類型(xing);構建起完善的(de)模型(xing)評(ping)測體系(xi);對模型(xing)體驗(yan)(yan)(yan)模塊(kuai)進行升級,支持文本(ben)和(he)視覺(jue)的(de)多模態體驗(yan)(yan)(yan);拓展訓練(lian)(lian)能力,新(xin)增(zeng)SFT、PT和(he)DPO等(deng)(deng)多種(zhong)訓練(lian)(lian)模式(shi);優(you)化數據集管(guan)理(li)流程;并提(ti)供線上(shang)化運營資料(liao)等(deng)(deng),通過這些(xie)功(gong)能的(de)持續優(you)化,不斷(duan)提(ti)升技術適配性和(he)用戶體驗(yan)(yan)(yan)。