近日,由天翼云(yun)與華為聯合打(da)造的魔樂(Modelers)開發(fa)(fa)者社(she)(she)區,在天翼云(yun)中國(guo)(guo)行·貴(gui)州站活動現(xian)場上線發(fa)(fa)布。依(yi)托全場景(jing)開源模型資源、易用的模型開發(fa)(fa)套件,以及強大的共(gong)建共(gong)享生態系統等(deng)優勢,社(she)(she)區將使能開發(fa)(fa)者高(gao)效進行AI應(ying)用創新,促進國(guo)(guo)產(chan)AI生態繁榮!目前,社(she)(she)區已面向(xiang)廣大開發(fa)(fa)者正式開放注冊。
隨著(zhu)人工(gong)(gong)智能(neng)技術的飛(fei)速(su)(su)發(fa)(fa)展,中(zhong)文AI應(ying)用(yong)的創(chuang)(chuang)新(xin)(xin)已(yi)成為推動行業(ye)發(fa)(fa)展的關鍵力量(liang)。在此背景下,魔(mo)樂開(kai)發(fa)(fa)者(zhe)社區(modelers.cn)應(ying)運而(er)生(sheng)。魔(mo)樂社區致(zhi)力于聚(ju)合優(you)質中(zhong)文AI資(zi)源,使(shi)能(neng)AI應(ying)用(yong)創(chuang)(chuang)新(xin)(xin),加速(su)(su)伙伴商業(ye)閉環,通過提供極致(zhi)易用(yong)的工(gong)(gong)具(ju)鏈(lian),端到端支持AI應(ying)用(yong)開(kai)發(fa)(fa)的全流程。同時,結合國產化算力的使(shi)能(neng),社區將助力孵化國產原生(sheng)模型,為開(kai)發(fa)(fa)者(zhe)打造(zao)一個開(kai)放(fang)、共享的人工(gong)(gong)智能(neng)生(sheng)態社區。
魔樂社區(qu)集成(cheng)了(le)開發(fa)(fa)工具鏈、模(mo)型(xing)(xing)庫、數據(ju)集和體驗空間等核(he)心組件(jian),覆蓋自然語言處理(li)、視(shi)覺、音頻等領域,提供原生模(mo)型(xing)(xing)、易用(yong)開發(fa)(fa)工具、豐富的(de)生態資源,幫(bang)助每一(yi)位開發(fa)(fa)者獲取領先的(de)人工智能技術,打造出更有競爭(zheng)力和差異(yi)化的(de)模(mo)型(xing)(xing)及應(ying)用(yong)。
魔樂社區有什么優勢?
01資源豐富
·海量優質中文AI資源
五大專(zhuan)區(qu),1000+優質(zhi)大模型(xing),涵(han)蓋TeleChat等主流大模型(xing),構成了魔樂(le)社區(qu)的(de)豐(feng)富(fu)資(zi)源庫。開發者在這里不僅可(ke)以(yi)體驗(yan)前沿(yan)的(de)AI技術,還(huan)可(ke)以(yi)輕松下(xia)載所需的(de)模型(xing),應用到自(zi)己(ji)的(de)項(xiang)目中。
·千款大模型一鍵式離線復現,使能開發者快速搭建開發環境,構建AI應用
魔樂社(she)區(qu)(qu)致力(li)于簡化(hua)AI模(mo)型開(kai)(kai)(kai)(kai)發(fa)(fa)流程,讓創新觸手(shou)可及。通(tong)過一鍵(jian)式離(li)線復現功能(neng),開(kai)(kai)(kai)(kai)發(fa)(fa)者可以(yi)迅速搭(da)建自己(ji)的開(kai)(kai)(kai)(kai)發(fa)(fa)環境,并開(kai)(kai)(kai)(kai)始構建AI應用(yong)。通(tong)過將最(zui)佳適配全(quan)棧打包(bao)、分(fen)層解耦,社(she)區(qu)(qu)可提供(gong)開(kai)(kai)(kai)(kai)放的容器鏡像,消除(chu)傳(chuan)統(tong)開(kai)(kai)(kai)(kai)發(fa)(fa)中復雜的環境搭(da)建流程。無論是資(zi)深開(kai)(kai)(kai)(kai)發(fa)(fa)者還是新手(shou),都能(neng)夠在魔樂社(she)區(qu)(qu)找到適合自己(ji)的工具(ju)和資(zi)源,輕松實現AI夢想(xiang),共同推動技(ji)術進步。
·7000+高質量數據集資源,讓模型構建全流程更高效
魔樂(le)社區(qu)已(yi)與OpenDataLab合作(zuo),將逐步接入超(chao)7000個(ge)數(shu)據集(ji)(ji),涵(han)蓋計(ji)算機視覺、自(zi)然語言處(chu)理、多模(mo)態、通用(yong)機器學習、音頻識別等AI熱門領(ling)域。這些數(shu)據集(ji)(ji)經過精心整理與標注,可為用(yong)戶提供可靠的(de)數(shu)據支撐,助(zhu)力構建更(geng)加精準、可靠的(de)AI模(mo)型。
02工具齊全
·提供高易用性的API,僅需幾行代碼即可實現微調、推理等任務,快速實現開發者與研究人員的創意
魔樂社區提供的開發(fa)套件,支持從(cong)模(mo)型訓練(lian)到部(bu)署的全流程,原生兼容(rong)PyTorch和MindSpore等主流框(kuang)架,通(tong)過(guo)幾(ji)行代碼即(ji)可實現模(mo)型微調、推理(li)等任務。
以(yi)“星辰TeleChat_12B對話”為例,開(kai)發者可以(yi)在該(gai)模(mo)型主頁獲取詳盡(jin)的“模(mo)型介紹”,包括(kuo)其架構、參數和(he)(he)性(xing)能(neng)指標。頁面上可一(yi)鍵訪(fang)問(wen)數據集,無縫(feng)切換(huan)至體驗(yan)空間,利用魔樂社區提供(gong)的工具和(he)(he)容(rong)器(qi)鏡像(xiang),實現(xian)離線復現(xian)和(he)(he)應用開(kai)發,讓(rang)創新觸手可及(ji)。
·支持Accelerate、MindSpeed等主流加速庫,讓模型訓練更輕松
魔(mo)樂社區支持Accelerate、MindSpeed等主流加速庫(ku)。這些加速庫(ku)通過優化并行算法、通信協議和顯存資(zi)源管理,顯著(zhu)提升了計算效(xiao)率,縮短了訓練時(shi)間,讓大模型的訓練變得更加輕松和快(kuai)速。
·支持多種處理器,無需修改代碼即可靈活切換計算資源
借助魔(mo)樂社區提(ti)供的工具鏈(lian),開(kai)發(fa)者(zhe)可通過簡單的參數配置,輕松匹(pi)配業務訴求,實現在(zai)多種(zhong)算力(li)間的靈活選擇。這一(yi)設計不僅減少了(le)開(kai)發(fa)過程中的復雜性(xing),也極(ji)大提(ti)升了(le)資源的利用效率。無論是處理大規(gui)模數據(ju)集還是進(jin)行復雜的計算任(ren)務,魔(mo)樂社區都能提(ti)供強大的后端支持,確保開(kai)發(fa)者(zhe)能夠專注(zhu)于創(chuang)新和優化(hua)算法本身。
03算力資源充沛
魔樂(le)社(she)區依托天翼云(yun)等企(qi)業的算(suan)(suan)力資源支持,為用(yong)(yong)戶提供了高性能(neng)的計算(suan)(suan)環境(jing)。無論是模型訓練(lian)還(huan)是推理部署,用(yong)(yong)戶都能(neng)享受到流暢(chang)的計算(suan)(suan)體(ti)驗。
作為國內領先的云計算服(fu)務提供商(shang),天翼云在構建(jian)AI開發者社區方(fang)面展現出了(le)獨特的優勢:
·提供免費的國產化算力資源,支持體驗空間在線推理
·算力資源充沛,為社區提供穩定、高效的智算資源
天翼云擁有覆蓋全國的(de)智(zhi)(zhi)算(suan)算(suan)力布(bu)局,圍繞AI產(chan)(chan)業集聚區(qu)規劃建設北京(jing)、上(shang)海(hai)、廣東、浙(zhe)江、安(an)徽人工智(zhi)(zhi)能(neng)公共(gong)算(suan)力中心,智(zhi)(zhi)算(suan)總規模(mo)已達到21EFLOPS。天翼云在上(shang)海(hai)、北京(jing)打造的(de)萬卡池,是全國最(zui)早建成并真正投產(chan)(chan)運(yun)行的(de)兩個國產(chan)(chan)化、全液(ye)冷、單集群萬卡公共(gong)智(zhi)(zhi)算(suan)中心。依(yi)托(tuo)自身智(zhi)(zhi)能(neng)算(suan)力布(bu)局,天翼云能(neng)夠為魔樂開發者社區(qu)提供穩(wen)定、高效的(de)智(zhi)(zhi)算(suan)資源。
·提供先進的技術平臺
天(tian)翼云(yun)息壤(rang)一體(ti)化智算(suan)服務平(ping)臺(tai)面向行(xing)業(ye)(ye)大(da)模型(xing)訓(xun)(xun)(xun)推(tui)(tui)場景(jing),提(ti)(ti)供(gong)(gong)(gong)模型(xing)開(kai)發、訓(xun)(xun)(xun)練、調優(you)的(de)全(quan)鏈路(lu)服務。通過自(zi)研訓(xun)(xun)(xun)練框架,打造(zao)核心加速(su)算(suan)子集(ji)合,支持(chi)多維度(du)(du)混合全(quan)自(zi)動并行(xing),提(ti)(ti)供(gong)(gong)(gong)萬(wan)卡(ka)級超大(da)規(gui)模異構模型(xing)訓(xun)(xun)(xun)練能力(li),自(zi)動兼容國(guo)產芯(xin)片,實現與頭部訓(xun)(xun)(xun)推(tui)(tui)框架的(de)無縫(feng)對接,覆蓋行(xing)業(ye)(ye)主流(liu)開(kai)源(yuan)大(da)模型(xing),將訓(xun)(xun)(xun)練效率(lv)提(ti)(ti)升(sheng)了50%;通過自(zi)研推(tui)(tui)理框架,構建(jian)推(tui)(tui)理加速(su)算(suan)子集(ji)合、量化壓縮(suo)模型(xing)輕(qing)量化技術(shu),提(ti)(ti)供(gong)(gong)(gong)異構硬(ying)件的(de)推(tui)(tui)理能力(li),使推(tui)(tui)理速(su)度(du)(du)提(ti)(ti)升(sheng)28%。平(ping)臺(tai)基(ji)于軟硬(ying)件協同(tong)設計,打造(zao)了全(quan)鏈路(lu)故障感(gan)知和(he)(he)恢復(fu)、全(quan)鏈路(lu)日(ri)志監控(kong)和(he)(he)斷點續訓(xun)(xun)(xun)&續推(tui)(tui)等核心技術(shu),大(da)幅提(ti)(ti)升(sheng)有(you)效訓(xun)(xun)(xun)練時間(jian)和(he)(he)推(tui)(tui)理可用性,保(bao)障大(da)模型(xing)訓(xun)(xun)(xun)推(tui)(tui)場景(jing)穩定高效運行(xing)。
攜手開發者,共筑AI新生態
魔樂社區誠(cheng)摯地邀(yao)請(qing)每一位開發(fa)者加入這個大家庭,共同探(tan)索AI無限潛力(li)。在這里,您(nin)可(ke)以(yi)與全(quan)球的(de)AI愛(ai)好(hao)者交流(liu)心得、分享經驗;可(ke)以(yi)快速(su)利用大量的(de)模型資(zi)(zi)源以(yi)及高質(zhi)量的(de)數據集資(zi)(zi)源,快速(su)構(gou)建并分享自己的(de)AI應用;也可(ke)以(yi)借助充沛的(de)算力(li)資(zi)(zi)源與齊全(quan)的(de)開發(fa)工具鏈,將創意與想法轉化為現實。讓(rang)我們攜手并進,在AI的(de)征(zheng)途中不斷(duan)前(qian)行,共筑(zhu)AI新生(sheng)態。