騰訊云發(fā)布行業(yè)大模型商店 提供MaaS一站式服務(wù)
2023-06-20 06:51:26    中國經(jīng)營網(wǎng)

6月19日,騰訊云在國家科技傳播中心召開行業(yè)大模型及智能應(yīng)用技術(shù)峰會,首次公布騰訊云行業(yè)大模型研發(fā)進(jìn)展。會上騰訊發(fā)布了依托騰訊云TI平臺打造行業(yè)大模型精選商店,可以為客戶提供MaaS(Model-as-a-Service)一站式服務(wù),助力客戶構(gòu)建專屬大模型及智能應(yīng)用。


(資料圖片僅供參考)

《中國經(jīng)營報》記者注意到,會上,騰訊云還聯(lián)合22家客戶正式啟動行業(yè)大模型共建合作,并攜手17家生態(tài)伙伴共同發(fā)起了“騰訊云行業(yè)大模型生態(tài)計劃”,致力于共同推進(jìn)大模型在產(chǎn)業(yè)領(lǐng)域的創(chuàng)新和落地。基于騰訊HCC高性能計算集群和大模型能力,騰訊云已經(jīng)為傳媒、文旅、政務(wù)、金融等10余個行業(yè)提供了超過50個大模型行業(yè)解決方案。

騰訊集團(tuán)高級執(zhí)行副總裁、云與智慧產(chǎn)業(yè)事業(yè)群CEO湯道生表示,生態(tài)共建是AI發(fā)展的有效路徑,騰訊將堅持生態(tài)開放,為企業(yè)提供高質(zhì)量模型服務(wù),同時支持客戶多模型訓(xùn)練任務(wù),加速大模型在產(chǎn)業(yè)場景的創(chuàng)新探索。

產(chǎn)業(yè)場景是大模型最佳練兵場

會上,湯道生分別從模型、數(shù)據(jù)、應(yīng)用與算力四個角度分享了對大語言模型在產(chǎn)業(yè)落地的思考。

就模型而言,湯道生認(rèn)為,比起通用大模型,企業(yè)更需要針對具體行業(yè)的大模型,并結(jié)合企業(yè)自身的數(shù)據(jù)進(jìn)行訓(xùn)練和精調(diào),以打造出更實用的智能服務(wù)。企業(yè)對提供的專業(yè)服務(wù)要求高且容錯性低,因此使用的大模型必須具備可控、可追溯和可修正的特點,并經(jīng)過反復(fù)充分的測試。

其次是數(shù)據(jù)的重要性。“數(shù)據(jù)是大模型的原材料,針對具體場景,數(shù)據(jù)的覆蓋和質(zhì)量至關(guān)重要。在模型的開發(fā)過程中,需要關(guān)注敏感數(shù)據(jù)的保護(hù)和安全合規(guī),并有效管理大量的數(shù)據(jù)和標(biāo)簽,不斷進(jìn)行測試和模型的迭代。”湯道生說。騰訊云也推出基于TI平臺的行業(yè)大模型精調(diào)解決方案,幫助模型開發(fā)者和算法工程師高效率、高品質(zhì)、低成本地處理數(shù)據(jù),創(chuàng)建和使用大模型。

在應(yīng)用方面,騰訊自身也應(yīng)用行業(yè)大模型,優(yōu)化自身企業(yè)級用戶,為用戶提高工作效率。例如,通過基于行業(yè)模型的智能小助手,騰訊會議可以協(xié)助用戶進(jìn)行日程安排、會管、會控等操作,并自動生成智能總結(jié)摘要,提升會議的效率。騰訊企點智能客服和AI代碼助手等應(yīng)用也通過行業(yè)模型的訓(xùn)練和精調(diào),提供更精準(zhǔn)、詳細(xì)的回答和高效的編程輔助。

最后是算力的支持。算力是模型持續(xù)運(yùn)轉(zhuǎn)的基礎(chǔ),高性能、高彈性和高穩(wěn)定的算力對于大模型的訓(xùn)練和使用至關(guān)重要。據(jù)介紹,騰訊云也提供新一代高性能計算集群,為客戶提供穩(wěn)定計算、高速網(wǎng)絡(luò)與專業(yè)運(yùn)維。同時,推出面向AI運(yùn)算的向量數(shù)據(jù)庫,支撐對圖像、音頻和文本等非結(jié)構(gòu)化數(shù)據(jù)的高效處理,數(shù)據(jù)接入AI的效率,也比傳統(tǒng)方案提升10倍。

湯道生表示:“大模型只是開端,AI與產(chǎn)業(yè)的融合,將綻放出更有創(chuàng)造力的未來。生態(tài)共建是AI發(fā)展的有效路徑,騰訊將堅持生態(tài)開放,為企業(yè)提供高質(zhì)量模型服務(wù),同時支持客戶多模型訓(xùn)練任務(wù),加速大模型在產(chǎn)業(yè)場景的創(chuàng)新探索。”

攜手10余個行業(yè)探索行業(yè)大模型

AI大模型驅(qū)動“智慧涌現(xiàn)”,為千行百業(yè)帶來了全新發(fā)展機(jī)遇。然而企業(yè)在接入、訓(xùn)練、部署和應(yīng)用大語言模型時面臨著訓(xùn)練成本高昂、數(shù)據(jù)安全、專業(yè)知識不足等現(xiàn)實挑戰(zhàn)。

當(dāng)前,通用大語言模型在應(yīng)對產(chǎn)業(yè)場景落地時存在一定的局限性。首先,通用大模型的訓(xùn)練數(shù)據(jù)主要來自公開數(shù)據(jù)集或網(wǎng)絡(luò)數(shù)據(jù),對于特定行業(yè)的專業(yè)領(lǐng)域知識了解有限。此外,通用大語言模型的訓(xùn)練需要大量計算資源和漫長的訓(xùn)練周期,這對企業(yè)來說可能昂貴且耗時。同時,安全和合規(guī)也是必要考量因素。因此,選擇與具備一站式行業(yè)大模型服務(wù)能力的云廠商合作,打造企業(yè)專屬的行業(yè)大模型至關(guān)重要,好用、易用的同時還能降低企業(yè)的成本和時間投入。

“依據(jù)企業(yè)實際需求,進(jìn)而‘量體裁衣’定制一個專屬大模型,或許是解決這些問題的最佳答案?!彬v訊云副總裁、騰訊云智能負(fù)責(zé)人、優(yōu)圖實驗室負(fù)責(zé)人吳運(yùn)聲表示,基于客戶實際痛點和需求,騰訊云全新公布MaaS全景圖,依托騰訊云TI平臺打造行業(yè)大模型精選商店,為企業(yè)客戶提供涵蓋模型預(yù)訓(xùn)練、模型精調(diào)、智能應(yīng)用開發(fā)等一站式行業(yè)大模型解決方案。在TI平臺內(nèi)置高質(zhì)量行業(yè)大模型基礎(chǔ)上,企業(yè)加入自己獨有的場景數(shù)據(jù),就可以快速生成自己的專屬模型;同時,也可根據(jù)自身業(yè)務(wù)場景需求,“量體裁衣、按需定制”不同參數(shù)、不同規(guī)格的模型服務(wù)。

擁有充沛算力是大模型訓(xùn)練的基礎(chǔ),據(jù)悉,今年4月,騰訊云發(fā)布了專為大模型訓(xùn)練設(shè)計的新一代HCC高性能計算集群,采用最新一代的騰訊云星星海自研服務(wù)器,具備業(yè)界最高的3.2Tbps互聯(lián)帶寬,算力性能提升了3倍。此外,騰訊云即將推出向量數(shù)據(jù)庫(Tencent Cloud VectorDB),源自騰訊集團(tuán)每日處理千億次檢索的向量引擎(OLAMA),單索引支持10億級向量規(guī)模,更適用于AI運(yùn)算、檢索,數(shù)據(jù)接入AI的效率也比傳統(tǒng)方案提升10倍。

吳運(yùn)生表示,在平臺層面,依托TI平臺,騰訊云將為客戶提供一站式模型服務(wù),涵蓋完善的模型工具、成熟的流程方法、全面的配套服務(wù)、領(lǐng)先的安全保障能力。

首先,騰訊云TI平臺內(nèi)置多個高質(zhì)量行業(yè)大模型,涵蓋金融、傳媒、文旅、政務(wù)、工業(yè)等多個行業(yè)場景,企業(yè)可以結(jié)合自身場景數(shù)據(jù)按需定制精調(diào),也可以根據(jù)自身需求開展多模型訓(xùn)練任務(wù),大幅降低大模型應(yīng)用門檻。

其次,TI平臺提供完善的大模型工具鏈,包括數(shù)據(jù)標(biāo)注、訓(xùn)練、評估、測試和部署等全套工具。同時,由TI-ACC升級的“太極Angel”提供更優(yōu)的訓(xùn)練和推理加速能力。在傳統(tǒng)CV、NLP算法模型的基礎(chǔ)上,新增了對大模型的訓(xùn)練和推理加速能力,通過異步調(diào)度優(yōu)化、顯存優(yōu)化、計算優(yōu)化等方式,相比行業(yè)常用方案性能提升30%+。

再次,TI平臺沉淀了從“業(yè)務(wù)分析、數(shù)據(jù)處理、大模型選擇”到“模型評測”的一體化完整方法論,同時支持MLOps的體系及工具,可以保障客戶需求的順利交付。

會上,中國科技新聞學(xué)會黨委副書記、副理事長兼秘書長陳銳還表示,加速AI大模型技術(shù)在產(chǎn)業(yè)領(lǐng)域的創(chuàng)新和實踐,推動國家人工智能技術(shù)發(fā)展,更需要全行業(yè)人員共同關(guān)注傳播科技服務(wù)創(chuàng)新。

峰會現(xiàn)場,騰訊云還聯(lián)合22家客戶正式啟動行業(yè)大模型共建合作,未來將依托騰訊云領(lǐng)先的行業(yè)大模型能力,構(gòu)建垂直行業(yè)模型及應(yīng)用。并攜手17家生態(tài)伙伴共同發(fā)起了“騰訊云行業(yè)大模型生態(tài)計劃”,致力于共同加速推進(jìn)大模型在產(chǎn)業(yè)領(lǐng)域的創(chuàng)新和落地。

在行業(yè)大模型標(biāo)準(zhǔn)體系方面,中國信通院云計算與大數(shù)據(jù)研究所副所長魏凱,騰訊法務(wù)副總裁江波,騰訊云副總裁、騰訊云智能負(fù)責(zé)人、優(yōu)圖實驗室負(fù)責(zé)人吳運(yùn)聲共同啟動了“行業(yè)大模型標(biāo)準(zhǔn)體系及能力架構(gòu)”研究,該研究涵蓋模型行業(yè)能力、模型工程化性能、模型算力網(wǎng)絡(luò)、模型安全可靠等方面,未來將為行業(yè)大模型的建設(shè)和應(yīng)用提供完備的能力和標(biāo)準(zhǔn)體系。

(文章來源:中國經(jīng)營網(wǎng))

關(guān)鍵詞: