騰訊云發(fā)布行業(yè)大模型商店 提供MaaS一站式服務
2023-06-20 06:51:26    中國經(jīng)營網(wǎng)

6月19日,騰訊云在國家科技傳播中心召開行業(yè)大模型及智能應用技術峰會,首次公布騰訊云行業(yè)大模型研發(fā)進展。會上騰訊發(fā)布了依托騰訊云TI平臺打造行業(yè)大模型精選商店,可以為客戶提供MaaS(Model-as-a-Service)一站式服務,助力客戶構建專屬大模型及智能應用。


(資料圖片僅供參考)

《中國經(jīng)營報》記者注意到,會上,騰訊云還聯(lián)合22家客戶正式啟動行業(yè)大模型共建合作,并攜手17家生態(tài)伙伴共同發(fā)起了“騰訊云行業(yè)大模型生態(tài)計劃”,致力于共同推進大模型在產業(yè)領域的創(chuàng)新和落地?;隍v訊HCC高性能計算集群和大模型能力,騰訊云已經(jīng)為傳媒、文旅、政務、金融等10余個行業(yè)提供了超過50個大模型行業(yè)解決方案。

騰訊集團高級執(zhí)行副總裁、云與智慧產業(yè)事業(yè)群CEO湯道生表示,生態(tài)共建是AI發(fā)展的有效路徑,騰訊將堅持生態(tài)開放,為企業(yè)提供高質量模型服務,同時支持客戶多模型訓練任務,加速大模型在產業(yè)場景的創(chuàng)新探索。

產業(yè)場景是大模型最佳練兵場

會上,湯道生分別從模型、數(shù)據(jù)、應用與算力四個角度分享了對大語言模型在產業(yè)落地的思考。

就模型而言,湯道生認為,比起通用大模型,企業(yè)更需要針對具體行業(yè)的大模型,并結合企業(yè)自身的數(shù)據(jù)進行訓練和精調,以打造出更實用的智能服務。企業(yè)對提供的專業(yè)服務要求高且容錯性低,因此使用的大模型必須具備可控、可追溯和可修正的特點,并經(jīng)過反復充分的測試。

其次是數(shù)據(jù)的重要性。“數(shù)據(jù)是大模型的原材料,針對具體場景,數(shù)據(jù)的覆蓋和質量至關重要。在模型的開發(fā)過程中,需要關注敏感數(shù)據(jù)的保護和安全合規(guī),并有效管理大量的數(shù)據(jù)和標簽,不斷進行測試和模型的迭代?!睖郎f。騰訊云也推出基于TI平臺的行業(yè)大模型精調解決方案,幫助模型開發(fā)者和算法工程師高效率、高品質、低成本地處理數(shù)據(jù),創(chuàng)建和使用大模型。

在應用方面,騰訊自身也應用行業(yè)大模型,優(yōu)化自身企業(yè)級用戶,為用戶提高工作效率。例如,通過基于行業(yè)模型的智能小助手,騰訊會議可以協(xié)助用戶進行日程安排、會管、會控等操作,并自動生成智能總結摘要,提升會議的效率。騰訊企點智能客服和AI代碼助手等應用也通過行業(yè)模型的訓練和精調,提供更精準、詳細的回答和高效的編程輔助。

最后是算力的支持。算力是模型持續(xù)運轉的基礎,高性能、高彈性和高穩(wěn)定的算力對于大模型的訓練和使用至關重要。據(jù)介紹,騰訊云也提供新一代高性能計算集群,為客戶提供穩(wěn)定計算、高速網(wǎng)絡與專業(yè)運維。同時,推出面向AI運算的向量數(shù)據(jù)庫,支撐對圖像、音頻和文本等非結構化數(shù)據(jù)的高效處理,數(shù)據(jù)接入AI的效率,也比傳統(tǒng)方案提升10倍。

湯道生表示:“大模型只是開端,AI與產業(yè)的融合,將綻放出更有創(chuàng)造力的未來。生態(tài)共建是AI發(fā)展的有效路徑,騰訊將堅持生態(tài)開放,為企業(yè)提供高質量模型服務,同時支持客戶多模型訓練任務,加速大模型在產業(yè)場景的創(chuàng)新探索?!?/p>

攜手10余個行業(yè)探索行業(yè)大模型

AI大模型驅動“智慧涌現(xiàn)”,為千行百業(yè)帶來了全新發(fā)展機遇。然而企業(yè)在接入、訓練、部署和應用大語言模型時面臨著訓練成本高昂、數(shù)據(jù)安全、專業(yè)知識不足等現(xiàn)實挑戰(zhàn)。

當前,通用大語言模型在應對產業(yè)場景落地時存在一定的局限性。首先,通用大模型的訓練數(shù)據(jù)主要來自公開數(shù)據(jù)集或網(wǎng)絡數(shù)據(jù),對于特定行業(yè)的專業(yè)領域知識了解有限。此外,通用大語言模型的訓練需要大量計算資源和漫長的訓練周期,這對企業(yè)來說可能昂貴且耗時。同時,安全和合規(guī)也是必要考量因素。因此,選擇與具備一站式行業(yè)大模型服務能力的云廠商合作,打造企業(yè)專屬的行業(yè)大模型至關重要,好用、易用的同時還能降低企業(yè)的成本和時間投入。

“依據(jù)企業(yè)實際需求,進而‘量體裁衣’定制一個專屬大模型,或許是解決這些問題的最佳答案。”騰訊云副總裁、騰訊云智能負責人、優(yōu)圖實驗室負責人吳運聲表示,基于客戶實際痛點和需求,騰訊云全新公布MaaS全景圖,依托騰訊云TI平臺打造行業(yè)大模型精選商店,為企業(yè)客戶提供涵蓋模型預訓練、模型精調、智能應用開發(fā)等一站式行業(yè)大模型解決方案。在TI平臺內置高質量行業(yè)大模型基礎上,企業(yè)加入自己獨有的場景數(shù)據(jù),就可以快速生成自己的專屬模型;同時,也可根據(jù)自身業(yè)務場景需求,“量體裁衣、按需定制”不同參數(shù)、不同規(guī)格的模型服務。

擁有充沛算力是大模型訓練的基礎,據(jù)悉,今年4月,騰訊云發(fā)布了專為大模型訓練設計的新一代HCC高性能計算集群,采用最新一代的騰訊云星星海自研服務器,具備業(yè)界最高的3.2Tbps互聯(lián)帶寬,算力性能提升了3倍。此外,騰訊云即將推出向量數(shù)據(jù)庫(Tencent Cloud VectorDB),源自騰訊集團每日處理千億次檢索的向量引擎(OLAMA),單索引支持10億級向量規(guī)模,更適用于AI運算、檢索,數(shù)據(jù)接入AI的效率也比傳統(tǒng)方案提升10倍。

吳運生表示,在平臺層面,依托TI平臺,騰訊云將為客戶提供一站式模型服務,涵蓋完善的模型工具、成熟的流程方法、全面的配套服務、領先的安全保障能力。

首先,騰訊云TI平臺內置多個高質量行業(yè)大模型,涵蓋金融、傳媒、文旅、政務、工業(yè)等多個行業(yè)場景,企業(yè)可以結合自身場景數(shù)據(jù)按需定制精調,也可以根據(jù)自身需求開展多模型訓練任務,大幅降低大模型應用門檻。

其次,TI平臺提供完善的大模型工具鏈,包括數(shù)據(jù)標注、訓練、評估、測試和部署等全套工具。同時,由TI-ACC升級的“太極Angel”提供更優(yōu)的訓練和推理加速能力。在傳統(tǒng)CV、NLP算法模型的基礎上,新增了對大模型的訓練和推理加速能力,通過異步調度優(yōu)化、顯存優(yōu)化、計算優(yōu)化等方式,相比行業(yè)常用方案性能提升30%+。

再次,TI平臺沉淀了從“業(yè)務分析、數(shù)據(jù)處理、大模型選擇”到“模型評測”的一體化完整方法論,同時支持MLOps的體系及工具,可以保障客戶需求的順利交付。

會上,中國科技新聞學會黨委副書記、副理事長兼秘書長陳銳還表示,加速AI大模型技術在產業(yè)領域的創(chuàng)新和實踐,推動國家人工智能技術發(fā)展,更需要全行業(yè)人員共同關注傳播科技服務創(chuàng)新。

峰會現(xiàn)場,騰訊云還聯(lián)合22家客戶正式啟動行業(yè)大模型共建合作,未來將依托騰訊云領先的行業(yè)大模型能力,構建垂直行業(yè)模型及應用。并攜手17家生態(tài)伙伴共同發(fā)起了“騰訊云行業(yè)大模型生態(tài)計劃”,致力于共同加速推進大模型在產業(yè)領域的創(chuàng)新和落地。

在行業(yè)大模型標準體系方面,中國信通院云計算與大數(shù)據(jù)研究所副所長魏凱,騰訊法務副總裁江波,騰訊云副總裁、騰訊云智能負責人、優(yōu)圖實驗室負責人吳運聲共同啟動了“行業(yè)大模型標準體系及能力架構”研究,該研究涵蓋模型行業(yè)能力、模型工程化性能、模型算力網(wǎng)絡、模型安全可靠等方面,未來將為行業(yè)大模型的建設和應用提供完備的能力和標準體系。

(文章來源:中國經(jīng)營網(wǎng))

關鍵詞: