4月22日,騰訊宣布旗下協(xié)作SaaS產(chǎn)品已全面接入騰訊混元大模型,包括企業(yè)微信、騰訊會(huì)議、騰訊文檔、騰訊樂(lè)享、騰訊電子簽、騰訊問(wèn)卷、騰訊云AI代碼助手等。
去年9月推出的騰訊混元,上線之初就強(qiáng)調(diào)“實(shí)用性”,從最初有超50個(gè)騰訊產(chǎn)品接入至今,騰訊內(nèi)部已有超400個(gè)業(yè)務(wù)在內(nèi)測(cè)騰訊混元。此外,騰訊混元也在零售、教育、金融和醫(yī)療等行業(yè)落地應(yīng)用。
如今,隨著騰訊旗下協(xié)作SaaS產(chǎn)品全部基于騰訊混元實(shí)現(xiàn)智能化升級(jí),也意味著騰訊混元的落地腳步進(jìn)一步提速。
不過(guò)從行業(yè)角度,大模型究竟如何落地并沒(méi)有明確方向,各個(gè)企業(yè)也都是摸著石頭過(guò)河。騰訊在產(chǎn)品優(yōu)化以及商業(yè)模式上的思考,或許能給行業(yè)提供借鑒。
模型升級(jí)為MoE架構(gòu)
此前,騰訊混元完成了架構(gòu)升級(jí),從原先的Dense架構(gòu)升級(jí)為MoE(Mixture of Experts)架構(gòu),并將模型擴(kuò)展至萬(wàn)億級(jí)參數(shù)規(guī)模。
騰訊混元模型應(yīng)用負(fù)責(zé)人張鋒向21世紀(jì)經(jīng)濟(jì)報(bào)道記者表示,相比原有架構(gòu),MoE架構(gòu)有兩個(gè)優(yōu)勢(shì):一是模型參數(shù)量更大,可吞吐更多tokens;二是實(shí)際激活量較小,可顯著降低訓(xùn)練推理成本。
據(jù)其介紹,去年10月,MoE架構(gòu)效果就已超過(guò)Dense架構(gòu)。同年11月,騰訊混元開(kāi)始把MoE上線產(chǎn)品內(nèi)測(cè)。目前,騰訊混元已經(jīng)正式完成MoE架構(gòu)升級(jí)。
有技術(shù)人士向記者表示,MoE架構(gòu)是一種神經(jīng)網(wǎng)絡(luò)架構(gòu),它是通過(guò)多個(gè)專家(Experts)模型來(lái)處理輸入數(shù)據(jù)的不同任務(wù)。
簡(jiǎn)單來(lái)說(shuō),MoE架構(gòu)的核心邏輯就是將輸入數(shù)據(jù)分配給最適合處理該數(shù)據(jù)的專家。而且這種架構(gòu)允許模型通過(guò)增加專家的數(shù)量來(lái)擴(kuò)展,從而提高了模型處理特定任務(wù)的能力。
中信證券在一份研報(bào)中指出,隨著大模型體量增長(zhǎng),多模態(tài)能力和推理效率成為業(yè)界競(jìng)爭(zhēng)新焦點(diǎn)。Dense架構(gòu)在處理圖像、視頻等非結(jié)構(gòu)化數(shù)據(jù)時(shí)效率較低,預(yù)計(jì)未來(lái)1~2年MoE等新型架構(gòu)將成為主流。
在架構(gòu)完成升級(jí)后,騰訊混元的能力也確實(shí)得到了提升。在今年3月份發(fā)布的財(cái)報(bào)中,騰訊提到,“在部署了MOE架構(gòu)等前沿技術(shù)后,我們的基礎(chǔ)模型混元在多輪對(duì)話、邏輯推理和數(shù)字推理領(lǐng)域表現(xiàn)出色,這些對(duì)大型語(yǔ)言模型來(lái)說(shuō)一直是個(gè)挑戰(zhàn)。”
而這些獲得提升的模型能力,也被直接應(yīng)用到了騰訊產(chǎn)品中。張鋒表示,騰訊業(yè)務(wù)使用混元模型,主要有兩種方式,一個(gè)是直接API調(diào)用,另外就是基于混元一站式平臺(tái)進(jìn)行精調(diào)。
目前,騰訊混元對(duì)外開(kāi)放了不同尺寸的模型,以滿足不同業(yè)務(wù)的需要。騰訊樂(lè)享總經(jīng)理周芝芝表示,樂(lè)享在接入混元時(shí),只有智能出題功能是基于混元進(jìn)行精調(diào),剩下的很多功能,比如智能創(chuàng)作、智能提煉課程知識(shí)點(diǎn)、智能撰寫活動(dòng)方案等,都是用混元公開(kāi)的API能力。
商業(yè)模式有待摸索
除了樂(lè)享,騰訊的其他協(xié)作SaaS產(chǎn)品也都推出了一些新功能。
比如騰訊電子簽提升了合同起草、審閱效率,并可以智能篩查風(fēng)險(xiǎn);騰訊AI代碼助手向開(kāi)發(fā)者提供了代碼補(bǔ)全、代碼診斷、單元測(cè)試等功能;騰訊會(huì)議推出AI小助手、智能錄制、實(shí)時(shí)字幕翻譯等功能;騰訊文檔則讓用戶可以通過(guò)一句話指令即可快速處理各種文檔。
在與記者交流時(shí),這些產(chǎn)品的負(fù)責(zé)人都表示,他們?cè)陂_(kāi)發(fā)相關(guān)功能時(shí),并沒(méi)有硬靠AI,而是過(guò)去業(yè)務(wù)里本身存在的大量痛點(diǎn),用原來(lái)的技術(shù)解決不了,現(xiàn)在用大模型技術(shù)進(jìn)行解決。
雖然業(yè)界都期望大模型原生產(chǎn)品的出現(xiàn),但現(xiàn)階段,改造原有產(chǎn)品是大模型最可行的落地路徑。因?yàn)樵挟a(chǎn)品的需求是明確的,通過(guò)解決這些需求,能夠加速大模型技術(shù)的普及,進(jìn)而推動(dòng)大模型向更高階的智能進(jìn)化。
而在商業(yè)化方面,騰訊也沒(méi)有急于將大模型能力變現(xiàn)。周芝芝向21世紀(jì)經(jīng)濟(jì)報(bào)道記者表示,樂(lè)享的AI助手主要是依附在原有版本之上。“AI只是樂(lè)享能力的升級(jí),所以AI助手的定價(jià)是基于原有版本做增值,以增購(gòu)項(xiàng)的方式來(lái)設(shè)計(jì)。”
比如現(xiàn)在樂(lè)享的收費(fèi)模式是license方式,即按照每人每年多少錢來(lái)向客戶收取費(fèi)用。針對(duì)AI功能,如果一些功能是全員使用的,那樂(lè)享就會(huì)按照一定價(jià)格在原有的費(fèi)用基礎(chǔ)上向客戶收取;如果一個(gè)功能不是全員使用,那這部分的收費(fèi)模式將是一個(gè)單獨(dú)模塊。
“但整體來(lái)說(shuō),在樂(lè)享AI的產(chǎn)品建設(shè)進(jìn)程中,用戶體驗(yàn)優(yōu)先級(jí)大于收費(fèi),當(dāng)前我們還是希望用戶先用起來(lái)。”周芝芝說(shuō)。
同樣地,騰訊會(huì)議的AI小助手等功能也是開(kāi)放給付費(fèi)版本的用戶。騰訊會(huì)議云會(huì)議產(chǎn)品負(fù)責(zé)人朱瑩表示,“會(huì)議是一個(gè)多人協(xié)作的場(chǎng)景,為了讓用戶降低使用AI的門檻,騰訊會(huì)議在商業(yè)模式上也做了些設(shè)計(jì)。當(dāng)一場(chǎng)會(huì)議的主持人是付費(fèi)版本時(shí),所有的參會(huì)成員在主持人允許的情況下,都可以嘗試使用AI小助手”。
與這些產(chǎn)品不同,騰訊云AI代碼助手的商業(yè)模式則更清晰。騰訊云開(kāi)發(fā)者AI產(chǎn)品負(fù)責(zé)人丁寧向記者表示,AI代碼助手是一個(gè)插件形式的產(chǎn)品,所以它可以單獨(dú)售賣。而且在市場(chǎng)上,像GitHub Copilot已經(jīng)有幾百萬(wàn)的付費(fèi)用戶,是按license的方式收費(fèi),騰訊AI代碼助手也會(huì)采用類似的定價(jià)方式。
眼下,大模型正處于能力提升與商業(yè)落地并行的階段。在模型能力上,繼文生文之后,文生圖片以及文生視頻等多模態(tài)能力將是大模型下階段發(fā)力的重點(diǎn),而在商業(yè)落地方面,能否抓住用戶真正的痛點(diǎn),不讓AI功能成為擺設(shè),將是決定大模型應(yīng)用成敗的關(guān)鍵。