9月5日，在騰訊全球數字生態(tài)大會(huì )上，騰訊集團副總裁、云與智慧產(chǎn)業(yè)事業(yè)群COO兼騰訊云總裁邱躍鵬在演講中表示，未來(lái)的云是面向智能化、融合創(chuàng )新、國際化的，騰訊云將圍繞這三個(gè)方向持續探索和創(chuàng )新，打磨好產(chǎn)品能力，助力企業(yè)取得新增長(cháng)。
在智能化方面，邱躍鵬表示，大模型和云的關(guān)系變得越來(lái)越緊密，大模型能力通過(guò)云對外輸出，云也借助大模型提升產(chǎn)品效能和體驗。
目前，騰訊混元最新一代模型騰訊混元Turbo已經(jīng)在騰訊云上線(xiàn)，輸入和輸出價(jià)格只有前代模型的一半。騰訊混元Turbo采用萬(wàn)億級層間異構MoE架構，擁有更多的專(zhuān)家數和更少的激活參數量，推理效率提升100%，推理部署成本下降50%，解碼速度提升20%。根據SuperCLUE評測，騰訊混元Turbo總分位列國內第一，中文場(chǎng)景效果對標GPT-4o。
騰訊云也正式推出了“騰訊云智算”品牌。作為集算存網(wǎng)一體的高性能智算底座，能夠為AI創(chuàng )新輸出性能領(lǐng)先、多芯兼容、靈活部署的智算產(chǎn)品能力。目前，騰訊云智算的集群千卡單日故障數已經(jīng)刷新到0.16，是行業(yè)水平的1/3；1分鐘就能完成萬(wàn)卡Checkpoint寫(xiě)入，數據讀寫(xiě)效率是業(yè)界10倍；千卡集群的通信時(shí)間縮短到6%，是業(yè)界一半。騰訊云智算集群從機器上架到開(kāi)始訓練可以做到只需1天，相比業(yè)界以月為單位大為縮短。
同時(shí)，為了幫助企業(yè)構建大模型應用，騰訊云基于客戶(hù)不同架構和場(chǎng)景，能夠提供兼容ES開(kāi)源生態(tài)的智能檢索方案和AI原生向量數據庫方案。另外騰訊云云原生數據庫TDSQL、騰訊云大數據BI以及騰訊云AI代碼助手、騰訊會(huì )議、騰訊樂(lè )享、騰訊企點(diǎn)客服等產(chǎn)品也結合大模型實(shí)現了能力升級，能夠為用戶(hù)提供更加智能化的產(chǎn)品體驗。
在融合創(chuàng )新方面，邱躍鵬認為，隨著(zhù)融合創(chuàng )新進(jìn)程加速推進(jìn)，客戶(hù)除了關(guān)注如何把原有業(yè)務(wù)系統支撐起來(lái)，同樣看重穩定性、安全性和兼容性。目前騰訊云打造了包括數據庫TDSQL、專(zhuān)有云平臺TCE、大數據平臺TBDS、操作系統TencentOS以及人工智能開(kāi)發(fā)平臺TI在內的融合創(chuàng )新軟件體系。
在某國有大行核心系統場(chǎng)景下，TDSQL支撐的日交易峰值達到了19.6億筆；TCE支持了國內最大規模的金融云、政務(wù)云融合創(chuàng )新實(shí)踐，總規模超過(guò)10萬(wàn)節點(diǎn)；在保險行業(yè)打造了首個(gè)國產(chǎn)數據湖倉標桿案例，5分鐘就能產(chǎn)出數據；TencentOS自研了完全兼容CentOS的T-Kernel4內核，能夠支持在線(xiàn)原地替換，部署量超過(guò)1000萬(wàn)臺。
在國際化方面，邱躍鵬表示，國際化是企業(yè)增長(cháng)的新方向，騰訊云正在發(fā)揮產(chǎn)品技術(shù)能力優(yōu)勢，并通過(guò)全球一致的產(chǎn)品體驗、優(yōu)質(zhì)的服務(wù)能力以及在安全合規方面的經(jīng)驗，助力客戶(hù)在全球范圍內把握機遇、實(shí)現增長(cháng)。
以星星海SA5云服務(wù)器為例，結合騰訊云軟硬一體的協(xié)同優(yōu)化，SA5性能大幅提升，故障率降低了60%，為客戶(hù)提供端到端的業(yè)務(wù)穩定表現，在大量客戶(hù)的國際化場(chǎng)景中得到應用，成為了十年來(lái)增長(cháng)最快的云服務(wù)器實(shí)例。
隨著(zhù)游戲、直播電商等商業(yè)模式復制到海外，騰訊云也助力企業(yè)提供更好的應用體驗，帶來(lái)直接的增長(cháng)。在音視頻領(lǐng)域，騰訊云首創(chuàng )并在全球大規模應用超低延時(shí)直播，把直播的平均延時(shí)從3秒降到0.5秒內，大幅提升用戶(hù)活躍度和商品成交率，實(shí)現了每日千萬(wàn)元級別的交易量提升。騰訊云邊緣加速平臺EdgeOne提供最接近用戶(hù)的邊緣節點(diǎn)，讓游戲服的訪(fǎng)問(wèn)提速超過(guò)30%，提升了游戲的活躍度。
此外，騰訊會(huì )議也在企業(yè)國際化業(yè)務(wù)中扮演著(zhù)重要角色。通過(guò)類(lèi)“2G”的弱網(wǎng)環(huán)境下流暢開(kāi)會(huì )的能力、多達17種語(yǔ)言的實(shí)時(shí)翻譯支持、多種入會(huì )方式升級，騰訊會(huì )議海外會(huì )議數已經(jīng)較年初增長(cháng)了近50%。
以下是演講原文：
大家好，圍繞著(zhù)智能化、融合創(chuàng )新和國際化三個(gè)方向，我接下來(lái)分享一下騰訊云的產(chǎn)品升級和實(shí)踐。
大模型推出之后，我們看到了科技行業(yè)的變化，比如大模型在云上訓練，云又成為大模型對外輸出能力的重要出口，云自身的產(chǎn)品怎么通過(guò)大模型的智能化能力提升自己，這些都是我們作為云從業(yè)者要回答的必回題。
去年的數字生態(tài)大會(huì )上，騰訊混元大模型第一次正式對外亮相。經(jīng)過(guò)一年的不斷迭代升級，我們今天正式推出了騰訊混元Turbo，更快更強的下一代模型。它實(shí)現了MoE架構的創(chuàng )新，通過(guò)在模型的不同層采用不同的專(zhuān)家個(gè)數和激活參數量，推理效率提升了100%，成本降低了50%，速度也提升了20%。目前，混元Turbo已經(jīng)在騰訊云正式上線(xiàn)，輸入和輸出價(jià)格只有前代模型的一半，歡迎大家體驗。
雖然成本更低，但從性能看，混元Turbo卻是實(shí)力最強、效果最好的新一代模型。根據國內大模型評測機構SuperCLUE前天發(fā)布的最新報告，騰訊混元Turbo總分位列國內第一，在11個(gè)能力項測評中，8項核心任務(wù)排名國內第一，中文場(chǎng)景效果對標GPT-4o。技術(shù)圈常常通過(guò)公開(kāi)評測集“跑分”來(lái)看大模型的能力。benchmark，也叫基準測試。主流大模型，比如GPT、llama、claude等，都會(huì )公開(kāi)自己在特定評測集的成績(jì)，各家都可以直觀(guān)地對比模型實(shí)力。評測數據顯示，目前騰訊混元turbo 在多個(gè)評測集的測試成績(jì)已經(jīng)居于國內第一梯隊，數學(xué)和代碼能力提升明顯，已經(jīng)可以對標國際上最好的模型。
為什么在算力有限的情況下，騰訊可以訓練出混元Turbo這樣性能領(lǐng)先的萬(wàn)億參數大模型，一方面是算法、框架、工程方面的持續精進(jìn)，另一方面，騰訊在infra方面的高穩定性也是提升訓練效率的重要一環(huán)。
8月，Meta發(fā)布最新Llama模型的時(shí)候，也分享了訓練集群的運轉情況，拆解了集群運轉過(guò)程中遇到的各式各樣問(wèn)題。集群的穩定、卡的互聯(lián)、數據讀寫(xiě)效率、發(fā)生故障后的續訓，每個(gè)環(huán)節都會(huì )給訓練效率帶來(lái)影響，也直接關(guān)系到整體訓練成本，這就好比你買(mǎi)了一臺高性能車(chē)，但是路很差，也不能跑的快，整個(gè)AI infra是一個(gè)系統性工程。
過(guò)去幾年，騰訊云智算為客戶(hù)提供了穩定高效的AI infra服務(wù)：
比如，大部分公司搭建集群，從上架到開(kāi)始訓練，是以月為單位，我們把這個(gè)流程優(yōu)化到1天。去年集群搭建后，第二天就開(kāi)始做騰訊混元的訓練任務(wù)。在業(yè)界非常關(guān)注的性能上，騰訊云智算的集群，千卡單日故障數只有0.16，是meta的1/3；在數據讀寫(xiě)效率方面，1分鐘就能完成萬(wàn)卡checkpoint寫(xiě)入，是業(yè)界的10倍；千卡集群的通信時(shí)間占比，也降低到6%，是業(yè)界一半。
在今天，我們也把計算的能力，通過(guò)公有云、專(zhuān)有云、分布式云的形態(tài)，輸出給客戶(hù)，希望讓每一個(gè)想去訓練或者是精調自己模型的公司，都能擁有一個(gè)真正的高可用的計算集群。
很多公司更關(guān)注的是AI的應用如何落地，尤其是原來(lái)積累了大量數據，怎么真正把模型的能力與應用場(chǎng)景結合起來(lái)？很多技術(shù)團隊都選擇去做RAG，提升落地的效果。其實(shí)做RAG也有不同的方法。今天騰訊云提供兩種模式：
如果企業(yè)有elasticsearch的使用基礎，熟悉elastic生態(tài)，通過(guò)騰訊云ES，可以用最少代碼的便捷方式，幾乎不用重寫(xiě)代碼或者寫(xiě)少量代碼，就能構建一個(gè)AI問(wèn)答應用；
如果企業(yè)要用到多模態(tài)的數據源，我們也提供了騰訊云的向量數據庫，可以用多模態(tài)方式去檢索，向量數據庫也提供了2倍于業(yè)界的檢索能力；
比如，微信讀書(shū)前不久上線(xiàn)的AI問(wèn)書(shū)，就是基于騰訊云ES實(shí)現了RAG的高效開(kāi)發(fā)和運維，為億級用戶(hù)提供毫秒級別的高效處理能力；學(xué)而思的AI語(yǔ)音助手，借助向量數據庫的極致高性能，讓語(yǔ)義檢索的準確率高達95%。
除了訓練模型、調用模型，作為云廠(chǎng)商我們也在思考怎么用大模型的能力，去提升原有的云產(chǎn)品能力，為企業(yè)創(chuàng )造價(jià)值。
我想講一個(gè)數據庫的案例，騰訊云數據庫TDSQL結合騰訊混元，做了3個(gè)方向的事情：
智能分析用戶(hù)歷史1-7天的負載情況，預估未來(lái)分鐘級的流量變化，提早5秒擴容，實(shí)現秒級彈性；同時(shí)，用最經(jīng)濟的模式擴容，我們通過(guò)識別客戶(hù)場(chǎng)景，將CPU和內存完全解耦、獨立彈性，精準調整彈性時(shí)間和步長(cháng)；此外，影響數據庫存運行效率最關(guān)鍵的因素是SQL寫(xiě)得好不好，我們通過(guò)AI分析所有SQL執行語(yǔ)句的情況，優(yōu)化SQL執行效率，降低每次數據庫操作所使用的資源。
我們也助力國內知名的體育社區虎撲，依托TDSQL數據庫，扛住了百萬(wàn)級QPS的流量洪峰。做到0抖動(dòng)的同時(shí)，也降本75%。這樣的技術(shù)應用為客戶(hù)創(chuàng )造了價(jià)值，也升級了我們的產(chǎn)品。
數據分析的場(chǎng)景，也在深度應用大模型。大家都關(guān)注，大模型在落地過(guò)程中，能否讓每個(gè)人都通過(guò)自然語(yǔ)言交互的方式，拿到專(zhuān)業(yè)的數據分析結果。但這涉及兩方面問(wèn)題：一是要給使用者做好Prompt；二是要讓數據治理變得更符合自然語(yǔ)言交互習慣。通過(guò)不斷優(yōu)化，我們打造了ChatBI，讓更多員工真正用數據武裝自己，提升自己應用數據的能力，也降低了BI開(kāi)發(fā)的工作量。
大模型的最快受益者其實(shí)是程序員自己。在騰訊內部，現在50%的研發(fā)同學(xué)都在用騰訊云AI代碼助手。在模型訓練階段，我們針對大約50種不同編程語(yǔ)言做了獨立訓練；制定了31種補全策略，精準理解用戶(hù)意圖，讓采納率提升10%以上；通過(guò)抓取核心上下文，把代碼生成率提升了5%左右。
生成代碼很簡(jiǎn)單，但想要讓代碼實(shí)現工程化、提高可用性，要求非常高。我們基于混元的MoE架構，通過(guò)編碼、測試、代碼評審/安全等多智能體協(xié)作，進(jìn)一步優(yōu)化代碼質(zhì)量。在與一家消費電子企業(yè)的合作中，我們將代碼生成率從最初學(xué)習代碼庫之后的15%提升到37%，代碼采納率也提高到了28%，讓研發(fā)效率大幅提升。
騰訊會(huì )議是最早一批應用大模型的產(chǎn)品。經(jīng)過(guò)一年多的不斷打磨，現在每個(gè)月有1500萬(wàn)用戶(hù)在使用我們的智能錄制、AI小助手、多語(yǔ)言翻譯等AI能力。
要讓大模型準確理解會(huì )議內容，首先需要清晰捕捉每個(gè)人的發(fā)言。我們自研的天籟智能語(yǔ)音語(yǔ)義技術(shù)，針對會(huì )議中的口語(yǔ)化表達和不同口音進(jìn)行了重點(diǎn)訓練，顯著(zhù)提高識別準確率。
騰訊會(huì )議不止會(huì )開(kāi)會(huì )，今天智能化的能力在多個(gè)場(chǎng)景的應用做得非常好。比如在教育場(chǎng)景，老師通過(guò)騰訊會(huì )議上課，上完課就可以自動(dòng)提煉這節課的教學(xué)大綱，也可以把知識點(diǎn)做切片，學(xué)生也可以快速得到復習材料，可以通過(guò)AI助手去問(wèn)教學(xué)中的知識點(diǎn)，學(xué)習的交互與效率變得可沉淀和高效。今天，我們在華東理工大學(xué)已經(jīng)落地了超過(guò)300間這樣的會(huì )議室，未來(lái)在金融、招聘等領(lǐng)域，AI的能力結合在線(xiàn)溝通，一定帶來(lái)更多讓大家提升效率的機會(huì )。
我們通過(guò)騰訊樂(lè )享也在打造學(xué)習型的組織。推動(dòng)大家學(xué)習的同時(shí)，怎么用好工具也變得非常重要。員工越多的企業(yè)，新人培養、產(chǎn)品更新等場(chǎng)景就面臨很高的培訓成本，怎么讓員工掌握，對于大企業(yè)都面臨這樣的問(wèn)題。通過(guò)騰訊樂(lè )享和騰訊混元的結合，我們提高了培訓效率，通過(guò)學(xué)習企業(yè)知識庫，30分鐘就可以搭建出智能陪練，可以提供24小時(shí)在線(xiàn)陪練，員工可以隨時(shí)隨地學(xué)習。我們把這樣的場(chǎng)景與語(yǔ)言交互結合起來(lái)，可以做很多情景式的培訓。同時(shí)，提供培訓后的評估。
在保險行業(yè)，如何快速讓保代達到非常好的銷(xiāo)售水平？我們可以快速生成一篇報告，告訴學(xué)員在哪些方面需要提升、需要強化訓練。這樣的閉環(huán)，讓學(xué)習型組織的學(xué)習效率取得非常大的提升。我們相信只要企業(yè)有足夠多的員工，這個(gè)工具幫助組織提效非常重要。
除了對內的學(xué)習培訓，對外的客服也是AI落地的好場(chǎng)景。比如通過(guò)騰訊企點(diǎn)客服，我們引入大語(yǔ)言模型，讓智能化啟動(dòng)的時(shí)間從過(guò)去的7天、15天，到今天的分鐘級構建。當然，這還要依賴(lài)于大家底層知識庫的積累，如果積累得比較好，可以做到88%的用戶(hù)問(wèn)題都能被精準識別和回答。以我們服務(wù)的東北某省人社局為例，客戶(hù)從企點(diǎn)傳統機器人升級到大模型機器人，轉人工率一個(gè)月內從27%降至14.5%，人工客服每周接待的會(huì )話(huà)量從460降至200，大幅降低了人工客服工作量。
我們可以看，這家企業(yè)的售后服務(wù)機器人已經(jīng)可以做到多模態(tài)的輸入，不僅能識別照片里的打印機型號、還能識別顯示屏上的報錯代號，并且快速準確回復用戶(hù)的問(wèn)題。
面向融合創(chuàng )新，我們提供5T的產(chǎn)品矩陣，從專(zhuān)有云TCE、數據庫TDSQL、大數據平臺TBDS、人工智能開(kāi)發(fā)平臺TI-ONE，到下層的操作系統。今天TCE支持了最大的兩朵融合創(chuàng )新云，最大支撐節點(diǎn)數超過(guò)10萬(wàn)個(gè)。TDSQL數據庫對Oracle的兼容性也非常高，需要改的代碼大幅減少。在某國有大行核心系統場(chǎng)景下，TDSQL支撐的日交易峰值達到了19.6億筆，金融級最挑戰的場(chǎng)景，已經(jīng)實(shí)現了國產(chǎn)替代。大家如果選擇TDSQL，可以放心用。國產(chǎn)專(zhuān)有云平臺TCE，，通過(guò)不斷的優(yōu)化，在保險行業(yè)打造了首個(gè)國產(chǎn)數據湖倉標桿案例，5分鐘就能產(chǎn)出數據。TI-ONE的訓練平臺也可以兼容所有國產(chǎn)芯片，讓客戶(hù)降低使用多芯片構筑算力的門(mén)檻。
面向國際化，對騰訊云而言，我們也做了改變。今天中國絕大部分的企業(yè)都在看國際化的機會(huì )，怎么出海，業(yè)務(wù)怎么全球發(fā)展。我們的產(chǎn)品從第一天就要思考產(chǎn)品怎么變成面向國際化。
去年騰訊云推出了自研的星星海SA5云服務(wù)器，單機最大核心數達到了512核。搭載自研的銀杉智能網(wǎng)卡，SA5云服務(wù)器提供了高達200Gbps的網(wǎng)絡(luò )帶寬。通過(guò)軟硬協(xié)同優(yōu)化，經(jīng)過(guò)騰訊內部海量業(yè)務(wù)規模驗證，真正讓客戶(hù)在使用上，可以獲得更高的密度算力，故障也更少。這款產(chǎn)品我們也直接全球部署，成為了歷史上推出的所有CVM產(chǎn)品里最受歡迎的產(chǎn)品，也是增長(cháng)最快的產(chǎn)品。
回到增長(cháng)的話(huà)題。中國商業(yè)模式的創(chuàng )新在領(lǐng)先全球，游戲、電商、制造業(yè)等能力都非常強，我們通過(guò)什么樣的產(chǎn)品能力可以幫助大家在全球化有更好的商業(yè)迭代？比如通過(guò)超低延時(shí)的直播，延時(shí)從3秒降低到了0.5秒，通過(guò)這樣的技術(shù)，讓全球知名的電商平臺，讓主播和觀(guān)眾實(shí)時(shí)互動(dòng)的效果徹底改變，客戶(hù)活躍度、商品成交率都有大的提升，每日支撐超過(guò)千萬(wàn)級別交易量，真正用技術(shù)提升了商業(yè)產(chǎn)出。
EdgeOne是我們孵化的下一代CDN產(chǎn)品，滿(mǎn)足了國際化企業(yè)對加速和安全防護一站式的需求，目前服務(wù)了眾多游戲、電商、金融等客戶(hù)。比如在游戲場(chǎng)景下，我們將訪(fǎng)問(wèn)速度提升了30%，要知道訪(fǎng)問(wèn)的速度越快，玩家的體驗就會(huì )更流暢，留存、活躍也會(huì )更高。
對游戲來(lái)講，下載付的錢(qián)在成本里非常低，真正的是廣告投放、獲客、轉化，這帶來(lái)的商業(yè)價(jià)值非常大，這也改變了我們跟很多客戶(hù)的交流，以前大家覺(jué)得要便宜點(diǎn)、慢一點(diǎn)沒(méi)有關(guān)系，但是真的商業(yè)閉環(huán)，大家全面思考的時(shí)候，更快的下載速度，多一點(diǎn)成本的付出能夠為商業(yè)增長(cháng)帶來(lái)價(jià)值。
今天大家的企業(yè)出海是業(yè)務(wù)出海，更是組織的出海。在騰訊會(huì )議上，跨國會(huì )議的數量相較年初增長(cháng)了超過(guò)50%。
為了服務(wù)好這些跨國協(xié)作的需求，騰訊會(huì )議也升級了產(chǎn)品能力。比如音頻編碼率的下降，我們做這件事之前也探討，騰訊之前是做QQ起家，那個(gè)時(shí)候會(huì )想每一個(gè)Byte要不要小一點(diǎn)，但是今天在中國，5G基礎設施網(wǎng)絡(luò )特別好，當時(shí)團隊說(shuō)要做這件事，我們也擔心，這個(gè)做完大家會(huì )有感知嗎？
今天的中國，基礎設施網(wǎng)絡(luò )很好，但在全球，流暢的通話(huà)體驗變得非常重要，很多國家沒(méi)有中國這么好的基礎設施條件，如何用更小的帶寬讓通話(huà)質(zhì)量不變，這就讓溝通效果變得更好，我們好像夢(mèng)回20年前做的一點(diǎn)點(diǎn)優(yōu)化，但突然就覺(jué)得，每一點(diǎn)技術(shù)的投入，都會(huì )在未來(lái)的時(shí)刻給你帶來(lái)非常大的回報。所以有時(shí)候，很多的技術(shù)投資，要走在更前面，才能在真正面臨問(wèn)題的時(shí)候解決它。
比如比亞迪，是新能源車(chē)出海做得最好的公司，他們每個(gè)月有超過(guò)1萬(wàn)場(chǎng)的通過(guò)騰訊會(huì )議的模式來(lái)拉升組織的溝通效率。
此外，還有安全合規和優(yōu)質(zhì)服務(wù)。我們希望把自身在出海的過(guò)程中的經(jīng)驗跟大家分享，也希望把中國云廠(chǎng)商優(yōu)質(zhì)的服務(wù)提供給企業(yè)們，讓大家在全球都能享受到與在本地一樣的優(yōu)質(zhì)服務(wù)。當然，對于國際化客戶(hù)，我們也希望提供中國最優(yōu)質(zhì)的服務(wù)，讓大家體驗到完全不一樣的云。
免責聲明：市場(chǎng)有風(fēng)險，選擇需謹慎！此文僅供參考，不作買(mǎi)賣(mài)依據。
關(guān)鍵詞：
