4月21日,2025年中國綠公司年會舉辦“人工智能”主題高級別閉門研討?;鹕揭婵偛米T待以《AI新時(shí)代:大模型、Agent與推理規(guī)?;窞轭}進(jìn)行了分享。他指出:“作為字節(jié)跳動旗下的云計(jì)算板塊,火山引擎站在更底層的角度來看待行業(yè)的發(fā)展。”
譚待 火山引擎總裁
火山引擎是字節(jié)跳動旗下云與 AI 服務(wù)平臺,提供抖音同款技術(shù)服務(wù)
火山引擎是字節(jié)跳動旗下云與 AI 服務(wù)平臺,為抖音、豆包等提供技術(shù)支持,于 2020 年正式對外提供云、大數(shù)據(jù)和 AI 領(lǐng)域服務(wù)。作為云廠商,其優(yōu)勢在于能從底層資源消耗洞察行業(yè)發(fā)展,2021 年便意識到 AI 對云與 IT 的驅(qū)動作用并加大投入。
火山引擎領(lǐng)跑中國公有云大模型Token用量
從 2021 - 2024 年,AI 領(lǐng)域在云資源消耗上不斷變化,從自動駕駛應(yīng)用 Transformer 架構(gòu),到國內(nèi)大模型和創(chuàng)業(yè)公司崛起,再到基礎(chǔ)模型訓(xùn)練及應(yīng)用發(fā)展。字節(jié)推出的豆包大模型采用多模態(tài)設(shè)計(jì),同時(shí)發(fā)展 ToC 和 ToB 業(yè)務(wù) 。2024 年 12 月 - 2025 年 3 月,豆包日均 Token 使用量從 4 萬億增長到 12.7 萬億,反映出模型應(yīng)用的飛速發(fā)展。根據(jù)IDC《中國公有云大模型服務(wù)市場格局分析》,2024 年,火山在公有云模型調(diào)用量上占比 46%,見證模型技術(shù)突破帶動調(diào)用量增長。
邁進(jìn) Agent 元年,模型效果和 AI 云原生是關(guān)鍵方向
2025 年及未來,模型將從感知 AI、生成式 AI 向Agent AI 發(fā)展,真正有挑戰(zhàn)的 Agent 需具備端到端處理復(fù)雜任務(wù)、多模態(tài)能力和操作工具的能力。實(shí)現(xiàn)這一發(fā)展的關(guān)鍵在于:模型要具備深度思考能力以完成復(fù)雜規(guī)劃;采用多模態(tài)處理多源數(shù)據(jù);發(fā)展 AI 云原生架構(gòu),使模型能操作各類界面;實(shí)現(xiàn)推理規(guī)模化,降低 Token 使用成本,推動 AI Agent 大規(guī)模應(yīng)用。
豆包 1.5?深度思考模型,追求更好效果
火山引擎發(fā)布豆包 1.5 版深度思考模型,在數(shù)學(xué)、代碼、專家推理等評測集上達(dá)到全球第一梯隊(duì)水平。該模型參數(shù)設(shè)計(jì)創(chuàng)新,成本和延遲較低,具備 “邊想邊搜” 功能,可通過多輪迭代給出答案。同時(shí),它原生支持多模態(tài),能結(jié)合圖像和文本進(jìn)行深度思考,解決如出國點(diǎn)餐、企業(yè)流程圖分析等實(shí)際問題。
AI 云原生,推動面向 AI 的架構(gòu)創(chuàng)新和轉(zhuǎn)型
研發(fā) Agent ,除模型外,還需 AI 云原生組件。Agent 分為應(yīng)用類和通用類,開發(fā)通用 Agent 需要強(qiáng)大的多模態(tài)深度思考模型,以及將電腦、代碼、瀏覽器等封裝成沙箱供模型操作,并通過相關(guān)框架實(shí)現(xiàn)模型在實(shí)際操作中學(xué)習(xí)。此外,模型能力提升還對安全、存儲、網(wǎng)絡(luò)等底層架構(gòu)提出新要求,通過 AI 云原生架構(gòu)可實(shí)現(xiàn)如自動生成營銷文案等應(yīng)用。
AI 云原生 - 讓推理端到端更快、更省
隨著豆包模型使用量增長,推理成本面臨挑戰(zhàn),需對底層推理進(jìn)行優(yōu)化。通過新架構(gòu)實(shí)現(xiàn)推理端到端更快更省,同時(shí)利用通用 Agent 可 7×24 小時(shí)工作的特點(diǎn),將部分復(fù)雜任務(wù)安排在夜間互聯(lián)網(wǎng)空閑時(shí)段進(jìn)行,這也符合中國綠公司年會倡導(dǎo)的綠色發(fā)展理念,在保證經(jīng)濟(jì)效益的同時(shí)減少碳排放。
企業(yè) AI 升級第一步?下載豆包 APP
對于企業(yè) AI 轉(zhuǎn)型,建議企業(yè)家先下載豆包 APP。因?yàn)榇竽P筒煌趥鹘y(tǒng)云、大數(shù)據(jù)技術(shù),個(gè)人通過使用 APP 能直觀感受其在工作和生活中的作用,加深對技術(shù)的理解,從而思考如何在企業(yè)中應(yīng)用,改變以往通過 PPT 匯報(bào)了解工作的方式。
2025年,CEC發(fā)起“永續(xù)發(fā)展綠色伙伴”社群,攜手各行業(yè)領(lǐng)先企業(yè),共建年度高級別、多維度、多場景的高級別研討,構(gòu)建長期的學(xué)習(xí)伙伴關(guān)系。
火山引擎作為首發(fā)伙伴,參與研發(fā)組織本屆綠公司年會議題,并將持續(xù)共建主題研討學(xué)習(xí)活動。