北疆新聞 立足北疆 傳播中國
Token（詞元）是大模型理解、處理、生成信息的最小單元。在近日舉辦的中科創(chuàng)星硬科技媒體行——清程極智專場活動中，清華大學(xué)計算機系長聘教授翟季冬分享了一組數(shù)據(jù)：2024年初至2026年3月，我國Token日均調(diào)用量激增約1400倍，規(guī)模突破140萬億。
是什么推動了Token日均調(diào)用量激增？翟季冬表示，AI智能體（Agent）的普及、模型開源生態(tài)的繁榮，以及MaaS（模型即服務(wù)）模式的成熟，共同推動了這一指數(shù)級躍升。但與此同時，Token服務(wù)質(zhì)量參差不齊、供應(yīng)商選擇復(fù)雜等問題也日益凸顯，亟需新型基礎(chǔ)設(shè)施與服務(wù)平臺加以解決。
“跟用電不一樣，大家用電不會關(guān)心這是水電還是風(fēng)電，因為對我們來說風(fēng)電水電都是電。但是Token不一樣，它有好有壞，不同的模型提供的Token質(zhì)量存在較大差異?！钡约径Q。
當(dāng)前，全球AI產(chǎn)業(yè)已進入規(guī)?；涞氐年P(guān)鍵階段，Token成為AI時代的“水電煤”，是大模型服務(wù)與智能應(yīng)用的核心生產(chǎn)要素。清程極智聯(lián)合創(chuàng)始人師天麾表示，在Token需求爆發(fā)的同時，國產(chǎn)算力與國產(chǎn)模型迎來高速發(fā)展，但二者之間的推理環(huán)節(jié)卻長期依賴海外引擎，難以充分釋放國產(chǎn)硬件性能；而Token服務(wù)市場也面臨亂、貴、慢、選型難等突出問題，供需錯位、成本高企、體驗不一，成為制約AI技術(shù)普惠化、規(guī)模化落地的核心瓶頸。（經(jīng)濟日報記者 沈慧）
北疆新聞 | 內(nèi)蒙古自治區(qū)重點新媒體平臺，內(nèi)蒙古出版集團?內(nèi)蒙古新華報業(yè)中心主管主辦的國家互聯(lián)網(wǎng)新聞信息采編發(fā)布服務(wù)一類資質(zhì)平臺。
北疆新聞版權(quán)與免責(zé)聲明：
一、凡本站中注明“來源：北疆新聞”的所有文字、圖片和音視頻，版權(quán)均屬北疆新聞所有，轉(zhuǎn)載時必須注明“來源：北疆新聞”，并附上原文鏈接。
二、凡來源非北疆新聞的新聞（作品）只代表本網(wǎng)傳播該消息，并不代表贊同其觀點。
如因作品內(nèi)容、版權(quán)和其它問題需要同本網(wǎng)聯(lián)系的，請在見網(wǎng)后30日內(nèi)進行，聯(lián)系郵箱：bjwmaster@163.com。
版權(quán)聲明：北疆新聞版權(quán)所有，未經(jīng)書面授權(quán)，不得轉(zhuǎn)載或建立鏡像，違者依法必究。 本站違法和不良信息舉報電話：15648148811蒙ICP備16001043號-1
Copyright © 2016- 北疆新聞 All Rights Reserved互聯(lián)網(wǎng)新聞信息服務(wù)許可證：15120200009-1廣播電視節(jié)目制作經(jīng)營許可證：(蒙)字第631號蒙公網(wǎng)安備：15010502001245
