賺錢的大模型生意,到底在哪里?圖片來源:視覺中國
- 發(fā)布于:2025-01-19 06:30:50
- 來源:24直播網(wǎng)
特約作者丨潘心怡?
編輯丨薛芳
出品丨深網(wǎng)·騰訊新聞小滿工作室
“百模大戰(zhàn)這些創(chuàng)業(yè)公司,大家用的都是OpenAI的訓練方法,因為參數(shù)大數(shù)據(jù)也差不多,結(jié)果是同質(zhì)化嚴重。市面上根本用不了這么多大模型,到2024年應(yīng)該就會退熱,發(fā)現(xiàn)誰在岸上誰在裸泳?!毙”?CEO 李笛在2023年年初告訴《AI光年》。
李笛一語成讖。去年年初轟轟烈烈的百模大戰(zhàn),經(jīng)過一年繁花著錦烈火烹油的高光時刻后,當下也進入了平淡期,創(chuàng)業(yè)獨角獸的光環(huán)紛紛開始褪去,明星創(chuàng)始人被投資人起訴,“六小虎”中的兩家,有兩家在逐步放棄預訓練模型。
當下大模型賽道的游戲當下的競爭已經(jīng)常態(tài)化,大模型創(chuàng)業(yè)獨角獸也變成了“吞金獸”?!禔I光年》曾問過一位投大模型應(yīng)用的投資人,大模型獨角獸估值過200億后,還能向誰去融資?“BAT戰(zhàn)投在早期都紛紛出手了,后期融資其實很不樂觀。”
現(xiàn)如今,中國大模型的陣營依然是兩大派別,大廠派和創(chuàng)業(yè)派。僅僅一年時間,大廠還是大廠,創(chuàng)業(yè)公司卻多少少了點銳氣。投資人中有人已經(jīng)悲觀的下了結(jié)論,創(chuàng)業(yè)公司打不贏大廠。
“中國一定會有自己的ChatGPT。這跟搜索引擎一樣,我們有自己的合規(guī)要求。但是中國版的ChatGPT只會在5家公司里產(chǎn)生:BAT+字節(jié)+華為。”迅雷創(chuàng)始人、遠望資本程浩告訴《AI光年》。
這是《AI光年》策劃的《大模型競爭進入深水期》系列觀察第一篇,關(guān)注的是曾經(jīng)如火如荼的大模型應(yīng)用市場,《AI光年》拜訪了一級市場的投資人、大模型應(yīng)用創(chuàng)業(yè)者和大廠的大模型從業(yè)者。
投資人給《AI光年》2024年的觀感是,大模型已經(jīng)“講爛了”,資本不再是技術(shù)信仰派,只有更好變現(xiàn)能力的明星團隊才好拿錢。
大模型投資兩極化
OpenAI的發(fā)家之路,讓外界再次燃起技術(shù)改變未來的希望。一個聲音總是響起:大模型是走向通用人工智能的第一步,所有行業(yè)都值得用大模型重做一遍。
大模型迎來了一場產(chǎn)學研的集體狂歡:大型科技公司聲浪不斷、科學家抱團創(chuàng)業(yè)、大廠高P集體出走……
時間過去兩年,現(xiàn)在的局面是,狂歡和混沌的故事線在國內(nèi)AI圈子中并行。
以百模大戰(zhàn)讓API價格降無可降為界,牌桌上就已經(jīng)開始悄悄分出了一些勝負:大廠之間進入從卷技術(shù)到卷應(yīng)用的下半場,在AI Agent這樣的應(yīng)用上大肆下注;大模型獨角獸公司們一波三折,但也經(jīng)歷著“放棄基礎(chǔ)大模型”的糾結(jié),減員和調(diào)整令人不安。
互聯(lián)網(wǎng)大廠的大模型之戰(zhàn)“卷”到所有人,關(guān)注點從技術(shù)平移到應(yīng)用,談錢越來越不可恥,砸錢換一個入場券的游戲已經(jīng)結(jié)束。
OpenAI發(fā)布的推理模型o1成為一個節(jié)點,行業(yè)逐漸形成共識:技術(shù)平權(quán)正在到來,大模型應(yīng)用落地已經(jīng)進入全面開花的前夜。
OpenAI的光芒令科技界艷羨,一旦進入談錢階段,一切未必有看上去那樣美好——預計OpenAI今年創(chuàng)收35至45億美元,虧損40至50億美元。
雖然行業(yè)標桿還沒看到盈利曙光,但中國人在賺錢這件事上往往更加心急。
沒有人比投資圈更愿意因利起早了,ChatGPT拉開大模型投資熱的局面后,國內(nèi)也掀起一陣投資熱潮。原因不難解釋,是技術(shù)搶跑的需要,也是疫情期間被抑制的需求找到了出口。
一個經(jīng)常被提及的案例是月之暗面,今年2月月之暗面拿下超70億元的A輪融資,但除了大模型五小虎外,大部分大模型應(yīng)用廠商融資金額大多沒有超過億元。
總體來看,據(jù)鈦媒體數(shù)據(jù),目前國內(nèi)披露獲得投資的大模型公司只有大約 20 家,除去已經(jīng)被美團收購的光年之外,融資額超過億元的不足 5 家。
短暫的火熱后,不少投資人今年的觀感是,大模型已經(jīng)“講爛了”,資本不再是技術(shù)信仰派,只有更好變現(xiàn)能力的明星團隊才好拿錢。
炒股機器人Arbor Chat創(chuàng)始人鄭其森最近在考慮融資,一番接觸下來,他發(fā)現(xiàn)“創(chuàng)投在AI的投資上還是很積極考慮,但是出手比較謹慎”。
鄭其森明顯感到,資方對商業(yè)可用性和變現(xiàn)能力的重視日益加深,但大模型又是一個明確的方向,因此會產(chǎn)生一些矛盾心理。“大部分資金還是重注在比較明確的大模型方向,但另一方面大家都覺得大模型的投資到了盡頭?!?
投資人Jack向《深網(wǎng)》解釋這種矛盾心理的來源。
“如果投了一個大模型技術(shù)團隊,遲遲得不到一個milestone的報告,肯定會著急”。在國內(nèi)“純技術(shù)團隊很難融到錢”,一心追求技術(shù)突破,不去落地搞應(yīng)用,“那就不要走投資這條路”。
Jack任職于一家風險投資機構(gòu),他原本預期,大型科技公司本該扮演很多大模型項目的“接盤方”,但從目前的趨勢來看,他們在投資上的出手次數(shù)并不樂觀。
近期月之暗面被投資人在香港起訴的消息成為一級市場的熱點,“風險投資不風險”和一級市場整體冷清也有關(guān)系。數(shù)據(jù)顯示,2023年中國創(chuàng)投市場的交易同比降低了22%。
Jack告訴《深網(wǎng)》:“現(xiàn)在很多機構(gòu)限制出售量,會上限定一個月只能上會一個項目,”以前對沒過會但自己看好的項目,投資人之間會“遞小紙條”互相推薦,“今天大部分的VC都沒錢情況下,大家都不聊項目了”。
面對大模型這樣充滿不確定的概念時,Jack發(fā)現(xiàn)很多機構(gòu)的投資邏輯從“人+事”轉(zhuǎn)變?yōu)椤叭说囊蛩囟嘁恍薄?
“他們現(xiàn)在會投一些人,其實沒有想好要做什么大模型產(chǎn)品,或者是項目長什么樣,反正先投它,做出來再說,我信你這個人?!盝ack說。
決策出發(fā)點遠離核心價值,暗含一種隱喻:擴張性行業(yè)態(tài)勢最起碼不會在大模型早期投資階段上演。
宏觀敘事角度出發(fā),背后的原因可以追溯得更久:上一輪科技創(chuàng)新周期的成果轉(zhuǎn)化尚未結(jié)束,大模型所在的人工智能產(chǎn)業(yè)還沒到大規(guī)模釋放紅利的時候。
大模型很多應(yīng)用屬于高度細分領(lǐng)域,是產(chǎn)業(yè)鏈中的“偏科生”,市占率有限。因此,PE/VC在這類新科技的投資上更為審慎。
網(wǎng)商銀行相關(guān)人士對《深網(wǎng)》透露,很多技型小企業(yè)拿不到資本市場直接融資,是因為這些“科小”普遍輕資產(chǎn)運作,“拿得出手”且能用于抵押貸款的有形資產(chǎn)十分有限。
該人士進一步解釋,知識產(chǎn)權(quán)為主的無形資產(chǎn)的價值毋庸置疑,但在轉(zhuǎn)化為金融資源的“定價”時存在很高的專業(yè)門檻。
無形資產(chǎn)的屬性是一方面,高昂的研發(fā)和訓練成本也導致資方不再單純追求技術(shù)先進性。
“當然技術(shù)壁壘還是大家看重的?!碧焓雇顿Y人、人工智能專家郭濤坦誠,“但在AI能自我進步的年代,其實沒有人有任何長遠的技術(shù)壁壘。”
技術(shù)平權(quán)的一天遲早來到,隨著市場對大模型的認知提高,評估標準發(fā)生改變也不足為奇。
除了綜合考慮項目的商業(yè)模式、市場前景和競爭優(yōu)勢等因素,還有一個淺顯但管用的標準,即該項目是否是明星大模型團隊。
在大模型創(chuàng)業(yè)項目如雨后春筍冒出來的2023年,郭濤對《深網(wǎng)》回憶,自己也接觸過幾個項目,但結(jié)果令人失望。
“基本上都不具備投資價值,市場里90%項目都是開源模型,但并沒有成熟的生態(tài)體系,更不用說缺乏成功案例和品牌效應(yīng)了。”他感嘆。
就目前的趨勢來看,越來越多的投資人在考慮非技術(shù)性的壁壘,例如垂直行業(yè)的進入門檻、品牌及客戶基礎(chǔ)等。
和所有新技術(shù)的命運一樣,檢驗其靠譜與否的唯一衡量標準,最終還是要落到商業(yè)化的可行性和規(guī)?;?。
郭濤總結(jié)到,大模型現(xiàn)在投資的盈利方式還是B端市場。如語言服務(wù)、數(shù)字分身、數(shù)字人等,包括百度的文心大模型、騰訊的混元大模型。C端除了對算力資源要求比較高的一些服務(wù)都是免費的,向B端收費是一個大趨勢。
變現(xiàn)、變現(xiàn),還是變現(xiàn)!
奔向飛往深圳的航班路上,趙杰輝還不忘念叨著“Q4還得沖刺一把,多談幾個單子”。
趙杰輝是滴普科技的創(chuàng)始人和CEO,創(chuàng)業(yè)之前在華為、阿里工作過多年,屬于典型的“商業(yè)技術(shù)精英”。
形勢比人強,趙杰輝現(xiàn)在常掛在嘴邊的一句話是“只有持續(xù)迭代才能活下去”。也許這也解釋了,靠大模型賺到“真金白銀”的企業(yè)不多,滴普科技卻能躋身隊列之中的原因。
2022年開始,滴普投入到以大模型為代表人工智能技術(shù),重塑原有的數(shù)據(jù)平臺業(yè)務(wù),迭代成為企業(yè)AI基礎(chǔ)設(shè)施和產(chǎn)業(yè)生成式AI應(yīng)用服務(wù)商。據(jù)他介紹,滴普科技今年的營收約增長90%,其中40%都來自大模型相關(guān)業(yè)務(wù)。
滴普位于北京中關(guān)村,上一輪“雙創(chuàng)”潮中,這里是“宇宙中的宇宙,蘋果中的核心”。2014年以及之后的大約3年,中關(guān)村彌漫的都是科技創(chuàng)新的氛圍,釀造了一個又一個的“創(chuàng)業(yè)傳奇”。
十年后的今天再看,氣候已經(jīng)完全變化。
“大模型賽道,甚至是整個人工智能行業(yè),像m以前那樣突然出現(xiàn)一個市值翻100倍的公司不太可能?!盝ack的語氣非常篤定,“以后很難出現(xiàn)BAT和獨角獸,涌現(xiàn)出來會是大量的中小公司。”
獨角獸企業(yè)難再現(xiàn)不是什么新鮮論調(diào),而是近乎行業(yè)默契的存在。
在這一輪始于ChatGPT的創(chuàng)新浪潮里,不論信奉的是技術(shù)信仰派還是AI平民化,都必須是“務(wù)實派”,盡快證明自己的變現(xiàn)能力,這是重中之重。
在和被投企業(yè)交流時,Jack發(fā)現(xiàn),即使是對早期企業(yè),拉單子、做項目也成為今年的一個重要課題。
Jack的觀察是,“去年大家對技術(shù)的崇拜大于賺錢的目標,直到今年因為跟客戶坐下來面對面交流,了解客戶的需求,才弄清楚在一些場景里,模型到底能不能做,哪一步能做,哪一塊能通過工程化的能力解決?!?
相對成熟的滴普科技,則在更早階段看清了這個道理。
2018年和滴普科技同時段起步的幾家數(shù)據(jù)中臺公司,已經(jīng)泯然眾人矣。這也讓趙杰輝早早明白,在資本、市場都站隊“變現(xiàn)能力”的當下,與其去談技術(shù)理想的變革,to B市場更重要的是好好活下去。
趙杰輝和《深網(wǎng)》分享了自己的觀點:“大模型為代表的人工智能,在ToB落地一定是以客戶的實際價值優(yōu)先,滿足市場的剛性需求?!?
大模型率先沖擊的就是傳統(tǒng)的AI解決方案公司,如果大模型可以滿足一家企業(yè)百分之五十以上的需求,花錢搞方案的必要性也就大大降低——這也意味著一部分蛋糕會被分走。
有數(shù)據(jù)顯示,行業(yè)智能化滲透率將從2021年的7%增長到2026年的30%,更多行業(yè)的核心業(yè)務(wù)系統(tǒng)會被大模型能力滲透。
同時,據(jù)艾瑞咨詢推算,2023年中國AI基礎(chǔ)數(shù)據(jù)服務(wù)市場規(guī)模為45億元,預計到2028年,其市場規(guī)模將達170億元,且未來五年的復合增長率為30.4%。
在滴普面向的to B市場,接住這波大模型紅利的,大部分是已經(jīng)坐上牌桌的企業(yè),靠的是對既有業(yè)務(wù)進行延續(xù)和變革,鮮少見到突然崛起的新勢力在蠶食市場。
背后的原因不難理解,一個企業(yè)如果真正想把大模型落到深度業(yè)務(wù)的推理決策,就必須要有一定的數(shù)據(jù)治理基礎(chǔ)。
B端大模型精調(diào)和落地,需要團隊依靠在產(chǎn)業(yè)的多年經(jīng)驗、基于客戶私有數(shù)據(jù)的治理和多種專業(yè)機理模型與大語言模型協(xié)同,并深入理解用戶需求來實踐,才能真正能夠產(chǎn)生深入的有剛需的價值。
“多個模型形成一個模型的技術(shù)棧協(xié)同起來,有了整體落地的模型服務(wù)平臺,才能夠讓人工智能在一個行業(yè)里面真正發(fā)揮深度的作用?!壁w杰輝補充道。
快遞100總經(jīng)理陳登坤也對《深網(wǎng)》表示,大模型的基礎(chǔ)通用人工智能能力針對所有公司都是普惠的,體現(xiàn)大模型應(yīng)用差異的一是在于公司的私有領(lǐng)域知識庫,二是公司的用戶應(yīng)用場景。
一般認為,大模型的發(fā)展有三大基礎(chǔ),算力、算法和數(shù)據(jù)。當前討論較多的數(shù)據(jù)更多是各類公開和公共數(shù)據(jù),但隨著大模型向各個產(chǎn)業(yè)、細分領(lǐng)域和場景深入,行業(yè)性數(shù)據(jù)、商業(yè)性數(shù)據(jù)、用戶數(shù)據(jù)等非公開數(shù)據(jù)就成為核心資源。
同樣的邏輯在鄭其森的創(chuàng)業(yè)路徑上得到了驗證,ArborChat雖然是個新產(chǎn)品,但過去六年多,鄭其森和團隊做出的金融AI產(chǎn)品,服務(wù)于國內(nèi)外眾多銀行和基金。
其中一個業(yè)務(wù)包括,抽取和分析銀行信貸業(yè)務(wù)客戶的財務(wù)報表,并通過提取大量的會計數(shù)字,放到信貸模型里面做分析,“這讓平時會計師七個小時的工作流程壓縮到了半小時之內(nèi)”。
通用大模型的爆發(fā),讓他看到了垂類模型在金融領(lǐng)域落地的更多可能性,尤其是在實時投資洞察、投資組合監(jiān)察和深度金融分析方面。
他舉例,如要知道排名前100科技公司在核能有沒有投入,基金公司分析師可能需要花一個星期才能做完研究。
但現(xiàn)在分析師能通過ArborChat的Excel插件規(guī)?;瓿闪?00家公司的AI搜索,“一星期”縮短到了“一分鐘”。
技術(shù)不是難點,可貴的地方在于,鄭其森看到了市場的空白。參照國外的情況,他的信心更來自“GPT也沒能取代一切”。
通用大語言模型不是專門的金融工具,不會特意找金融數(shù)據(jù)庫對接,其通用框架在處理金融數(shù)據(jù)時,往往會參考很多過時的資訊,這對于二級市場投資者幾乎是“0容忍”的存在。
趙杰輝的觀點與之類似,“大廠可以跟你卷價格,初創(chuàng)企業(yè)卷不起”,因此在大型互聯(lián)網(wǎng)企業(yè)輕易能覆蓋的范圍里做事,一定是沒有價值的。
B端的語料沒有被大廠壟斷,只要服務(wù)夠好、夠聚焦,就有在垂直領(lǐng)域創(chuàng)造價值的可能性。用趙杰輝的話說,“一定要在大廠的射程之外,找到自己的藍海,逐步構(gòu)建自己的不可替代性價值”。
對于更早期的團隊,Jack認為還有一個選擇,如果業(yè)務(wù)方向和大廠某個部門的方向一致,則存在被收購的可能。
經(jīng)驗告訴Jack,當大廠發(fā)布了一個AI功能,一定要足夠聰明去研究和判斷會不會沖擊或間接影響到自己的項目,快速做出應(yīng)對,并適當配置位置。
“我們很多項目,投它的時候跟它最后賺錢的時候已經(jīng)完全不是一個樣子?!彼f。
面向to B,賺此刻的錢
科創(chuàng)企業(yè)要躲開射程的“大廠”, 實際上一直在追逐OpenAI的腳步。
OpenAI今年9月發(fā)布的O1模型,通過強化學習的技術(shù)路徑大幅提高了大模型在邏輯推理方面的能力。
市場糾結(jié)的點在于,其最新模型Orion在開發(fā)過程中,未能達到預期的性能特別是在編碼任務(wù)上未能超越前代產(chǎn)品GPT-4。
與之相對的是,中國的互聯(lián)網(wǎng)大廠更多把注意力放在了應(yīng)用層上。究其原因,業(yè)內(nèi)的普遍觀點是,國內(nèi)即使是大廠和明星企業(yè),技術(shù)優(yōu)勢都不明顯,最后拼的還是算力成本和應(yīng)用生態(tài)。
11月12日,李彥宏最近一次公開發(fā)言中,兩個點值得關(guān)注:
一是“過去24個月,AI行業(yè)的最大變化是大模型基本消除了幻覺”。
AI幻覺(指大語言模型提供的看似合理但錯漏百出的答案)如果真能徹底解決,大模型在許多垂直行業(yè)就能進行精準的預測和建議,避免失誤帶來的損失,使得大模型應(yīng)用落地更進一步。
二是文心大模型的日均調(diào)用量超15億,相較5月披露的2億,增長7.5倍,相較一年前首次披露的5000萬次,更是增長約30倍。
李彥宏表示“這個增速超出預期”,說明AI是真需求,而這條陡峭的增長曲線,代表著過去兩年中國大模型應(yīng)用的爆發(fā)。
應(yīng)用層作為大模型最接近產(chǎn)業(yè)鏈下游的部分,游戲、辦公、金融等垂直行業(yè)不同應(yīng)用場景的多樣性需求,也可以反推產(chǎn)業(yè)中上游進步。
王仲遠此前在接受《深網(wǎng)》專訪時曾表示,“C 端用戶對于體驗非常敏感,對于很輕微的幻覺問題,都會感知強烈,當這些都被解決,殺手級應(yīng)用自然就出現(xiàn)了?!?
大模型作為一個效率工具,已在設(shè)計、廣告、電商等領(lǐng)域有了明確的應(yīng)用,比如,文章摘要、會議紀要,主要用于把非結(jié)構(gòu)化的數(shù)據(jù)結(jié)構(gòu)化。
就C端層面而言,相較于遙遙無期的殺手級應(yīng)用,大模型為現(xiàn)有產(chǎn)品升級和生態(tài)賦能的作用更明顯。
比如,在騰訊視頻劇集《長相思2》播出期間,騰訊旗下面向C端用戶的AI大模型應(yīng)用騰訊元寶,就因為扮演角色和用戶對話、討論劇情“出圈”,一個月內(nèi)達到創(chuàng)紀錄的3億互動熱度。
不久前,騰訊元寶升級為新一代大模型 " 混元 turbo",在交互體驗、AI 搜索,以及多模態(tài)理解能力上均迎來進一步的提升。
問及騰訊元寶是否會嵌入商業(yè)搜索結(jié)果,騰訊首席戰(zhàn)略官詹姆斯?米歇爾(James Mitchell)強調(diào):“就目前而言,我們專注于盡可能地增加元寶對用戶的吸引力,而非急于進行商業(yè)變現(xiàn)?!?
面向付費用戶意愿較低的C端,大廠之間更樂意比拼的是降低大模型門檻,以增強用戶粘性,避免陷入人有我無、落于他人的局面。
360集團副總裁、AI搜索負責人梁志輝給《深網(wǎng)》舉了個反例,在AI重塑搜索引擎的過程中,Google這樣在傳統(tǒng)搜索引擎競爭中取得領(lǐng)先地位的企業(yè),反而落后了,至今都還沒有推出原生AI搜索引擎。
“它們的組織弱點在于不愿意去做利潤低于鏈接廣告的東西,拉低公司整體低毛利的創(chuàng)新項目難以得到足夠的資源支持,這點在Google體現(xiàn)明顯。”
梁志輝進一步補充:“大象轉(zhuǎn)身慢、既得利益龐大,自我顛覆的代價巨大?!焙蛅o C端大模型商業(yè)化前景相比,to B端在現(xiàn)階段是更具確定性的存在,背后一個重要的推動力量是央國企。
公開數(shù)據(jù)顯示,從2024年1-7月,央國企采購大模型項目數(shù)量已超過950個,且均勻布局在智算中心、大模型預訓練、Agent和行業(yè)應(yīng)用等多個方向。
公開的招標數(shù)據(jù)不能完全解釋市場需求,很多央國企對大模型的應(yīng)用和落地,實際上是之前數(shù)據(jù)管理的延續(xù),而不是覆蓋。
央國企大模型落地時,也格外注重行業(yè)應(yīng)用。包括大模型預訓練,大模型開發(fā),以及針對個別環(huán)節(jié)或特定場景構(gòu)建大模型應(yīng)用或解決方案。
作為企業(yè)數(shù)據(jù)湖倉平臺行業(yè)的長期的市場參與者,趙杰輝認為其中一個原因是:“美國和中國ToB市場,最后真正能夠在產(chǎn)業(yè)端把大模型落地的關(guān)鍵,一定跟基礎(chǔ)的數(shù)據(jù)能力分不開?!?
他進一步解釋,原有的數(shù)據(jù)平臺市場一定會被以大模型為代表的人工智能技術(shù)浪潮重塑,一方面人工智能技術(shù)會極大的釋放原有數(shù)據(jù)平臺的價值,另一方面快速擁抱人工智能技術(shù)的程度會深度重構(gòu)市場的競爭格局。
而中國在供應(yīng)鏈端、制造業(yè)上積累的數(shù)據(jù)和語料,“不比美國弱,甚至比較強”。
路線的分叉,照見的北美和中國人工智能執(zhí)棋思路的不同。
Jack認為,一些直觀感受更能傳遞這種信息:在美元VC投資人海島度假曬朋友圈的周末,穿著中山裝的政府工作人員反而在學術(shù)會議上,勤勤懇懇學習“大模型到底是什么”。
國內(nèi)更多“我可以”的聲音實際上傳導自政策端。Jack的觀察是,政策層面對AI的幫助尤大,無論落地效果是否達到預期,從數(shù)據(jù)到算力,“基礎(chǔ)建設(shè)”已經(jīng)在全力配備中。
實際上本輪大模型的發(fā)展,包括OpenAI在內(nèi),走的都是“力大磚飛”的路線,疊堆更多算力以創(chuàng)造更多奇跡。
對算力資源的投入往往以億美元為單位計量,同時考慮的全球環(huán)境不確定性,政策端的支持很大一部分傾注在算力上。
據(jù)中信建設(shè)證券數(shù)據(jù)顯示,2024年-2027年全球大模型推理的峰值算力需求量的年復合增長率為113%,遠高于訓練的78%。
環(huán)球同此涼熱,當前大模型的發(fā)展放緩,部分原因在于算力瓶頸。萬卡集群的升級能夠提供足夠的算力支持,對推動大模型的發(fā)展至關(guān)重要。
國內(nèi)的情況是,通信巨頭、頭部互聯(lián)網(wǎng)企業(yè)及AI企業(yè)共同推動超萬卡集群技術(shù)革新。其中,中國移動等運營商有著強大的機房資源,作為算力基建主力正加速建設(shè)智算中心。
但目前來看,從AI Infra (人工智能基礎(chǔ)設(shè)施,是連接算力和應(yīng)用的AI中間層基礎(chǔ)設(shè)施)到Maas(通過API接口調(diào)用即可使用的AI商業(yè)模式),都沒有一個標準且完美的答案。
據(jù)字節(jié)跳動公開的萬卡集群大模型訓練架構(gòu)MegaScale的數(shù)據(jù),訓練擁有1750億參數(shù)的大模型需要在千卡集群上訓練接近20天或者萬卡集群上訓練近2天,按照GPU使用機時計算,單次訓練費用超過200萬元,其算力利用率僅約為50%-60%。
科大訊飛副總裁、研究院院長劉聰對《深網(wǎng)》表示,現(xiàn)在許多算力平臺等都在建設(shè),但需要警惕的是,要時刻關(guān)注技術(shù)和市場的變化——例如目前,已經(jīng)有些公司不再做通用底座大模型的訓練迭代。
科大訊飛的算力部分主要和華為聯(lián)合打造了首個國產(chǎn)萬卡算力集群“飛星一號”平臺。1024發(fā)布會上,訊飛也宣布國產(chǎn)超大規(guī)模智算平臺“飛星二號”正式啟動。對于訊飛來說,算力仍然很重要。
算力平臺建設(shè)之外,劉聰考慮的事情更遠,“如果無法帶來商業(yè)上的正向循環(huán),那么可能本身就存在問題”。劉聰看到的是商業(yè)閉環(huán)價值的重要性,作為企業(yè),最終還是要回歸“技術(shù)進步是否能支持行業(yè)場景落地”,因此科大訊飛新模型的迭代,“會在端到端上結(jié)合實際場景繼續(xù)前進”。
趙杰輝的飛機降落深圳后,馬不停蹄就安排上了和客戶見面。在改革開放的起始站,這座城市見證了產(chǎn)業(yè)鏈供應(yīng)鏈崛起的奇跡,無數(shù)大中小企業(yè)積攢了寶貴的語料寶藏。
如何推動整個社會系統(tǒng)向“智造”更近一步?市場的問題,有時候需要屬于自己的“吸引力法則”去解決。
“做ToB的公司肯定是算賬,ToB的公司不像ToC那樣突然有一個爆款出現(xiàn),我們掙的一定是現(xiàn)在、當下、此刻的錢?!壁w杰輝說。
(應(yīng)受訪者要求,本文Jack人名為化名)
相關(guān)資訊
- | 參考消息網(wǎng)薩馬蘭奇體育頻道5月28日報道《體育畫報》周刊援引美國“競技”體育網(wǎng)站記者消息報道稱,2021年度美國男子職業(yè)籃球聯(lián)賽(NBA)選秀聯(lián)合試訓將于當?shù)貢r間6月21日至27在芝加哥溫特拉斯特體育
- | 北京時間1月1日,NBA常規(guī)賽繼續(xù)展開爭奪,凱爾特人主場迎戰(zhàn)籃網(wǎng)。四節(jié)激戰(zhàn),凱爾特人108比105驚險戰(zhàn)勝籃網(wǎng),歐文搶到關(guān)鍵籃板,全場比賽貢獻28分8個籃板。籃網(wǎng)打得很頑強,6人得分上雙不斷追分,但關(guān)
- | 12月27日晚,北京控股男籃在2024至2025賽季CBA常規(guī)賽第23輪中,客場以96比108不敵上海久事隊,遭遇常規(guī)賽兩連敗。由于多名外線投手傷缺,北控本場三分命中率低至22.2%。
- | 直播吧1月27日訊 NBA全明星正賽首發(fā)今日正式公布:
- | 2024cba全明星于3月1日-3日在福建廈門鳳凰體育館舉辦,隨著全明星首發(fā)名單公布后,替補名單也來了。接下來給大家分享2024CBA全明星替補陣容。
- | 球員估值理解,凱萊布-馬丁交易評級獨行俠C,76人A。
- | 替補34分!萊昂納德贊第二陣容需更佳表現(xiàn)!
- | 勇士欲重引杜蘭特,因知當年沖動之舉。
- | "東契奇交易,NBA震撼之舉,或成湖人十年基石"
- | 杜蘭特歸勇士,太陽獲維金斯等四將及兩輪簽?zāi)M
最新資訊
- | 參考消息網(wǎng)薩馬蘭奇體育頻道5月28日報道《體育畫報》周刊援引美國“競技”體育網(wǎng)站記者消息報道稱,2021年度美國男子職業(yè)籃球聯(lián)賽(NBA)選秀聯(lián)合試訓將于當?shù)貢r間6月21日至27在芝加哥溫特拉斯特體育
- | 北京時間1月1日,NBA常規(guī)賽繼續(xù)展開爭奪,凱爾特人主場迎戰(zhàn)籃網(wǎng)。四節(jié)激戰(zhàn),凱爾特人108比105驚險戰(zhàn)勝籃網(wǎng),歐文搶到關(guān)鍵籃板,全場比賽貢獻28分8個籃板。籃網(wǎng)打得很頑強,6人得分上雙不斷追分,但關(guān)
- | 勇者是女孩 - 勇者是女孩官方老版本下載V.4.8.3 - 中旗下載站
- | 官方:葡超阿羅卡購斷福井太智,20歲日本中場。
- | 官方:巴舒亞伊轉(zhuǎn)會法蘭克福,總價350萬歐
- | 官方:巴舒亞伊轉(zhuǎn)會法蘭克福,簽約至27年
- | 多特對里昂主席關(guān)于謝爾基轉(zhuǎn)會言論感困惑
- | 謝爾基發(fā)律師函要求里昂接受多特報價
- | 德甲俱樂部報價克里斯滕森,未達巴薩要價
- | 切爾基隊報:律師函要求里昂接受多特報價,續(xù)約9月生效