南方財(cái)經(jīng)全媒體記者江月 上海報(bào)道當(dāng)人們驚嘆于ChatGPT的聰明時(shí),不要忽略它的昂貴。這款應(yīng)用的走紅,正把科技投資推向更高的山峰,資金和智力還要更集中地涌向GPU等硬件賽道。由于大模型持續(xù)迭代升級(jí)、應(yīng)用加速延伸以及云服務(wù)器急需擴(kuò)容,AI芯片的掘金人正在聚集。
2月9日,21世紀(jì)經(jīng)濟(jì)報(bào)道記者在采訪(fǎng)中了解到,ChatGPT的爆火令A(yù)I芯片開(kāi)發(fā)者意識(shí)到,性能競(jìng)爭(zhēng)還將向進(jìn)一步白熱化發(fā)展,“昂貴”的烙印越打越深,大語(yǔ)言模型的單次迭代硬件成本在突破3000萬(wàn)人民幣水平后,還在向更高攀爬。在市場(chǎng)格局方面,狂熱的市場(chǎng)可能會(huì)令海外壟斷進(jìn)一步加劇。
亦有國(guó)產(chǎn)GPU創(chuàng)業(yè)人士向記者表示,國(guó)產(chǎn)通用型GPU開(kāi)發(fā)仍在繼續(xù),并希望借助此次產(chǎn)業(yè)鏈協(xié)同實(shí)現(xiàn)突破。
AI芯片加速研發(fā)
2022年11月30日上線(xiàn)的ChatGPT,于短短兩個(gè)月內(nèi)獲得1億用戶(hù),是芯片領(lǐng)域在2023年面臨的第一個(gè)重要課題。記者從多家國(guó)產(chǎn)運(yùn)算芯片開(kāi)發(fā)商處了解到,芯片研發(fā)者正高度關(guān)注ChatGPT的市場(chǎng)吸引力,不少公司將其作為研究課題組織專(zhuān)門(mén)研究,以求及時(shí)把握相關(guān)商機(jī)。
“ChatGPT應(yīng)該是基于GPT-3下一代模型,也就是市面上傳聞的GPT-3.5推出的?!痹谝患抑麌?guó)產(chǎn)GPU開(kāi)發(fā)商擔(dān)任產(chǎn)品經(jīng)理的陸明向21世紀(jì)經(jīng)濟(jì)報(bào)道記者介紹,他近期致力于對(duì)ChatGPT的課題研究。
芯片研發(fā)商關(guān)注ChatGPT,既因?yàn)檫@可能會(huì)改變產(chǎn)品定義,也因?yàn)轭A(yù)期市場(chǎng)對(duì)AI芯片的采購(gòu)會(huì)迎來(lái)增量。據(jù)介紹,ChatGPT的背后模型是GPT(Generative Pre-Training,生成式預(yù)訓(xùn)練模型),GPT這個(gè)名字展現(xiàn)了這款模型偏向“生成文本和代碼”的屬性。陸明指出,GPT至今已經(jīng)公開(kāi)了三次迭代,期間,由于GPU芯片的飛速發(fā)展,三次迭代之間具有“時(shí)間短、性能增速快”的特點(diǎn)。
細(xì)數(shù)之下,第一代GPT-1誕生于2018年6月,訓(xùn)練參數(shù)量為1.2億個(gè),數(shù)據(jù)庫(kù)規(guī)模為5GB;僅時(shí)隔半年之后,第二代GPT-2誕生于2019年2月,訓(xùn)練參數(shù)量為15億個(gè),數(shù)據(jù)庫(kù)規(guī)模為40GB;第三代GPT-3誕生于2020年5月,訓(xùn)練參數(shù)量飛躍至1750億個(gè),數(shù)據(jù)庫(kù)規(guī)模達(dá)到45TB??梢钥吹剑谌P洼^第二代的訓(xùn)練參數(shù)增長(zhǎng)超過(guò)100倍,數(shù)據(jù)庫(kù)規(guī)模則增長(zhǎng)超過(guò)1000倍。
近年來(lái),從AI方向切入GPU開(kāi)發(fā),成為了不少中外創(chuàng)業(yè)者的選擇。無(wú)論是在美國(guó)還是中國(guó)市場(chǎng),創(chuàng)業(yè)型GPU開(kāi)發(fā)商往往能成為資本的寵兒。不過(guò),由于科技巨頭自從去年第四季度開(kāi)始財(cái)務(wù)表現(xiàn)下滑,硬件行業(yè)投資也隨之降溫。不過(guò)2023年伊始,ChatGPT又給行業(yè)帶來(lái)了新的話(huà)題。
眼下,ChatGPT的爆火正呼喚更強(qiáng)性能GPU的面世,而這將促使資金加快流入行業(yè)?!跋乱淮竽P偷膮?shù)量和數(shù)據(jù)庫(kù)規(guī)模,還將比上一代實(shí)現(xiàn)百倍、千倍的升級(jí),這意味著如果底層的芯片性能止步不前,就會(huì)令訓(xùn)練時(shí)長(zhǎng)長(zhǎng)達(dá)幾年,但顯然業(yè)內(nèi)需要在半年或一年內(nèi)就推出下一代更強(qiáng)的模型。”陸明稱(chēng)。
巨頭林立成本高昂
眼下,無(wú)論是大語(yǔ)言模型開(kāi)發(fā)還是底層芯片供應(yīng),市場(chǎng)主流玩家仍然是國(guó)際巨頭。為了在格局演變中爭(zhēng)奪優(yōu)勢(shì)地位,巨頭公司的“燒錢(qián)”游戲越來(lái)越旺。
21世紀(jì)經(jīng)濟(jì)報(bào)道記者從接近美國(guó)GPU龍頭開(kāi)發(fā)商英偉達(dá)的人士了解到,該公司正是當(dāng)前全球主流大語(yǔ)言模型開(kāi)發(fā)者的主要芯片供應(yīng)商。
“英偉達(dá)正向全球主流的人工智能算法開(kāi)發(fā)商提供芯片硬件,包括微軟、谷歌、Meta等。產(chǎn)品迭代也在有序進(jìn)行中,去年推出了最新的數(shù)據(jù)中心芯片,改善了架構(gòu)。”上述人士稱(chēng)。
近期,科技巨頭爭(zhēng)相涌入ChatGPT的競(jìng)爭(zhēng)中,硝煙四起,但在上述人士眼中,眼下人工智能研究市場(chǎng)上的各大巨頭此前維持著“強(qiáng)合作”關(guān)系。以在外界眼中正在“打架”的谷歌和微軟為例,兩者事實(shí)上都基于谷歌的Transformer架構(gòu)進(jìn)行大模型開(kāi)發(fā)?!安贿^(guò)在差異性的應(yīng)用展開(kāi)后,競(jìng)爭(zhēng)可能會(huì)升級(jí)?!痹撊耸吭u(píng)價(jià)稱(chēng)。
想要留在ChatGPT戰(zhàn)場(chǎng)上,意味著更大規(guī)模的“燒錢(qián)”。據(jù)業(yè)內(nèi)估算,大語(yǔ)言模型的單次訓(xùn)練硬件成本已經(jīng)突破3000萬(wàn)元人民幣,加上投入的人力、智力、訓(xùn)練時(shí)間成本,各大巨頭需要準(zhǔn)備百億美元,直到真正的市場(chǎng)贏家勝出。
據(jù)Lambda Labs首席科學(xué)官Chuan Li介紹,擁有1750億個(gè)參數(shù)的GPT-3因其巨大的每秒浮點(diǎn)計(jì)算量,單次訓(xùn)練成本達(dá)到460萬(wàn)美元。陸明也向記者證實(shí),眼下最主流的英偉達(dá)A100芯片,單次訓(xùn)練的使用量應(yīng)達(dá)到數(shù)百片,成本在3000萬(wàn)元人民幣左右。此外,服務(wù)器擴(kuò)容和硬件升級(jí)的成本也將占據(jù)相當(dāng)大的比例,一方面,“自從2月7日開(kāi)始,ChatGPT因訪(fǎng)問(wèn)量巨大,回復(fù)速度已經(jīng)大大減慢”,另一方面,“維護(hù)GPU芯片的成本也非常高,芯片使用是有壽命的,損耗幾次就要另作他用?!标懨鞣Q(chēng)。
以上還僅僅是大語(yǔ)言模型訓(xùn)練的非人工成本,更大的成本集中在人力上。“迭代模型的間隔已經(jīng)縮短到半年,招募人才、改善算法的投資會(huì)持續(xù)高昂?!标懨鞣Q(chēng)。
今年1月23日,微軟宣布將向ChatGPT開(kāi)發(fā)商O(píng)penAI追加數(shù)百億美元的投資,令人們覺(jué)得這些資金將涌向語(yǔ)言類(lèi)機(jī)器人。不過(guò),OpenAI不僅是ChatGPT的開(kāi)發(fā)商,旗下也擁有圖形人工智能\”明星\”產(chǎn)品DALL·E。業(yè)內(nèi)相信,微軟將分?jǐn)?shù)年、數(shù)批向ChatGPT進(jìn)行后續(xù)投資,但這個(gè)領(lǐng)域的“彈藥”儲(chǔ)備提升到百億美元已是不爭(zhēng)事實(shí)。
中國(guó)玩家如何參與
短短幾日,多家中國(guó)公司宣布加入ChatGPT戰(zhàn)場(chǎng)。
中國(guó)的自主研發(fā)芯片將面臨怎樣的機(jī)會(huì)?市場(chǎng)分析認(rèn)為,國(guó)產(chǎn)運(yùn)算類(lèi)芯片仍然面臨嚴(yán)峻的發(fā)展阻撓,但商業(yè)化前景得到進(jìn)一步驗(yàn)證,仍是芯片開(kāi)發(fā)者的“好消息”。
其中,百度和阿里計(jì)劃推出生成式語(yǔ)言機(jī)器人應(yīng)用,而京東計(jì)劃將在電子商務(wù)客服中應(yīng)用相關(guān)技術(shù)。據(jù)悉,有道AI技術(shù)團(tuán)隊(duì)已投入到ChatGPT同源技術(shù)(AIGC)在教育場(chǎng)景的落地研發(fā)中,目前該團(tuán)隊(duì)已在AI口語(yǔ)老師、中文作文批改等細(xì)分學(xué)習(xí)場(chǎng)景中嘗試應(yīng)用。該公司內(nèi)部人士表示,這次技術(shù)更新是一次顛覆性的創(chuàng)新,但在細(xì)分場(chǎng)景的應(yīng)用過(guò)程中實(shí)際上并不需要這樣一個(gè)大而全的模型,更需要一些縱深向的探索。
不少市場(chǎng)分析認(rèn)為,中國(guó)互聯(lián)網(wǎng)公司擁有海量數(shù)據(jù),這是進(jìn)行自然語(yǔ)言開(kāi)發(fā)的優(yōu)勢(shì)。不過(guò),關(guān)心中國(guó)科技自主創(chuàng)新的人士有更強(qiáng)烈的心聲:期待這個(gè)“科技爆點(diǎn)”在中國(guó)形成更長(zhǎng)的產(chǎn)業(yè)鏈閉環(huán)。
海銀資本創(chuàng)始合伙人王煜全在2月7日發(fā)聲稱(chēng),中國(guó)不僅需要產(chǎn)生自主“大模型”,也應(yīng)當(dāng)在人工智能上進(jìn)行芯片技術(shù)的“彎道超車(chē)”。
數(shù)位從事國(guó)產(chǎn)GPU開(kāi)發(fā)的人士向21世紀(jì)經(jīng)濟(jì)報(bào)道記者表示,在ChatGPT爆火的開(kāi)端,國(guó)外芯片開(kāi)發(fā)商仍然具有巨大的優(yōu)勢(shì),而中國(guó)芯片開(kāi)發(fā)商面臨著巨大的阻力,這是由歷史技術(shù)積淀、市場(chǎng)關(guān)系和外部環(huán)境共同造成的。
不過(guò),王煜全認(rèn)為,在系統(tǒng)芯片異構(gòu)計(jì)算時(shí)代,能夠號(hào)召擁有數(shù)據(jù)的機(jī)構(gòu)參與預(yù)訓(xùn)練,然后與擁有芯片計(jì)算架構(gòu)的公司深度合作,這樣芯片的制造水平未必是最好,但芯片訓(xùn)練的模型是最好的。他在采訪(fǎng)中建議,芯片企業(yè)、人工智能企業(yè)和應(yīng)用企業(yè)三方應(yīng)加強(qiáng)合作。
這意味著,身處人工智能落地的巨大市場(chǎng)、擁有本土算法公司的產(chǎn)業(yè)鏈網(wǎng)絡(luò),國(guó)產(chǎn)芯片廠(chǎng)商仍擁有AI芯片的入場(chǎng)券。
(應(yīng)受訪(fǎng)者要求,陸明為化名)
更多內(nèi)容請(qǐng)下載21財(cái)經(jīng)APP
版權(quán)聲明:本文內(nèi)容由互聯(lián)網(wǎng)用戶(hù)自發(fā)貢獻(xiàn),該文觀點(diǎn)僅代表作者本人。本站僅提供信息存儲(chǔ)空間服務(wù),不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。如發(fā)現(xiàn)本站有涉嫌抄襲侵權(quán)/違法違規(guī)的內(nèi)容, 請(qǐng)發(fā)送郵件至 舉報(bào),一經(jīng)查實(shí),本站將立刻刪除。