(相關(guān)資料圖)

21世紀(jì)經(jīng)濟(jì)報(bào)道記者董靜怡 上海報(bào)道

8月9日消息，AI應(yīng)用“妙鴨相機(jī)”已連續(xù)多日火爆出圈，上線不到一個(gè)月，算力需求暴漲數(shù)百倍。不過(guò)，通過(guò)在阿里云上緊急擴(kuò)容后，其因用戶(hù)暴增導(dǎo)致的排隊(duì)情況有所緩解，排隊(duì)時(shí)長(zhǎng)已大幅減少，用戶(hù)體驗(yàn)得到改善。

自7月17日正式上線以來(lái)，“妙鴨相機(jī)”就以9塊9價(jià)格和高質(zhì)量“寫(xiě)真”照獲得了大量關(guān)注，成千上萬(wàn)的用戶(hù)涌進(jìn)應(yīng)用中，高峰期一度有4000-5000人排隊(duì)，需要等待10多個(gè)小時(shí)才能出片。

某資深I(lǐng)T人表示，“妙鴨相機(jī)”的相片生成需要龐大的GPU算力進(jìn)行計(jì)算，按上述高峰期的量級(jí)至少需要幾千臺(tái)GPU服務(wù)器才能滿足，線下部署不切實(shí)際，云上部署能為創(chuàng)業(yè)公司節(jié)省大量成本和時(shí)間，但目前僅有少數(shù)云計(jì)算大廠具備這樣的算力儲(chǔ)備。

“此前大家對(duì)大模型訓(xùn)練需要的算力關(guān)注較多，尤其是GPT類(lèi)的模型訓(xùn)練，動(dòng)輒需要上萬(wàn)張顯卡。”上述資深人士稱(chēng)，隨著Llama2等開(kāi)源大模型的流行，大模型應(yīng)用推理端的算力需求更值得關(guān)注，當(dāng)AIGC進(jìn)入生產(chǎn)力時(shí)代，推理算力需求可能遠(yuǎn)高于訓(xùn)練算力。

隨著各個(gè)行業(yè)的AIGC開(kāi)發(fā)逐步完成，對(duì)業(yè)務(wù)開(kāi)展階段使用的推理算力需求開(kāi)始大幅增長(zhǎng)，未來(lái)幾個(gè)月推理的算力需求總量可能遠(yuǎn)高于訓(xùn)練算力。

以目前國(guó)內(nèi)算力規(guī)模最大的阿里云為例，其提供最大十萬(wàn)卡GPU規(guī)模集群的擴(kuò)展性，同時(shí)可承載多個(gè)萬(wàn)億參數(shù)大模型同時(shí)在線訓(xùn)練和推理。此外，阿里云還提供了AI加速套件AIACC，大幅提升計(jì)算效率，大模型Finetune的訓(xùn)練效率可提升60%，推理效率可提升100%以上。

據(jù)相關(guān)負(fù)責(zé)人透露，“妙鴨相機(jī)”已在阿里云上進(jìn)行緊急擴(kuò)容，應(yīng)對(duì)暴漲數(shù)百倍的算力需求。雖然算力一邊加，另一邊用戶(hù)也在漲，但高峰期排隊(duì)現(xiàn)象已經(jīng)有了緩解。

關(guān)鍵詞：