Aidan Gomez認為,LLM發(fā)展已進入平臺期,簡單擴大模型規(guī)模帶來的邊際效益正在遞減,而推理能力將成為未來突破口,并將帶來新的商業(yè)模式和市場機遇——從"買更大的算力"變成了"多給AI一點思考時間"。
作者:硬AI
來源:硬AI
AI狂飆突進的時代,真的要結(jié)束了嗎?
隨著scaling law撞墻新聞爆出,全球科技圈、資本市場關(guān)于大模型發(fā)展觸及天花板的討論愈演愈烈。那么,AI發(fā)展是否放緩?后續(xù)又將如何發(fā)展?商業(yè)模式如何突破?
針對一系列焦點問題,人工智能領(lǐng)域最具影響力的論文《Attention Is All You Need》的聯(lián)合作者,Cohere聯(lián)合創(chuàng)始人兼CEO Aidan Gomez在訪談中分享了自己對AI發(fā)展的深度見解。
他認為,LLM發(fā)展已進入平臺期,而推理能力將成為未來突破口,并將帶來新的商業(yè)模式和市場機遇。同時,他也提醒投資者警惕模型價格傾銷,關(guān)注 AGI 發(fā)展趨勢。
對于scaling law放緩的問題,Gomez認為,簡單擴大模型規(guī)模帶來的邊際效益正在遞減。以繪畫為例,Gomez指出 LLM 的發(fā)展初期如同用大筆觸快速完成基礎(chǔ)構(gòu)圖,但隨著模型需要處理更精細的任務,如同繪畫需要越來越細的筆觸來完善細節(jié),模型改進需要的數(shù)據(jù)也越來越精細,這導致獲取高質(zhì)量數(shù)據(jù)的成本越來越高,最終模型的規(guī)模化發(fā)展將受限于人類知識的邊界和專家數(shù)據(jù)的獲取難度。
推理能力方面,Gomez表示,推理能力可以讓 LLM 不僅簡單地記憶輸入輸出對,還可以像人類一樣進行多步驟的思考和推理,解決更復雜的問題。而這,這帶來了一個革命性的變化——企業(yè)不必再為提升AI能力投入巨額固定成本,而是可以通過增加推理時間來實現(xiàn)。用通俗的話說,就是從"買更大的算力"變成了"多給AI一點思考時間"。
Gomez還認為,推理時間計算量的增加還將對芯片層和數(shù)據(jù)中心建設(shè)產(chǎn)生影響,未來需要開發(fā)更適合處理推理任務的芯片,以及建設(shè)更適合分布式計算的數(shù)據(jù)中心。
以下是訪談內(nèi)容精編:
LLM發(fā)展進入平臺期,推理能力將成未來突破口
問:LLM 發(fā)展是否已經(jīng)進入平臺期?未來的突破口在哪里?
Gomez:
問:影響模型規(guī)?;l(fā)展的因素有哪些?
Gomez:
2. 推理能力將帶來新的商業(yè)模式和市場機遇
問:推理能力將如何改變行業(yè)格局?
答:
問:如何理解推理能力?
答:
問:什么類型的問題更適合使用推理能力解決?
答:
問:市場普遍低估了推理時間計算的哪些方面?
答:
3. Cohere: 自主研發(fā)模型,打造差異化競爭優(yōu)勢
問:Cohere 為什么選擇自主研發(fā)模型?
答:
問:LLM 是否適用于所有領(lǐng)域?
答:
4. 警惕模型價格傾銷,關(guān)注 AGI 發(fā)展趨勢
問:市場上 LLM 價格下降是否意味著模型商品化?
答:
問:如何看待 AGI 的發(fā)展?
答:
本文來自微信公眾號“硬AI”,關(guān)注更多AI前沿資訊請移步這里
市場有風險,投資需謹慎。本文不構(gòu)成個人投資建議,也未考慮到個別用戶特殊的投資目標、財務狀況或需要。用戶應考慮本文中的任何意見、觀點或結(jié)論是否符合其特定狀況。據(jù)此投資,責任自負。
發(fā)表評論