AI推理時代：算力能耗瓶頸下的“金鑰”何在？

2024-11-16 01:35:35 2

作者 | 程茜

編輯 | 漠影

2024年，千行百業對AI推理的需求將呈現出爆發式增長，行業對算力的需求遠遠超越以往。在這樣的形勢下，如何突破能耗瓶頸，進而獲取更充足的算力，已經成為每個企業迫在眉睫且亟待解決的關鍵問題。

然而，當前的現實情況是有效算力供給已無法滿足算力需求：一方面，從儲備到應用的算力需求都愈發旺盛，OpenAI CEO召集全球投資者組建聯盟為大模型構建基礎設施，馬斯克的無人駕駛計程車Cybercab為科技行業描繪了未來感十足的面面，還有效能愈發強大的GPT-o1等模型層出不窮。

另一方面，資料中心的算力潛能尚未被完全挖掘出來。資料中心常被認為是“耗電怪獸”，因為伺服器執行伴隨著熱量釋放，溫度一旦超過極限值，伺服器效能就會顯著降低，限制資料中心算力發揮。於是各類創新技術湧現，試圖讓資料中心再次突破能效瓶頸，釋放出被束縛的算力潛能。

這背後的關鍵變數就是冷卻技術，液冷技術作為推手幫助資料中心一次次突破制約。就在聯想集團Tech World上，聯想集團董事長兼CEO楊元慶與NVIDIA創始人兼CEO黃仁勳，這兩大全球科技行業頂尖企業的領軍者同臺，聯合釋出全新液冷AI伺服器，勇闖“最大工業革命”。

Scaling Law要失效了？Ilya曝自家創企採用替代方法，稱行業迴歸“發現”階段

今天，伴隨2024/2025財年Q2財報，聯想集團釋出《Game of AI》系列知識科普影片的第二集《資料中心：如何與世界交換算力》。

本文標籤

相關文章

最新發布

最新推薦

歡迎來到貳閱資訊平台，這裏是壹個彙聚了娛樂風采、時尚潮流、健康生活、金融市場動態、體育激情、曆史深度、科技創新及IT前沿等多元化領域的綜合型文章站點。我們致力于打造壹個豐富多彩的信息世界，讓每壹位訪客都能在這裏找到屬于自己的興趣與熱情。