從僵硬个不停機承諾到靈活計算:Jensen Huang為啥主張重想AI電力問題

Jensen Huang

引言:每樁計算工作,儕一定要完全可靠个供電伐?

人工智能 [AI] 基礎設施造得多,就有一個明擺个問題:電從啥地方來?新發電能力搭更強个電網儕要緊。不過還有一個問題,人家注意得少一眼:對已經有个電,計算能勿能更聰明地適應?

Jensen Huang个講法,從最高需求搭平常需求个分別起步。電力網 [Power Grid] 要為難个條件準備好。不過,最高需要量,勿代表每個運行鐘頭个情形。

機會是照搿個分別,設計一部分計算工作負載 [Workloads]。搿是靈活性个建議,勿是講能源限制已經嘸沒仔。

1. 最高需要量,勿是常時需要量

醫院、交通系統、住家搭別个必需服務,需要可靠个電。電網要算進需求特別高个時段。

一個數據中心 [Data Centre],若啥條件下儕堅持同樣不停个供電,就畀系統再加一個難守个承諾。好多客戶儕搿樣要求,供應商就要照合起來个責任做計劃。

Huang問个是,每樁計算任務儕需要搿種保證伐?有眼工作急,另外有眼可以等、可以做慢一眼,或者換地方。拿伊拉儕當成一樣,供基礎設施就可能比需要个更難。

某個辰光朆用个容量,勿要當成啥地方儕有保證个空餘容量。工程機會要看地點、工作負載,搭同電力供應商个協議。

2. 平穩降級會改變服務承諾

平穩降級 [Graceful Degradation] 是講系統能受控地降低服務水準,勿是突然壞脫。

電力臨時受限制,計算系統可以拿處理速度降下來。有眼答案慢一眼,勿急个任務可以往後放。有合適基礎設施个地方,關鍵工作也可以搬到別處。

目的是少用電,同時守住服務裏要緊个部分。護住數據,搭每一刻儕保持最高速度,是兩種要求。結果慢一眼,勿一定就是結果丟脫。

搿要有心設計。合同裏寫靈活,勿會讓工作負載自家變靈活。

3. 客戶也是電力架構个一部分

Huang个推理裏,有一塊要緊个是合同鏈條。客戶向雲服務供應商 [Cloud Service Provider] 要一個嚴格个可用性承諾。供應商搿末也要從自家基礎設施搭電力供應者拿到相應保證。

每回談判分開看,可能儕合理。承諾一合,卻可能造出一個嘸啥適應空間个系統。

所以做生意个領導,應該弄懂哪些服務真个要最強保證。關鍵業務系統,搭一樁可以延後个分析工作,勿應自動用同樣要求。

搿既是工程決定,也是管理決定。服務慢个後果要有人負責,要定好多少耽擱可以接受,還要保證勿畀客戶一個系統做勿到个承諾。

4. 數據中心要有做得出个電力信號回應

需求要靈活,勿光是盯用電量。電少个辰光,數據中心要曉得做啥。

搿就是要拿工作負載分類、懂伊拉个依賴關係,搭定好哪些任務能安全停一停。還要曉得啥搬得動,啥一定要留原處。

搬計算,勿是勒圖上搬一條線。拿數據个權限、網絡容量、安全搭服務承諾,儕影響搬地方合理伐。難時段來之前,架構 [Architecture] 就應該拿搿眼限制講明白。

考驗是實際个:設施能勿能一面降低需求,一面守住必要承諾?

5. 電力供應商要有另一種供法

第三方是電力企業 [Utility]。Huang个提議,是請供應商想想保證程度勿同个供電安排,勿要只畀最強个不停電承諾。

客戶若肯偶爾受限制,可能用得上一個對僵硬規定个負荷 [Load] 勿合適个機會。勒某個市場行得通伐,要有真協議、合適設備搭清楚个運行規矩。

效率仍舊要緊。每單位能源做更多有用計算,儕有幫助,但需求長个辰光,勿保證總消耗會少。效率更好搭需求更靈活,處理个是問題个勿同部分。

結語:整條鏈上儕要設計靈活性

AI電力問題,勿能只勒處理器裏,或者只勒發電站解。客戶預期、合同、軟件、數據中心運行搭電力供應,儕互相作用。

Huang有用个挑戰,是問今朝有眼僵硬承諾必要伐。能接受靈活个地方,應該拿伊變成有明白限制个正式服務,勿是缺電時臨時拼个辦法。

目標是可靠个計算,曉得啥辰光速度必需,啥辰光可以適應。比要求每個負載每一刻儕做最高性能,搿是更好个工程問題。

Powered By K7