由僵硬嘅持續運作承諾到靈活計算：Jensen Huang點解主張重新思考AI電力問題
引言：每項計算任務都必須要求完美嘅供電可用性嗎？
建設更多人工智能 [AI] 基礎設施，會帶出一個明顯問題：電力由邊度嚟？新增發電能力同更強嘅電網好重要。不過，仲有一個較少人留意嘅問題：計算可唔可以更聰明咁適應已經有嘅電力？
Jensen Huang嘅論點由峰值需求同平常需求嘅分別開始。電力網 [Power Grid] 必須為困難情況做好準備。最高需要量唔代表每個運作鐘頭嘅情況。
機會在於按照呢個分別設計部分計算工作負載 [Workloads]。呢個係關於靈活性嘅提議，唔係聲稱能源限制已經消失。
1. 峰值需要唔係持續需要
醫院、交通系統、住戶同其他必要服務，需要可靠電力。電網必須預留需求異常高嘅時段所需能力。
一個數據中心 [Data Centre] 如果堅持任何情況都要同樣嘅不間斷供電，就會為系統增加另一項苛刻承諾。如果好多客戶都咁要求，供應商就必須按照合起嚟嘅責任規劃。
Huang問嘅係，每項計算任務都需要呢種保證程度嗎？有啲工作急，有啲可以等、可以慢啲，或者轉去其他地方。將全部任務當成一樣，可能令基礎設施供應比實際所需更困難。
某個時候未用嘅容量，唔應該同各處都有保證嘅備用容量混淆。工程機會取決於地點、工作負載，同埋與電力供應商嘅協議。
2. 平穩降級改變服務承諾
平穩降級 [Graceful Degradation] 係指系統可以受控咁降低服務水平，而唔係突然失效。
計算系統可以降低處理速度，回應暫時電力限制。有啲答案會慢啲，冇咁急嘅任務可以延後。有合適基礎設施時，關鍵工作可以搬去另一個地點。
目標係減少消耗，同時保住服務嘅重要部分。保護數據，同時刻維持最高速度係兩種要求。結果慢啲，唔一定代表結果冇咗。
呢點需要刻意設計。唔會因為合約話工作負載靈活，佢就真係變得靈活。
3. 客戶係電力架構嘅一部分
Huang推理嘅重要一環涉及合約鏈條。客戶向雲端服務供應商 [Cloud Service Provider] 要求嚴格嘅可用性承諾。供應商之後就需要由自己嘅基礎設施同電力供應商取得相應保證。
每次談判單獨睇都可能合理。但承諾合埋一齊，可能形成冇乜適應空間嘅系統。
所以企業領導應該理解邊啲服務真係需要最強承諾。關鍵業務系統同可以延後嘅分析任務，唔應自動用完全相同嘅要求。
呢個既係工程決策，亦係管理決策。必須有人負責服務變慢嘅後果、定義可接受延誤，同確保唔會向客戶承諾系統提供唔到嘅嘢。
4. 數據中心要有可執行嘅電力訊號回應
靈活需求唔止需要監察用電量。可用電力減少時，數據中心必須知道做乜。
即係要將工作負載分類、理解依賴關係，同決定邊啲任務可以安全暫停。亦要知道乜嘢搬得，乜嘢必須留喺原處。
搬計算唔等於喺圖上搬條線。數據存取、網絡容量、安全同服務承諾，都影響搬遷係咪合理。架構 [Architecture] 應該喺困難時段到嚟之前，清楚列出呢啲限制。
測試係實際嘅：設施可唔可以減低需求，同時守住必要承諾？
5. 電力供應商需要另一種方案
第三方係電力企業 [Utility]。Huang嘅建議要求供應商考慮保證程度唔同嘅供電安排，而唔係只提供最強嘅不間斷承諾。
願意偶爾接受限制嘅客戶，可能利用到唔適合僵硬指定負荷 [Load] 嘅機會。喺個別市場行唔行得通，需要實際協議、合適設備同清楚運作規則。
效率亦仍然重要。每單位能源做更多有用計算有幫助，但唔保證需求增長時總消耗會跌。更高效率同更靈活需求，處理問題嘅唔同部分。
結語：必須沿成條鏈設計靈活性
AI電力問題唔可以只喺處理器內部，或者只喺發電站解決。客戶預期、合約、軟件、數據中心運作同電力供應互相影響。
Huang有用嘅挑戰，係問今日有啲僵硬承諾係咪必要。接受到靈活性嘅地方，應該將佢變成有清楚限制嘅明確服務，而唔係短缺時臨時應對。
目標係可靠嘅計算，知道幾時速度不可或缺、幾時可以適應。呢個工程問題，比要求每個負載每一刻都用最高性能更好。
Powered By K7