从僵硬的持续运行承诺到灵活计算：Jensen Huang为何主张重新思考AI的电力问题
引言：每项计算任务都必须要求完美的电力可用性吗？
建设更多人工智能 [AI] 基础设施，会引出一个显而易见的问题：电从哪里来？新增发电能力和更强的电网很重要。不过，还有一个较少受到关注的问题：计算能否更聪明地适应已经可用的电力？
Jensen Huang的论点从峰值需求与通常需求的区别出发。电力网络 [Power Grid] 必须为困难条件做好准备。但最大需求并不代表每个运行小时的情况。
机会在于围绕这种区别，设计部分计算工作负载 [Workloads]。这是一项关于灵活性的建议，而不是宣称能源限制已经消失。
1. 峰值需求不是持续需求
医院、交通系统、家庭和其他必要服务都需要可靠电力。电网必须考虑需求异常高的时期。
如果一个数据中心 [Data Centre] 坚持在所有条件下获得同样的不间断供电，就会给系统增加另一项苛刻承诺。若许多客户提出同样要求，供应商就必须围绕这些叠加的义务制定计划。
Huang的问题是，每项计算任务都需要这种保证程度吗？有些工作紧急，另一些可以等待、放慢，或转移到别处。把这些任务全部视为相同，可能使基础设施的提供变得比实际需要更困难。
某个时刻的闲置容量，不应与各地都得到保证的备用容量混淆。工程上的机会取决于地点、工作负载，以及与电力供应商达成的协议。
2. 平稳降级改变服务承诺
平稳降级 [Graceful Degradation] 意味着系统能以受控方式降低服务水平，而不是突然失效。
面对临时电力限制，计算系统可以降低处理速率。一些回答会更慢，不太紧急的任务可以推迟。有合适基础设施的情况下，关键工作可以转移到另一地点。
目标是在降低消耗的同时保留服务的重要部分。保护数据与始终保持最高速度，是不同要求。结果慢一些，并不一定意味着结果丢失。
这需要有意识的设计。不能因为合同把工作负载写成灵活的，它就真的变得灵活。
3. 客户是电力架构的一部分
Huang推理的重要一环涉及合同链条。客户向云服务提供商 [Cloud Service Provider] 要求严格的可用性承诺。提供商于是需要从自身的基础设施和电力供应商那里，获得相应保证。
每次谈判单独来看都可能合理。但这些承诺合在一起，可能形成几乎没有调整空间的系统。
因此，企业领导者应该理解哪些服务确实需要最强承诺。关键业务运行系统和可推迟的分析任务，不应自动采用完全相同的要求。
这既是工程决策，也是管理决策。必须有人负责服务变慢的后果、定义可接受的延迟，并确保不向客户承诺系统无法提供的东西。
4. 数据中心需要能执行的电力信号响应方式
灵活需求所需的不只是监测用电量。数据中心必须知道，可用电力减少时该做什么。
这意味着对工作负载分类、理解依赖关系，并决定哪些任务可以安全暂停。还意味着明确什么能够迁移，什么必须留在原处。
迁移计算，不等于在图上移动一条线。数据访问、网络容量、安全以及服务承诺，都会影响迁移是否合理。架构 [Architecture] 应该在困难时期到来之前，把这些限制明确列出。
检验是实际的：设施能否在守住必要承诺的同时降低需求？
5. 电力供应商需要另一种方案
第三个参与者是电力企业 [Utility]。Huang的提议要求供应商考虑提供不同保证程度的供电安排，而不是只提供最强的不间断承诺。
愿意偶尔接受限制的客户，可能利用不适合严格规定负荷 [Load] 的机会。能否在特定市场奏效，需要实际协议、合适设备和清楚的运行规则。
效率也依然重要。每单位能源完成更多有用计算会有帮助，但不能保证需求增长时总消耗会下降。更高效率与更灵活的需求，处理的是问题的不同部分。
结语：必须沿整个链条设计灵活性
AI的电力问题，不能只在处理器内部或只在发电站解决。客户预期、合同、软件、数据中心运行和电力供应相互影响。
Huang提出的有用挑战是，今天有些僵硬承诺是否必要。凡是可以接受灵活性的地方，都应把它变成有清晰边界的明确服务，而不是短缺时临时拼凑的回应。
目标是可靠的计算，懂得什么时候速度不可或缺，什么时候可以调整。这比要求每个工作负载在每一刻都达到最高性能，是更好的工程问题。
Powered By K7