От жёстких обещаний бесперебойности к гибким вычислениям: аргумент Jensen Huang за пересмотр энергетической проблемы ИИ

Jensen Huang

Введение: должна ли каждая вычислительная задача требовать идеальной доступности электричества?

Развитие инфраструктуры искусственного интеллекта [AI] ставит очевидный вопрос: откуда возьмётся электричество? Новая генерация и более мощные электросети важны. Но есть другой вопрос, которому уделяют меньше внимания. Могут ли вычисления разумнее приспосабливаться к уже доступной электроэнергии?

Аргумент Jensen Huang начинается с различия между пиковой и обычной потребностью. Электросеть [Power Grid] должна быть готова к сложным условиям. Её максимальная потребность не описывает каждый час работы.

Возможность состоит в том, чтобы проектировать некоторые вычислительные нагрузки [Workloads] с учётом этого различия. Это предложение о гибкости, а не утверждение об исчезновении энергетических ограничений.

1. Пиковая потребность не является постоянной

Больницы, транспортные системы, дома и другие жизненно важные службы нуждаются в надёжном электричестве. Сеть должна учитывать периоды необычно высокого спроса.

Центр обработки данных [Data Centre], требующий одинакового бесперебойного снабжения при любых условиях, добавляет системе ещё одно сложное обязательство. Если многие клиенты требуют того же, поставщикам приходится планировать с учётом совокупности этих обязательств.

Huang спрашивает, каждой ли вычислительной задаче нужен такой уровень гарантии. Часть работы срочная. Другая может подождать, выполняться медленнее или переместиться. Если считать все задачи одинаковыми, предоставлять инфраструктуру станет труднее, чем необходимо.

Неиспользуемую в определённый момент мощность не следует путать с гарантированным резервом повсюду. Инженерная возможность зависит от места, нагрузки и соглашения с поставщиком электричества.

2. Управляемое снижение качества меняет обещание сервиса

Управляемое снижение качества обслуживания [Graceful Degradation] означает, что система может контролируемо снизить уровень сервиса, а не внезапно отказать.

Вычислительная система может ответить на временное ограничение мощности снижением скорости обработки. Некоторые ответы будут занимать больше времени. Менее срочные задачи можно отложить. При наличии подходящей инфраструктуры критическую работу можно перенести в другое место.

Цель состоит в сохранении важных частей сервиса при снижении потребления. Защита данных отличается от поддержания максимальной скорости в каждый момент. Более медленный результат не обязательно является потерянным результатом.

Это требует продуманного проектирования. Нагрузка не станет гибкой только потому, что так написано в договоре.

3. Клиент является частью энергетической архитектуры

Важная часть рассуждений Huang касается цепочки договоров. Клиент запрашивает у поставщика облачных услуг [Cloud Service Provider] строгую гарантию доступности. Тому затем нужны соответствующие гарантии от собственных поставщиков инфраструктуры и электричества.

Каждые переговоры по отдельности могут выглядеть разумно. Вместе эти обещания способны создать систему, в которой почти нет места для адаптации.

Поэтому руководителям следует понимать, каким услугам действительно нужна наиболее строгая гарантия. Критическая операционная система бизнеса и откладываемая аналитическая задача не должны автоматически получать одинаковые требования.

Это управленческое решение не меньше, чем инженерное. Кто-то должен отвечать за последствия замедления сервиса, определить допустимые задержки и не допустить обещаний клиентам того, чего система не способна обеспечить.

4. Центру обработки данных нужен исполнимый ответ на сигнал об электроснабжении

Гибкий спрос требует большего, чем наблюдение за потреблением электричества. Центр должен знать, что делать, когда доступная мощность сокращается.

Для этого нужно классифицировать нагрузки, понимать их зависимости и определять, какие задачи можно безопасно приостановить. Также необходимо знать, что можно переместить, а что должно остаться на месте.

Перенести вычисления не то же самое, что передвинуть линию на схеме. Доступ к данным, пропускная способность сети, безопасность и обязательства по сервису влияют на разумность переноса. Архитектура [Architecture] должна явно обозначить эти ограничения до наступления трудного периода.

Проверка практическая: может ли объект снизить потребность, сохранив свои основные обещания?

5. Поставщикам электричества нужен иной вид предложения

Третий участник - энергоснабжающая компания [Utility]. Предложение Huang призывает рассмотреть схемы снабжения с разными уровнями гарантии, а не предлагать только самое строгое обязательство бесперебойной подачи.

Клиент, готовый иногда принимать ограничения, может использовать возможность, не подходящую для жёстко заданной нагрузки [Load]. Чтобы это работало на конкретном рынке, нужны реальное соглашение, подходящее оборудование и ясные правила эксплуатации.

Эффективность тоже остаётся важной. Больше полезных вычислений на единицу энергии помогает, но не гарантирует снижения общего потребления при росте спроса. Лучшая эффективность и большая гибкость спроса решают разные части проблемы.

Заключение: гибкость нужно проектировать по всей цепочке

Энергетическую проблему ИИ нельзя решить только внутри процессора или только на электростанции. Ожидания клиентов, договоры, программное обеспечение, работа центров обработки данных и электроснабжение взаимосвязаны.

Полезный вызов Huang состоит в вопросе, необходимы ли некоторые сегодняшние жёсткие обещания. Там, где гибкость приемлема, она должна стать явно определённой услугой с чёткими границами, а не импровизированным ответом на дефицит.

Цель - надёжные вычисления, учитывающие, когда скорость необходима, а когда возможна адаптация. Это лучший инженерный вопрос, чем требование максимальной производительности от каждой нагрузки в каждый момент.

Powered By K7