경직된 무중단 운영 약속에서 유연한 컴퓨팅으로: AI 전력 문제를 다시 생각하자는 Jensen Huang의 주장
서론: 모든 컴퓨팅 작업에 완벽한 전력 가용성이 필요한가?
인공지능 [AI] 인프라 [Infrastructure]를 더 구축하면 분명한 질문이 생깁니다. 전기는 어디에서 구할 것입니까? 새로운 발전 설비와 더 강한 전력망이 중요합니다. 그러나 상대적으로 관심을 덜 받는 또 다른 질문이 있습니다. 컴퓨팅이 이미 이용할 수 있는 전력에 더 지능적으로 적응할 수 있을까요?
Jensen Huang의 주장은 최대 수요와 평상시 수요의 차이에서 출발합니다. 전력망 [Power Grid]은 어려운 상황에 대비해야 합니다. 하지만 최대 필요량이 모든 운영 시간의 모습을 설명하지는 않습니다.
기회는 일부 컴퓨팅 작업 부하 [Computing Workloads]를 이 차이에 맞춰 설계하는 데 있습니다. 이는 유연성에 관한 제안이지 에너지 제약이 사라졌다는 주장이 아닙니다.
1. 최대 필요량은 상시 필요량이 아닙니다
병원, 교통 시스템, 가정, 그 밖의 필수 서비스에는 안정적인 전기가 필요합니다. 전력망은 수요가 유난히 높은 기간을 고려해야 합니다.
모든 상황에서 동일한 무중단 공급을 고집하는 데이터센터 [Data Centre]는 이 시스템에 또 하나의 까다로운 약속을 더합니다. 많은 고객이 같은 요구를 하면 공급자는 그 약속들을 합쳐서 계획해야 합니다.
Huang의 질문은 모든 컴퓨팅 작업에 그 정도 보장이 필요한지입니다. 어떤 일은 시급합니다. 다른 일은 기다리거나 더 천천히 실행되거나 다른 곳으로 옮길 수 있습니다. 이 모든 작업을 똑같이 취급하면 인프라 공급이 필요 이상으로 어려워질 수 있습니다.
어느 시점에 사용하지 않는 용량을 모든 장소에서 보장되는 여유 용량과 혼동해서는 안 됩니다. 공학적 기회는 위치, 작업 부하 [Workload], 전력 공급자와의 합의에 달려 있습니다.
2. 점진적 성능 저하는 서비스 약속을 바꿉니다
점진적 성능 저하 [Graceful Degradation]란 갑자기 작동을 멈추는 대신 통제된 방식으로 서비스 수준을 낮출 수 있다는 뜻입니다.
컴퓨팅 시스템은 일시적 전력 제한에 대응해 처리 속도 [Processing Rate]를 낮출 수 있습니다. 일부 답변에는 더 긴 시간이 걸릴 것입니다. 덜 시급한 작업은 미룰 수 있습니다. 적절한 인프라가 있다면 중요한 작업을 다른 위치로 옮길 수 있습니다.
목표는 소비를 줄이면서 서비스의 중요한 부분을 보존하는 것입니다. 데이터를 보호하는 것은 매 순간 최고 속도를 유지하는 것과 다른 요구사항입니다. 결과가 느리다고 결과를 잃는 것은 아닙니다.
여기에는 의도적인 설계가 필요합니다. 계약서에 유연하다고 적혀 있다는 이유만으로 작업 부하가 유연해질 수는 없습니다.
3. 고객도 전력 아키텍처의 일부입니다
Huang의 논리에서 중요한 부분은 계약의 연결 구조입니다. 고객은 클라우드 서비스 제공업체 [Cloud Service Provider]에 까다로운 가용성 보장을 요구합니다. 제공업체는 다시 자체 인프라와 전력 공급자로부터 그에 상응하는 보장을 받아야 합니다.
각 협상은 따로 보면 합리적일 수 있습니다. 그러나 합쳐진 약속들은 적응의 여지가 거의 없는 시스템을 만들 수 있습니다.
따라서 기업 리더는 어떤 서비스에 실제로 가장 강한 보장이 필요한지 알아야 합니다. 핵심 운영 시스템 [Operational System]과 연기 가능한 분석 작업에 자동으로 동일한 요구사항을 적용해서는 안 됩니다.
이는 공학적 결정이자 경영적 결정입니다. 누군가는 서비스가 느려지는 결과를 책임지고, 허용 가능한 지연을 정하며, 시스템이 이행할 수 없는 것을 고객에게 약속하지 않도록 해야 합니다.
4. 데이터센터에는 전력 신호에 실행 가능한 대응이 필요합니다
유연한 수요에는 전력 소비 모니터링 이상의 것이 필요합니다. 데이터센터는 이용 가능한 전력이 줄었을 때 무엇을 할지 알아야 합니다.
작업 부하를 분류하고 종속 관계 [Dependencies]를 이해하며 어떤 작업을 안전하게 일시 중지할 수 있는지 결정해야 한다는 뜻입니다. 무엇을 이동할 수 있고 무엇이 제자리에 있어야 하는지도 알아야 합니다.
컴퓨팅을 이동하는 것은 도표의 선을 옮기는 것과 다릅니다. 데이터 접근 [Data Access], 네트워크 용량 [Network Capacity], 보안, 서비스 약속이 모두 이전의 타당성에 영향을 줍니다. 아키텍처 [Architecture]는 어려운 시기가 오기 전에 이런 제약을 명확히 해야 합니다.
시험 기준은 실제적입니다. 시설이 필수적인 약속을 지키면서 수요를 낮출 수 있습니까?
5. 전력 공급자에게는 다른 종류의 제안이 필요합니다
세 번째 참여자는 전력사업자 [Utility]입니다. Huang의 제안은 공급자에게 가장 강한 무중단 약속만 제시하는 대신 보장 수준이 다른 공급 방식을 검토해 달라는 것입니다.
때때로 제한을 받아들일 의향이 있는 고객은 엄격하게 규정된 부하에는 맞지 않는 기회를 활용할 수 있습니다. 이것이 특정 시장에서 성립하려면 실제 합의, 적절한 장비, 명확한 운영 규칙이 필요합니다.
효율 [Efficiency]도 여전히 중요합니다. 에너지 단위당 유용한 컴퓨팅을 더 많이 얻는 것은 도움이 되지만, 수요가 증가할 때 총소비가 줄어든다고 보장하지는 않습니다. 더 나은 효율과 더 나은 수요 유연성은 문제의 서로 다른 부분을 해결합니다.
결론: 전체 연결 구조에 걸쳐 유연성을 설계해야 합니다
AI 전력 문제는 프로세서 [Processor] 내부에서만, 또는 발전소에서만 해결할 수 없습니다. 고객 기대, 계약, 소프트웨어 [Software], 데이터센터 운영, 전력 공급이 서로 영향을 줍니다.
Huang이 제기하는 유용한 도전은 오늘날의 경직된 약속 중 일부가 필요한지 묻는 것입니다. 유연성을 받아들일 수 있는 곳에서는 부족 사태에 대한 즉흥적 대응이 아니라 한계가 명확한 공식 서비스가 되어야 합니다.
목표는 언제 속도가 필수이고 언제 적응이 가능한지 이해하는 신뢰할 수 있는 컴퓨팅입니다. 모든 작업 부하에 매 순간 최고 성능을 요구하는 것보다 더 나은 공학적 질문입니다.
Powered By K7