Từ cam kết thời gian hoạt động cứng nhắc đến điện toán linh hoạt: Lập luận của Jensen Huang về việc nghĩ lại bài toán điện năng của AI

Mở đầu: Mọi nhiệm vụ điện toán có cần nguồn điện luôn sẵn sàng tuyệt đối không?
Xây thêm hạ tầng trí tuệ nhân tạo [AI] đặt ra câu hỏi rõ ràng: điện sẽ đến từ đâu? Nguồn phát mới và mạng điện mạnh hơn đều quan trọng. Tuy nhiên, còn một câu hỏi ít được chú ý hơn. Điện toán có thể thích ứng thông minh hơn với lượng điện đã có không?
Lập luận của ông Jensen Huang bắt đầu từ sự khác biệt giữa nhu cầu đỉnh và nhu cầu thông thường. Lưới điện [Power Grid] phải sẵn sàng cho điều kiện khó khăn. Mức yêu cầu tối đa không mô tả mọi giờ vận hành.
Cơ hội là thiết kế một số khối lượng công việc [Workloads] điện toán dựa trên khác biệt đó. Đây là đề xuất về tính linh hoạt, không phải tuyên bố rằng ràng buộc năng lượng đã biến mất.
1. Yêu cầu lúc cao điểm không phải yêu cầu thường trực
Bệnh viện, hệ thống giao thông, hộ gia đình và các dịch vụ thiết yếu khác cần điện đáng tin cậy. Lưới điện phải dự phòng những giai đoạn nhu cầu cao bất thường.
Một trung tâm dữ liệu [Data Centre] đòi cùng mức cấp điện liên tục trong mọi điều kiện sẽ bổ sung một cam kết khắt khe cho hệ thống. Nếu nhiều khách hàng cùng yêu cầu như vậy, nhà cung cấp phải lập kế hoạch theo tổng các nghĩa vụ đó.
Câu hỏi của ông Huang là liệu mọi nhiệm vụ điện toán có cần mức bảo đảm ấy không. Một số công việc khẩn cấp. Những việc khác có thể chờ, chạy chậm hơn hoặc chuyển đi nơi khác. Coi tất cả giống nhau có thể khiến việc cung cấp hạ tầng khó hơn mức cần thiết.
Không nên nhầm công suất chưa dùng tại một thời điểm với công suất dư được bảo đảm ở khắp nơi. Cơ hội kỹ thuật phụ thuộc vào địa điểm, công việc và thỏa thuận với nhà cung cấp điện.
2. Suy giảm có kiểm soát thay đổi lời hứa dịch vụ
Suy giảm có kiểm soát [Graceful Degradation] nghĩa là hệ thống có thể hạ mức dịch vụ một cách chủ động thay vì đột ngột hỏng.
Hệ thống điện toán có thể đáp ứng giới hạn điện tạm thời bằng cách giảm tốc độ xử lý. Một số câu trả lời sẽ mất lâu hơn. Nhiệm vụ ít khẩn cấp có thể được hoãn lại. Khi có hạ tầng phù hợp, công việc trọng yếu có thể chuyển sang địa điểm khác.
Mục tiêu là giữ phần quan trọng của dịch vụ trong khi giảm tiêu thụ. Bảo vệ dữ liệu là yêu cầu khác với duy trì tốc độ tối đa mọi lúc. Kết quả chậm hơn không nhất thiết là kết quả bị mất.
Điều này cần thiết kế có chủ đích. Công việc không thể trở nên linh hoạt chỉ vì hợp đồng mô tả như vậy.
3. Khách hàng là một phần của kiến trúc điện năng
Một phần quan trọng trong lập luận của ông Huang liên quan đến chuỗi hợp đồng. Khách hàng yêu cầu nhà cung cấp dịch vụ đám mây [Cloud Service Provider] cam kết mức sẵn sàng cao. Nhà cung cấp sau đó cần bảo đảm tương ứng từ các bên cung cấp hạ tầng và điện cho mình.
Từng cuộc đàm phán có thể hợp lý khi xét riêng. Khi gộp lại, các lời hứa có thể tạo ra hệ thống rất ít dư địa thích ứng.
Vì vậy, lãnh đạo doanh nghiệp nên hiểu dịch vụ nào thực sự cần cam kết mạnh nhất. Một hệ thống vận hành trọng yếu và một việc phân tích có thể trì hoãn không nên tự động có yêu cầu giống hệt nhau.
Đây là quyết định quản lý cũng như kỹ thuật. Phải có người chịu trách nhiệm về hậu quả của dịch vụ chậm hơn, xác định độ trễ chấp nhận được và bảo đảm khách hàng không được hứa điều hệ thống không thể cung cấp.
4. Trung tâm dữ liệu cần cách phản ứng khả thi với tín hiệu điện năng
Nhu cầu linh hoạt đòi hỏi nhiều hơn theo dõi tiêu thụ điện. Trung tâm dữ liệu phải biết làm gì khi có ít điện hơn.
Điều đó có nghĩa là phân loại công việc, hiểu các phụ thuộc và quyết định nhiệm vụ nào có thể tạm dừng an toàn. Đồng thời phải biết cái gì chuyển được và cái gì phải ở nguyên chỗ.
Chuyển hoạt động tính toán không giống di chuyển một nét trên sơ đồ. Quyền truy cập dữ liệu, dung lượng mạng, an ninh và cam kết dịch vụ đều ảnh hưởng đến tính hợp lý của việc chuyển địa điểm. Kiến trúc [Architecture] nên nêu rõ những ràng buộc này trước khi giai đoạn khó khăn đến.
Phép thử rất thực tế: cơ sở có thể giảm nhu cầu trong khi giữ những lời hứa thiết yếu không?
5. Nhà cung cấp điện cần một kiểu chào cung cấp khác
Bên tham gia thứ ba là đơn vị điện lực [Utility]. Đề xuất của ông Huang yêu cầu các nhà cung cấp cân nhắc thỏa thuận cung ứng có nhiều mức bảo đảm, thay vì chỉ đưa ra cam kết liên tục mạnh nhất.
Khách hàng sẵn sàng chấp nhận giới hạn thỉnh thoảng có thể tận dụng cơ hội không phù hợp với phụ tải [Load] được quy định cứng nhắc. Để biết điều đó có hoạt động trong thị trường cụ thể hay không, cần thỏa thuận thực sự, thiết bị phù hợp và quy tắc vận hành rõ ràng.
Hiệu suất vẫn quan trọng. Nhiều tính toán hữu ích hơn trên mỗi đơn vị năng lượng có ích, nhưng không bảo đảm tổng tiêu thụ giảm khi nhu cầu tăng. Hiệu suất tốt hơn và nhu cầu linh hoạt hơn giải quyết những phần khác nhau của bài toán.
Kết luận: Phải thiết kế tính linh hoạt trên toàn chuỗi
Bài toán điện của AI không thể được giải quyết chỉ trong bộ xử lý hoặc chỉ ở nhà máy điện. Kỳ vọng khách hàng, hợp đồng, phần mềm, vận hành trung tâm dữ liệu và cung ứng điện tương tác với nhau.
Thách thức hữu ích của ông Huang là hỏi liệu một số lời hứa cứng nhắc hiện nay có cần thiết không. Nơi nào chấp nhận linh hoạt, nó nên thành dịch vụ công khai với giới hạn rõ ràng, thay vì phản ứng ứng biến khi thiếu hụt.
Mục tiêu là điện toán đáng tin cậy, hiểu khi nào tốc độ thiết yếu và khi nào có thể thích ứng. Đó là câu hỏi kỹ thuật tốt hơn việc đòi hiệu năng tối đa từ mọi công việc ở mọi thời điểm.
Powered By K7
