Dari Janji Waktu Aktif yang Kaku ke Komputasi Fleksibel: Argumen Jensen Huang untuk Memikirkan Ulang Masalah Daya AI
Pendahuluan: Haruskah setiap tugas komputasi menuntut ketersediaan daya yang sempurna?
Membangun lebih banyak infrastruktur [Infrastructure] kecerdasan buatan [AI] memunculkan pertanyaan yang jelas: dari mana listriknya akan berasal? Pembangkit baru dan jaringan listrik yang lebih kuat memang penting. Namun, ada pertanyaan lain yang kurang mendapat perhatian. Bisakah komputasi beradaptasi lebih cerdas terhadap daya yang sudah tersedia?
Argumen Jensen Huang dimulai dari perbedaan antara permintaan puncak dan permintaan biasa. Jaringan listrik [Power Grid] harus siap menghadapi kondisi sulit. Kebutuhan maksimumnya tidak menggambarkan setiap jam operasinya.
Peluangnya adalah merancang sebagian beban kerja komputasi [Computing Workloads] berdasarkan perbedaan tersebut. Ini adalah usulan tentang fleksibilitas, bukan klaim bahwa kendala energi telah hilang.
1. Kebutuhan puncak bukan kebutuhan yang terus-menerus
Rumah sakit, sistem transportasi, rumah tangga, dan layanan penting lainnya membutuhkan listrik yang andal. Jaringan harus memperhitungkan periode ketika permintaan sangat tinggi di luar kebiasaan.
Pusat data [Data Centre] yang menuntut pasokan tanpa putus yang sama dalam segala kondisi menambahkan janji berat lain pada sistem itu. Jika banyak pelanggan mengajukan permintaan yang sama, penyedia harus merencanakan berdasarkan keseluruhan kewajiban tersebut.
Pertanyaan Huang adalah apakah setiap tugas komputasi membutuhkan tingkat jaminan itu. Sebagian pekerjaan mendesak. Pekerjaan lain bisa menunggu, berjalan lebih lambat, atau dipindahkan. Menganggap semua tugas ini identik dapat membuat penyediaan infrastruktur lebih sulit daripada yang diperlukan.
Kapasitas yang tidak terpakai pada suatu waktu tidak boleh disamakan dengan kapasitas cadangan yang terjamin di semua tempat. Peluang rekayasanya bergantung pada lokasi, beban kerja [Workload], dan kesepakatan dengan penyedia listrik.
2. Penurunan layanan terkendali mengubah janji layanan
Penurunan layanan terkendali [Graceful Degradation] berarti sistem dapat mengurangi tingkat layanannya secara terkontrol, alih-alih tiba-tiba gagal.
Sistem komputasi dapat menanggapi batas daya sementara dengan menurunkan laju pemrosesan [Processing Rate]. Sebagian jawaban akan memerlukan waktu lebih lama. Tugas yang kurang mendesak dapat ditunda. Jika infrastruktur yang sesuai tersedia, pekerjaan kritis dapat dipindahkan ke lokasi lain.
Tujuannya adalah mempertahankan bagian layanan yang penting sambil mengurangi konsumsi. Melindungi data merupakan kebutuhan yang berbeda dari mempertahankan kecepatan maksimum setiap saat. Hasil yang lebih lambat tidak harus berarti hasil yang hilang.
Ini membutuhkan desain yang disengaja. Beban kerja tidak bisa menjadi fleksibel hanya karena kontrak menyebutnya demikian.
3. Pelanggan merupakan bagian dari arsitektur daya
Bagian penting dari penalaran Huang berkaitan dengan rantai kontrak. Pelanggan meminta komitmen ketersediaan yang ketat dari penyedia layanan awan [Cloud Service Provider]. Penyedia itu kemudian membutuhkan jaminan yang sepadan dari pemasok infrastruktur dan listriknya sendiri.
Setiap negosiasi dapat terlihat masuk akal jika dipandang sendiri. Jika digabungkan, janji-janji tersebut dapat menciptakan sistem yang menyisakan sedikit ruang untuk beradaptasi.
Karena itu, pemimpin bisnis perlu memahami layanan mana yang benar-benar membutuhkan komitmen terkuat. Sistem operasional yang kritis [Operational System] dan pekerjaan analisis yang dapat ditunda tidak seharusnya otomatis mendapat persyaratan yang sama.
Ini merupakan keputusan manajemen sekaligus keputusan rekayasa. Seseorang harus bertanggung jawab atas konsekuensi layanan yang lebih lambat, menetapkan penundaan yang dapat diterima, dan memastikan pelanggan tidak dijanjikan sesuatu yang tidak mampu diberikan sistem.
4. Pusat data membutuhkan respons yang dapat dijalankan terhadap sinyal daya
Permintaan fleksibel membutuhkan lebih dari sekadar pemantauan konsumsi listrik. Pusat data harus tahu apa yang dilakukan ketika daya yang tersedia berkurang.
Itu berarti menggolongkan beban kerja, memahami ketergantungannya [Dependencies], dan memutuskan tugas mana yang dapat dihentikan sementara dengan aman. Itu juga berarti mengetahui apa yang bisa dipindahkan dan apa yang harus tetap berada di tempatnya.
Memindahkan komputasi tidak sama dengan memindahkan garis pada diagram. Akses data [Data Access], kapasitas jaringan [Network Capacity], keamanan, dan komitmen layanan semuanya memengaruhi apakah perpindahan masuk akal. Arsitektur [Architecture] harus memperjelas kendala itu sebelum masa sulit datang.
Ujiannya bersifat praktis: bisakah fasilitas mengurangi permintaan sambil tetap memenuhi janji-janji pentingnya?
5. Penyedia listrik memerlukan jenis penawaran lain
Peserta ketiga adalah perusahaan utilitas [Utility]. Usulan Huang meminta penyedia mempertimbangkan pengaturan pasokan dengan tingkat jaminan yang berbeda, bukan hanya menawarkan komitmen tanpa putus yang paling kuat.
Pelanggan yang bersedia menerima pembatasan sesekali mungkin dapat memakai peluang yang tidak cocok bagi beban dengan ketentuan kaku. Apakah ini bekerja di pasar tertentu membutuhkan kesepakatan nyata, peralatan yang sesuai, dan aturan operasi yang jelas.
Efisiensi [Efficiency] juga tetap penting. Lebih banyak komputasi berguna per unit energi membantu, tetapi tidak menjamin konsumsi total turun ketika permintaan tumbuh. Efisiensi yang lebih baik dan fleksibilitas permintaan yang lebih baik menangani bagian masalah yang berbeda.
Kesimpulan: Fleksibilitas harus dirancang di seluruh rantai
Masalah daya AI tidak bisa diselesaikan hanya di dalam prosesor [Processor] atau hanya di pembangkit listrik. Harapan pelanggan, kontrak, perangkat lunak [Software], operasi pusat data, dan pasokan listrik saling berinteraksi.
Tantangan Huang yang berguna adalah mempertanyakan apakah sebagian janji kaku saat ini memang perlu. Jika fleksibilitas dapat diterima, fleksibilitas itu harus menjadi layanan yang dinyatakan jelas dengan batas yang jelas, bukan tanggapan improvisasi terhadap kekurangan.
Tujuannya adalah komputasi andal yang memahami kapan kecepatan sangat penting dan kapan adaptasi dimungkinkan. Itu pertanyaan rekayasa yang lebih baik daripada menuntut kinerja maksimum dari setiap beban kerja pada setiap saat.
Powered By K7