Setiap jawaban yang Anda dapatkan dari chatbot AI dimulai dengan listrik. Kata-kata muncul di layar Anda, tetapi pekerjaan sebenarnya terjadi di sebuah gedung jauh yang penuh dengan chip komputer. Chip-chip tersebut mengonsumsi daya, memindahkan data, dan menghasilkan panas yang cukup untuk memerlukan pendinginan berat dari pusat data AI.
Saat Anda mengalikan proses tersebut dengan jutaan permintaan, permintaan gambar, dan tugas bisnis, Anda mulai memahami mengapa jawaban cepat untuk pertanyaan yang terasa ringan menjadi permintaan fisik bagi pembangkit listrik dan kabel.
Utilitas listrik diminta untuk memenuhi permintaan tersebut dalam blok-blok besar yang terkonsentrasi. Kampus pusat data besar rata-rata bisa menggunakan listrik sebanyak kota kecil, dan perusahaan bisa merencanakan serta membangunnya jauh lebih cepat daripada yang bisa dipenuhi oleh utilitas.
Utilitas juga harus bersiap untuk jam-jam ketika pelanggan menggunakan listrik paling banyak, bahkan jika sebagian kapasitas tersebut tidak digunakan selama periode biasa. Singkatnya, pusat data ingin mendapatkan daya lebih cepat daripada yang bisa disediakan jaringan.
Satu solusi adalah membangun pembangkit listrik baru. Namun, ini adalah solusi yang sangat mahal dan memakan waktu, yang bisa membutuhkan miliaran dolar dan bertahun-tahun untuk beroperasi.
Namun, solusi lain adalah memindahkan sebagian pekerjaan komputer ke waktu lain.
Jawaban chatbot biasanya harus muncul segera, tetapi percobaan internal atau antrian pemrosesan video semalam bisa menunggu. Perangkat lunak yang bisa membedakan antara keduanya bisa memperlambat pekerjaan yang bisa ditunda saat listrik langka, lalu membiarkannya catch up saat daya lebih tersedia.
Percobaan kecil di Texas menunjukkan seperti apa pengaturan tersebut.
Luxor Energy, perusahaan yang berakar dari penambangan Bitcoin, bekerja sama dengan Bentaus, yang membuat perangkat lunak yang mengontrol berapa banyak daya yang digunakan oleh chip komputer. Bersama-sama, mereka mengendalikan satu Nvidia B200, sebuah chip berkekuatan tinggi yang dirancang untuk pekerjaan AI.
Chip tersebut sedang melakukan inferensi, yang artinya hanya menggunakan model AI yang sudah dilatih untuk menghasilkan jawaban, ketika perangkat lunak menyuruhnya mengonsumsi lebih sedikit listrik.
Perusahaan-perusahaan tersebut mengatakan konsumsi daya chip turun hingga sekitar 25% dari normal dalam setengah detik, dan memproses lebih sedikit permintaan selama pembatasan tersebut.
Ethan Vera, chief operating officer Luxor, mengatakan kepada CryptoSlate bahwa tidak ada pekerjaan yang gagal dan tidak ada pekerjaan yang sedang berlangsung yang hilang. Chip tersebut kembali berjalan penuh ketika pembatasan berakhir.
Luxor dan Bentaus mengatakan demonstrasi publik mereka tidak menyebabkan gangguan, tetapi frasa tersebut perlu diterjemahkan. Dari sudut pandang operator, pekerjaan tersebut berhasil dan kembali berjalan penuh.
Namun, pelanggan masih bisa menunggu lebih lama untuk mendapatkan jawaban karena chip tersebut menyelesaikan lebih sedikit pekerjaan selama pembatasan. Setiap rencana untuk membuat AI fleksibel akan bergantung pada seberapa sering penundaan tersebut terjadi, siapa yang mengalaminya, dan apa yang telah dijanjikan kepada pelanggan tersebut.
Percobaan tersebut sukses, tetapi hanya melibatkan satu chip. Pusat data besar mengandung puluhan ribu chip, beserta server, sistem pendingin, perangkat penyimpanan, dan peralatan jaringan.
Uji coba tersebut membuat ide yang lebih luas lebih mudah terlihat: sebuah pusat data AI bisa mengatur pekerjaan berdasarkan urgensi dan sesekali meminta jaringan untuk memberikan lebih sedikit.
Texas kekurangan daya untuk memenuhi komputer yang menunggu
Contoh terbaik dari apa yang terjadi ketika pusat data baru datang lebih cepat daripada infrastruktur listrik baru adalah Texas.
Electric Reliability Council of Texas (ERCOT) mengoperasikan jaringan yang melayani sebagian besar negara bagian tersebut. Pada 22 Juli, penggunaan listrik mencapai rekor 91.089 megawatt, angka yang belum resmi sampai data dikonfirmasi.
ERCOT mengatakan satu megawatt bisa melayani sekitar 250 pelanggan rumah tangga selama jam puncak. Dengan perbandingan kasar tersebut, rekor tersebut setara dengan kebutuhan lebih dari 22 juta pelanggan rumah tangga sekaligus.
Gubernur Greg Abbott mengatakan pada bulan Agustus bahwa ERCOT sedang meninjau permintaan untuk menghubungkan lebih dari 474 gigawatt penggunaan listrik baru, dengan sekitar 90% berasal dari pusat data. Satu gigawatt sama dengan 1.000 megawatt, jadi secara teori, antrian tersebut meminta lebih dari lima kali daya yang digunakan selama jam rekor ERCOT.
Abbott memerintahkan regulator untuk mengaudit proyek-proyek tersebut sebelum memperbolehkannya berjalan.
Dalam tinjauan awal pada 28 Juli, ERCOT menemukan bahwa sekitar 205 gigawatt memiliki cukup studi pendukung untuk memenuhi syarat batch studi pertama, kurang dari setengah dari total 474 gigawatt. Audit Abbott menghentikan tinjauan tersebut.
Regulator memberi ERCOT lebih banyak waktu pada 20 Agustus, dan agensi tersebut mengatakan akan mengirimkan keputusan kelayakan bersyarat pada 31 Agustus. Pengembang bisa mengajukan proposal yang tumpang tindih, menyimpan tempat untuk proyek yang tidak pernah mendapat pendanaan, atau meminta beberapa lokasi untuk menyediakan daya bagi satu kampus nantinya.
Texas sedang melakukan audit sebagian karena daftar tersebut telah menjadi terlalu lepas dari kemungkinan fisik untuk memandu perencanaan jaringan sendiri.
Tetapi bahkan dengan catatan tersebut, 474 gigawatt menunjukkan persaingan untuk lahan dengan akses ke jumlah besar listrik. Jauh lebih banyak mesin yang diusulkan daripada kabel yang siap melayani mereka.
A update Lawrence Berkeley National Laboratory yang diterbitkan tahun ini memperkirakan pusat data bisa mengonsumsi 11,8% listrik AS pada 2030. Perkiraan rendahnya adalah 9,5%, dan perkiraan tingginya adalah 15,3%. International Energy Agency memperkirakan pusat data akan menyumbang sekitar setengah dari peningkatan penggunaan listrik AS hingga akhir dekade.
Tetapi bahkan dengan permintaan seperti ini, jalur transmisi di ekonomi maju bisa memakan waktu empat hingga delapan tahun untuk diselesaikan. Badan tersebut mengatakan waktu tunggu untuk peralatan vital, termasuk trafo dan kabel, telah meningkat dua kali lipat dalam tiga tahun terakhir.
Perusahaan AI cenderung berbicara dalam chip, tetapi sistem listrik harus berpikir dalam bentuk kota. Sebuah B200 individual bisa mengonsumsi hingga 1.000 watt. Nvidia mencatat penggunaan daya maksimum sekitar 14,3 kilowatt untuk server DGX B200 lengkap dengan delapan GPU. Satu megawatt sama dengan 1.000 kilowatt, dan aturan baru Texas untuk pengguna listrik sangat besar mulai dari 75 megawatt.
Berdasarkan perbandingan pelanggan rumah tangga oleh ERCOT, jumlah tersebut bisa melayani sekitar 18.750 pelanggan selama jam puncak. Itu juga bisa memberi daya pada 75.000 GPU satu kilowatt, setidaknya sebelum menambahkan prosesor, pendingin, jaringan, baterai, dan kerugian listrik.
Jadi, mempelajari cara mengendalikan dan mengurangi penggunaan daya dari salah satu chip tersebut adalah langkah pertama dari banyak, banyak sekali langkah menuju pemahaman tentang cara mengelola penggunaan daya di seluruh pusat data.
Kompleksitas besar dari usaha tersebut, baik dalam perangkat lunak maupun perangkat keras, adalah alasan mengapa perencana jaringan memperlakukan pusat data sebagai "beban tetap," artinya listrik harus tersedia kapan pun mereka meminta.
Operator pusat data ingin GPU mahal berjalan terus-menerus karena setiap menit idle menunda pekerjaan yang dibayar oleh pelanggan. Ribuan chip yang bekerja pada satu pekerjaan AI besar saling bergantung erat.
Pada titik tertentu, satu kelompok mungkin harus menunggu kelompok lain selesai sebelum bisa melanjutkan. Jika Anda memperlambat kelompok tertentu, penundaan bisa merambat ke mesin-mesin di sekitarnya.
Tetapi tidak semua pekerjaan komputasi di pusat data harus langsung dilakukan atau berjalan penuh kecepatan. Beberapa pekerjaan sensitif terhadap waktu, sementara yang lain bisa ditunda atau berjalan lebih lambat tanpa konsekuensi besar. Beberapa bahkan bisa dialihkan ke pusat data lain di mana listrik lebih mudah didapat.
Setiap pilihan memiliki trade-off, tetapi masing-masing bisa mengurangi daya yang dibutuhkan pusat data dari jaringan lokal pada saat tertentu.
Penambang Bitcoin mengajarkan komputer cara mengalahkan
Preseden tersebut berasal dari penambangan Bitcoin di jaringan Texas. Penambang Bitcoin bersaing untuk mendapatkan imbalan dengan menjalankan mesin yang melakukan perhitungan terus-menerus. Ketika mesin mati, penambang kehilangan kesempatan untuk mendapatkan uang selama periode tersebut.
Tetapi ketika daya kembali, mesin bisa langsung berjalan lagi. Tidak ada pelanggan yang menunggu respons, dan tidak ada pekerjaan komputasi yang belum selesai yang harus dipertahankan.
Texas menyadari bahwa gagasan dasarnya disebut demand response: ketika listrik langka dan mahal, pengguna besar mendapat alasan untuk mengurangi konsumsinya.
Penambang Bitcoin sangat cocok dengan kesepakatan tersebut. Mereka bisa mati ketika harga grosir melonjak, dibayar untuk memotong daya selama keadaan darurat, dan mengurangi biaya transmisi dengan melewatkan beberapa jam penting musim panas.
Sebuah telaah ERCOT pada April menggambarkan penambang kripto sebagai peserta utama yang sensitif terhadap harga dalam salah satu program daruratnya. Bagi penambang, perhitungannya sederhana: ketika satu megawatt menjadi lebih bernilai daripada Bitcoin yang mungkin didapat mesin dengan itu, matikan mesin tersebut.
Beban penambangan Bitcoin tetap mendekati kapasitas penuh ketika listrik murah, lalu menurun begitu harga melampaui ambang batas pengurangan. Harga hash yang lebih tinggi menggeser ambang batas ke atas. Sumber: Subir Majumder, berdasarkan data ERCOT
Luxor menyediakan perangkat lunak, layanan energi, dan produk keuangan kepada penambang Bitcoin, sehingga mereka mendekati AI dengan naluri komputasi yang bisa terganggu. Percobaan tersebut bertanya apakah mesin yang melayani pelanggan bisa mewarisi sebagian ketaatan penambang terhadap harga listrik.
Pertanyaan tersebut semakin mendesak karena penambang mengubah situs yang kaya daya menjadi kampus AI. Jika jaringan menukar tambang Bitcoin yang bisa dimatikan atas perintah dengan pusat data yang beroperasi sepanjang waktu, mungkin saja jaringan tersebut melepaskan rem darurat yang berharga.
Seberapa fleksibel sebuah pusat data bisa bergantung pada apa yang sedang dilakukan mesin-mesinnya.
Pelatihan adalah proses panjang dan intensif komputasi untuk mengajarkan model, secara berulang-ulang menyesuaikannya saat bekerja melalui sejumlah besar data. Inferensi adalah apa yang terjadi setelahnya, ketika seseorang meminta model yang sudah jadi untuk mendapatkan jawaban, gambar, terjemahan, atau prediksi. Keduanya menciptakan peluang berbeda untuk mengurangi daya.
Pelatihan panjang kadang-kadang bisa berhenti di checkpoint yang disimpan dan dilanjutkan nanti, meskipun menghentikan ribuan mesin secara sinkron bukanlah hal yang mudah. Inferensi bisa terdiri dari jutaan permintaan kecil, sebagian dari orang-orang yang mengharapkan jawaban segera dan sebagian lagi dari pekerjaan otomatis yang bisa menunggu dalam antrian sampai listrik lebih mudah atau lebih murah didapat.
Google telah mengatur komputasi mereka dengan cara ini selama bertahun-tahun. Pada 2023, perusahaan tersebut menggambarkan bagaimana mereka bisa menunda pekerjaan seperti pemrosesan video YouTube ketika jaringan lokal sedang tegang, atau mengirim pekerjaan tersebut ke wilayah lain dengan daya lebih banyak. Pencarian, Maps, dan layanan lain yang diharapkan orang-orang agar berfungsi segera tetap online.
Google kemudian membawa gagasan yang sama ke beban kerja pembelajaran mesin. Pada Maret 2026, mereka mengatakan telah menempatkan satu gigawatt demand response pusat data dalam kontrak utilitas jangka panjang di beberapa wilayah AS.
Beberapa kesepakatan tersebut juga bisa membantu pusat data baru terhubung ke jaringan lebih cepat.
Para peneliti kini menunjukkan bahwa ini bisa berhasil di luar simulasi. Dalam sebuah makalah peer-review Nature Energy, tim tersebut menggambarkan percobaan di fasilitas cloud Oracle di Phoenix. Perangkat lunak mengurangi daya yang digunakan oleh kluster 256-GPU sebesar 25% selama tiga jam tanpa memindahkan pekerjaan prioritas keluar dari tingkat kinerja yang dijanjikan.
Kuncinya adalah memutuskan di mana menyerap perlambatan tersebut. Perangkat lunak yang menentukan pekerjaan mana yang berjalan dan kapan, disebut scheduler, melindungi pekerjaan yang mendesak dan mengambil penghematan daya dari pekerjaan dengan tenggat yang lebih longgar.
Beban penambangan Bitcoin turun seiring meningkatnya peluang interval 4CP. Responsnya melemah ketika pendapatan penambangan lebih tinggi. Sumber: Subir Majumder, berdasarkan data ERCOT
Emerald AI, perusahaan yang memimpin pekerjaan tersebut, mengumumkan $150 juta putaran pendanaan pada 25 Agustus yang menilainya lebih dari $1 miliar. Mereka juga mengatakan perangkat lunak mereka sudah beroperasi secara komersial di seluruh pusat data, mengonsumsi beberapa megawatt.
Data kinerja independen untuk setiap situs tidak tersedia, tetapi meski begitu, pendanaan tersebut menunjukkan bahwa AI fleksibel telah melampaui makalah penelitian dan masuk ke bisnis komersial.
Peneliti lain telah mencoba memperkirakan berapa banyak listrik yang bisa dijamin pusat data AI untuk dikorbankan selama jam sulit.
A makalah kerja Universitas Chicago menggunakan empat tahun harga listrik dan 49,4 juta permintaan inferensi nyata untuk memodelkan jawabannya. Penulis memperkirakan sebuah fasilitas yang fokus pada inferensi bisa berkomitmen untuk mengurangi 40% permintaannya. Fasilitas yang menjalankan campuran inferensi dan pelatihan bisa berkomitmen 24,6%.
Persentase tersebut hanya turun sedikit ketika model diperluas ke armada 10-gigawatt. Batasan utama berasal dari kontrak pelanggan, pembatasan pemindahan pekerjaan, dan lonjakan mesin yang kembali berdaya penuh.
Peneliti di University of Alberta memodelkan apa yang terjadi pada jaringan ketika pekerjaan AI bisa ditunda atau dipindahkan antar pusat data. Dalam skenario paling berat model tersebut, fleksibilitas tersebut mengurangi kapasitas pembangkit listrik yang dibutuhkan lebih dari 21%. Dalam skenario lain, ketika jaringan lokal padat, itu mengurangi total biaya penyediaan listrik sebesar 3,5%, meskipun pengeluaran untuk pembangkit baru naik 7,1%.
Sebagian besar manfaat dari menunda pekerjaan muncul dalam tiga jam pertama, jadi menunggu lebih lama tidak terlalu membantu. Meskipun semua ini tidak menghilangkan kebutuhan untuk membangun pembangkit listrik dan jalur transmisi baru, itu menunjukkan jaringan bisa memenuhi lebih banyak permintaan AI dengan lebih sedikit infrastruktur dan biaya keseluruhan yang lebih rendah.
Empat momen tersembunyi bisa menentukan harga setahun penuh
Uang di balik percobaan Luxor berasal dari fitur unik pasar listrik Texas. Pelanggan besar membantu membayar jaringan transmisi tegangan tinggi, dan sebagian tagihan tersebut bisa bergantung pada berapa banyak daya yang mereka gunakan selama hanya empat jendela 15 menit sepanjang tahun.
Jendela-jendela tersebut adalah momen permintaan tertinggi secara sistemik pada Juni, Juli, Agustus, dan September, yang dikenal sebagai Empat Puncak Serempak, atau 4CP.
Yang jadi masalah adalah tak ada yang tahu pasti kapan 4CP terjadi sampai bulan berakhir. Jadi pengguna listrik besar menyewa peramal untuk memantau jaringan, cuaca, dan permintaan listrik serta memprediksi kapan puncak kemungkinan terjadi.
Jika peluangnya terlihat cukup tinggi, mereka mengurangi penggunaan daya selama jendela 15 menit tersebut. Jika tebakan mereka cukup sering benar, penghematan biaya transmisi bisa sangat besar. Hal ini telah menjadikan 4CP sebagai permainan prediksi dan pemotongan daya yang berulang untuk pabrik, tambang Bitcoin, baterai, dan kini, mungkin, pusat data AI.
Potensi imbalan tersebut membuat banyak alarm palsu layak ditoleransi. Angka PUCT 2026 terbaru menempatkan biaya transmisi ERCOT pada sekitar $6 miliar, tersebar di permintaan 4CP rata-rata sebesar 80.859,8 megawatt.
Itu berarti sekitar $74,89 per kilowatt per tahun. Dengan tarif tersebut, 100 megawatt permintaan selama empat jendela puncak mewakili sekitar $7,49 juta biaya transmisi tahunan.
Sementara tagihan sebenarnya akan bervariasi berdasarkan wilayah utilitas dan kontrak, insentif finansial di sini cukup jelas. Sebuah pusat data besar bisa memiliki jutaan dolar yang bergantung pada hanya satu jam penggunaan listrik yang tersebar sepanjang musim panas. Memotong daya selama beberapa jam ekstra untuk mendapatkan jam tersebut bisa menjadi pertukaran yang sangat baik.
Beban penambangan Bitcoin turun seiring meningkatnya peluang interval 4CP. Responsnya melemah ketika pendapatan penambangan lebih tinggi. Sumber: Subir Majumder, berdasarkan data ERCOT
Luxor memutuskan untuk mengatur kecepatan GPU itu sendiri, menggunakan data jaringan langsung untuk memutuskan kapan bertindak. Vera mengatakan perusahaan tersebut memantau tanda-tanda bahwa jendela 4CP mungkin terbentuk, lalu mengirim perintah sendiri ke chip tersebut. ERCOT tidak pernah menyuruh GPU tersebut melambat, dan tidak ada program darurat jaringan yang terlibat.
Ini pada dasarnya adalah taruhan pribadi tentang kapan permintaan listrik akan mencapai puncak, bertujuan menurunkan tagihan transmisi situs tersebut. ERCOT mengklasifikasikan jenis pengurangan diri 4CP ini secara terpisah dari program demand response yang dioperasikan ERCOT.
Hal tersebut juga menempatkan waktu respons setengah detik dalam perspektif. Jendela 4CP berlangsung 15 menit, jadi apakah GPU mencapai level daya rendah dalam setengah detik atau beberapa detik hampir tidak berpengaruh pada penghematan transmisi.
Program darurat ERCOT umumnya memberi pelanggan yang berpartisipasi 10 atau 30 menit untuk memberikan pengurangan daya yang dijanjikan. Beberapa layanan jaringan lain bergerak lebih cepat, mengharuskan pelanggan mulai memotong daya segera dan mencapai pengurangan penuh dalam 10 menit.
Jika perangkat keras AI akhirnya berpartisipasi dalam pasar-pasar tersebut, kontrol sub-detik bisa menjadi lebih berguna. Untuk Luxor, setiap detik ekstra yang dihabiskan GPU dalam kondisi terbatas adalah detik yang bisa digunakan untuk menghasilkan uang dengan komputasi.
Bentaus sudah menguji gagasan dasar yang sama dalam skala lebih besar. Pada Februari, CPower, Bentaus, dan Supermicro menggambarkan demonstrasi California menggunakan kluster server yang dilengkapi GPU B200.
Perusahaan-perusahaan tersebut mengatakan kluster tersebut merespons sinyal yang terkait dengan pasar listrik grosir negara bagian dalam waktu kurang dari 20 milidetik dan mengurangi penggunaan dayanya hingga 75%, sambil tetap memenuhi tingkat kinerja yang dijanjikan.
Percobaan Texas lebih kecil dan jauh lebih sempit: satu GPU yang merespons insentif penagihan transmisi tertentu. Tetapi itu menambahkan uji coba dunia nyata lainnya pada gagasan yang sudah berpindah dari chip individu ke kluster server dan program utilitas.
Ada celah penting yang masih belum diketahui tentang uji coba Texas. Perusahaan-perusahaan tersebut belum mengungkapkan model AI mana yang sedang berjalan atau berapa lama GPU tersebut berada dalam daya rendah. Mereka belum mengatakan berapa banyak listrik yang digunakannya sebelumnya, seberapa besar penurunan throughput komputasinya, atau berapa lama permintaan membutuhkan waktu untuk diselesaikan.
Perwakilan Luxor di pasar listrik Texas memverifikasi pengurangan daya tersebut, tetapi belum ada analisis independen tentang uji coba tersebut yang diterbitkan.
Uji coba tersebut menunjukkan bahwa satu B200 yang menjalankan beban kerja inferensi bisa mengalami pengurangan daya yang signifikan tanpa kehilangan pekerjaan yang sudah berjalan. Belum jelas apa dampaknya terhadap waktu tunggu pengguna, apakah beban kerja inferensi atau pelatihan lainnya akan merespons dengan cara yang sama, atau berapa banyak listrik yang bisa dihemat teknik tersebut di seluruh pusat data.
GPU hanyalah satu bagian dari tagihan daya bangunan. Sistem pendingin, peralatan jaringan, penyimpanan, pompa, dan konversi daya juga mengonsumsi listrik. Jadi mengurangi daya chip sebesar 75% tidak berarti pusat data mengambil 75% lebih sedikit daya dari jaringan.
Pengurangan yang diukur di meter bangunan bisa jauh lebih kecil.
Luxor sudah mempersiapkan uji coba berikutnya, kali ini dengan sekelompok GPU Nvidia H100 di Texas. Vera mengatakan penskalaan berarti membangun perangkat lunak yang bisa menentukan pekerjaan mana yang aman untuk melambat, lalu mengoordinasikan mesin-mesin yang mengerjakannya. Perangkat lunak tersebut juga harus menghormati kinerja apa pun yang dijanjikan pelanggan.
Setiap lompatan skala, dari satu GPU ke server, rak, dan akhirnya seluruh pusat data, menambah lapisan kompleksitas lainnya. Lebih banyak peralatan mengonsumsi daya, lebih banyak mesin harus bergerak bersama, dan lebih banyak beban kerja pelanggan mungkin atau mungkin tidak mentoleransi perlambatan.
Texas mulai mensyaratkan sebagian fleksibilitas tersebut. RUU Senat 6, yang disahkan pada 2025, mewajibkan pengguna listrik besar tertentu yang terhubung mulai 2026 untuk mengurangi konsumsi selama keadaan darurat jaringan parah. RUU tersebut juga menyerukan program yang akan membayar situs yang menggunakan setidaknya 75 megawatt untuk mengurangi permintaan ketika ada kemungkinan gangguan.
Sementara itu, negara bagian juga memikirkan ulang 4CP. Empat puncak musim panasnya bisa melewatkan jam malam dan musim dingin ketika jaringan lebih stres. Regulator telah mengusulkan penggantian dengan 12CP, yang akan menentukan biaya transmisi berdasarkan satu puncak 30 menit setiap bulan.
ERCOT mencapai kesimpulan serupa dalam tinjauan April: Texas memiliki banyak demand response, tetapi tidak selalu muncul ketika jaringan paling membutuhkan. 4CP mendorong sebagian besar pemotongan daya tersebut, tetapi puncak musim panasnya bisa melewatkan jam-jam ketika permintaan tinggi dan produksi tenaga angin serta surya rendah.
ERCOT mengatakan ketidakcocokan tersebut adalah masalah. Pembangkit listrik dan jalur transmisi baru membutuhkan waktu bertahun-tahun, tetapi permintaan fleksibel bisa ditambahkan dalam hitungan bulan. Tantangan sekarang adalah memastikan fleksibilitas tersebut muncul pada waktu yang tepat.
Bagian tersulit adalah membuktikan bahwa pusat data bisa mengurangi daya secara andal. Jika jaringan mengandalkan 50 megawatt yang hilang, jaringan perlu tahu berapa banyak yang akan digunakan situs tersebut sebelumnya, lalu memverifikasi pengurangan tersebut dengan data meter.
Jaringan juga perlu tahu berapa lama pengurangan tersebut bisa bertahan dan apa yang terjadi ketika GPU kembali berjalan. Jika ribuan GPU kembali sekaligus, pusat data bisa menciptakan lonjakan daya baru.
Hal tersebut menjadikan kontrak pelanggan sebagai bagian penting tapi terabaikan dalam persamaan tersebut. Sebuah pusat data bisa menjaga pekerjaan interaktif dan sensitif terhadap keselamatan tetap berjalan normal sementara pekerjaan seperti eksperimen internal, pengindeksan, atau pemrosesan semalam dimasukkan ke tier fleksibel.
Pelanggan mungkin membayar lebih sedikit untuk fleksibilitas tersebut, sementara jaringan membayar pusat data untuk memberikan pengurangan daya yang dapat diprediksi dan terukur saat dibutuhkan.
Hal tersebut akan membuat satu fakta tentang AI tidak bisa diabaikan: tidak semua komputasi sama pentingnya. Industri tersebut sudah mengatur pekerjaan berdasarkan harga, kecepatan, dan biaya komputasi, jadi listrik bisa menjadi variabel lain dalam perhitungan tersebut.
Ketika jaringan menjadi ketat, satu gambar mungkin membutuhkan waktu lebih lama untuk dirender atau pelatihan mungkin tertunda hingga besok, sementara layanan lain terus berjalan. Alih-alih memperlakukan setiap siklus GPU sama pentingnya, pusat data bisa mulai membedakan antara apa yang harus segera terjadi dan apa yang bisa ditunda.
Pengurangan daya setengah detik oleh Luxor adalah bagian mudahnya. Melakukan ini di ribuan GPU, tanpa melanggar janji kepada pelanggan dan sambil memberikan megawatt yang bisa diandalkan jaringan, akan jauh lebih sulit.
Tetapi di sinilah gagasan tersebut menjadi menarik, karena AI memiliki masalah daya dan jaringan memiliki masalah fleksibilitas, dan pusat data kebetulan berada di tengah-tengahnya. Mereka penuh dengan mesin yang melakukan pekerjaan yang kadang-kadang bisa bergerak dalam hitungan detik, menit, atau jam tanpa orang menyadarinya.
Jika operator bisa mengubah fleksibilitas tersebut menjadi penghematan daya yang andal, nafsu besar AI akan listrik bisa menjadi sesuatu yang bisa dikerjakan jaringan. Hal tersebut bisa membuat fase berikutnya dari pembangunan AI sama pentingnya dengan menggunakan daya tepat waktu daripada mencari cukup daya sejak awal.
Postingan Pusat Data AI Belajar Trik Daya yang Pertama Dikuasai Penambang Bitcoin pertama kali muncul di CryptoSlate.