एआई चैटबॉट से आपको मिलने वाला हर जवाब बिजली से शुरू होता है। शब्द आपकी स्क्रीन पर दिखाई देते हैं, लेकिन असली काम एक दूर की इमारत में होता है जहां कंप्यूटर चिप्स से भरा हुआ है। ये चिप्स बिजली खींचते हैं, डेटा को ले जाते हैं, और इतनी गर्मी पैदा करते हैं कि एआई डेटा सेंटर्स को भारी ठंडक की आवश्यकता होती है।
जब आप इस प्रक्रिया को लाखों प्रॉम्प्ट्स, इमेज रिक्वेस्ट्स और बिजनेस टास्क्स पर गुणा करते हैं, तो आप समझने लगते हैं कि कैसे एक प्रश्न का तुरंत जवाब जो वज़नहीन लगता है, वह बिजली संयंत्रों और तारों पर एक भौतिक मांग बन जाता है।
बिजली उपयोगिताओं से इस मांग को बड़े, सघन ब्लॉकों में पूरा करने के लिए कहा जा रहा है। आपका औसत बड़ा डेटा-सेंटर कैंपस एक छोटे शहर के बराबर बिजली का उपयोग कर सकता है, और कंपनियां इसे बनाने और योजना बनाने में उपयोगिता की तुलना में बहुत तेज़ी से आगे बढ़ सकती हैं।
उपयोगिता को उन घंटों के लिए भी तैयार रहना पड़ता है जब ग्राहक अधिक बिजली का उपयोग करते हैं, भले ही उस क्षमता का कुछ हिस्सा सामान्य अवधि में इस्तेमाल न हो। संक्षेप में, डेटा सेंटर्स बिजली की ज़रूरत ग्रिड से पहले महसूस करते हैं।
एक समाधान नए बिजली संयंत्र बनाना है। लेकिन यह बहुत महंगा और समय लेने वाला समाधान है जिसमें अरबों डॉलर और वर्षों लग सकते हैं ताकि यह चालू हो सके।
हालांकि, एक और समाधान है कि कंप्यूटर के कुछ कामों को दूसरे घंटे में शिफ्ट कर दिया जाए।
एक चैटबॉट का जवाब आमतौर पर तुरंत दिखाई देना चाहिए, लेकिन एक आंतरिक प्रयोग या रातभर वीडियो प्रोसेसिंग की कतार इंतज़ार कर सकती है। सॉफ़्टवेयर जो अंतर कर सकता है, वह बिजली की कमी के समय इंतज़ार करने वाले काम को धीमा कर सकता है, फिर जब अधिक बिजली उपलब्ध हो तो उसे पूरा कर सकता है।
टेक्सास में एक छोटा प्रयोग दिखाता है कि ऐसा व्यवस्था कैसी दिख सकती है।
Luxor Energy, एक कंपनी जिसकी जड़ें बिटकॉइन माइनिंग में हैं, Bentaus के साथ मिलकर काम करती है, जो एक सॉफ़्टवेयर बनाती है जो कंप्यूटर चिप्स के उपयोग की मात्रा को नियंत्रित करता है। दोनों मिलकर एक ही Nvidia B200, एक उच्च शक्ति वाली चिप जो एआई काम के लिए बनाई गई है, को नियंत्रित करते हैं।
चिप इंफरेंस कर रही थी, जिसका मतलब है कि प्रशिक्षित एआई मॉडल का उपयोग करके जवाब देना, जब सॉफ़्टवेयर ने उसे कम बिजली खींचने को कहा।
कंपनियां कहती हैं कि चिप की बिजली खपत आधे सेकंड में लगभग 25% तक गिर गई, और उस प्रतिबंध के दौरान उसने कम रिक्वेस्ट्स प्रोसेस किए।
एथन वेरा, Luxor के मुख्य परिचालन अधिकारी, ने CryptoSlate को बताया कि कोई भी काम असफल नहीं हुआ और कोई भी पहले से चल रहा काम नहीं गया। जब प्रतिबंध खत्म हुआ तो चिप पूरी गति से वापस आ गई।
Luxor और Bentaus ने कहा कि उनका सार्वजनिक प्रदर्शन ने "कोई व्यवधान" नहीं पैदा किया, लेकिन इस वाक्य का कुछ अनुवाद करने की ज़रूरत है। ऑपरेटर के नज़रिए से, काम बच गया और पूरी गति से फिर से शुरू हुआ।
हालांकि, ग्राहक अभी भी जवाब के लिए अधिक इंतज़ार कर सकते थे क्योंकि चिप ने प्रतिबंध के दौरान कम काम पूरा किया। एआई को लचीला बनाने की कोई योजना इस बात पर निर्भर करेगी कि यह देरी कितनी बार होती है, किसको इसका अनुभव होता है, और उन ग्राहकों को क्या वादा किया गया था।
यह प्रयोग सफल रहा, लेकिन इसमें केवल एक चिप शामिल थी। बड़े डेटा सेंटर्स में दसियों हज़ार चिप्स होते हैं, साथ ही सर्वर, कूलिंग सिस्टम, स्टोरेज डिवाइस और नेटवर्किंग उपकरण भी होते हैं।
यह परीक्षण एक व्यापक विचार को आसानी से देखने देता है: एआई डेटा सेंटर जरूरत के अनुसार काम को वर्गीकृत कर सकता है और कभी-कभी ग्रिड से कम बिजली मांग सकता है।
टेक्सास में कंप्यूटरों को बिजली देने के लिए पावर की कमी है
नए डेटा सेंटर्स के नए बिजली इंफ्रास्ट्रक्चर से तेज़ी से आने पर जो होता है, उसका सबसे अच्छा उदाहरण टेक्सास है।
टेक्सास इलेक्ट्रिक रिलायबिलिटी काउंसिल (ERCOT) राज्य के अधिकांश हिस्सों को सेवा देने वाले ग्रिड का संचालन करती है। 22 जुलाई को, बिजली का उपयोग एक प्रारंभिक रिकॉर्ड 91,089 मेगावाट तक पहुंच गया, जो आंकड़े के अंतिम होने तक अनौपचारिक है।
ERCOT का कहना है कि एक मेगावाट एक शिखर घंटे में लगभग 250 घरेलू ग्राहकों को सेवा दे सकता है। इस अनुमान के अनुसार, रिकॉर्ड एक साथ 22 मिलियन से अधिक घरेलू ग्राहकों की ज़रूरतों के बराबर था।
गवर्नर ग्रेग एबॉट ने अगस्त में कहा कि ERCOT 474 गीगावाट से अधिक बिजली के उपयोग को जोड़ने के अनुरोधों की समीक्षा कर रहा है, जिसमें लगभग 90% डेटा सेंटर्स से आता है। एक गीगावाट 1,000 मेगावाट के बराबर है, इसलिए कागज़ पर, कतार 5 गुना से अधिक बिजली की मांग करती है जो ERCOT के रिकॉर्ड घंटे में उपयोग की जाती है।
एबॉट ने नियामकों को इन परियोजनाओं की समीक्षा करने का आदेश दिया था ताकि उन्हें आगे बढ़ने से पहले इसकी जांच की जा सके।
28 जुलाई की प्रारंभिक समीक्षा में, ERCOT ने पाया कि लगभग 205 गीगावाट के पास पहले अध्ययन के लिए पर्याप्त समर्थन अध्ययन थे, जो 474 गीगावाट के कुल का आधा से भी कम था। एबॉट की समीक्षा ने इस समीक्षा को रोक दिया।
नियामकों ने 20 अगस्त को ERCOT को अधिक समय दिया, और एजेंसी ने कहा कि वह 31 अगस्त तक सशर्त पात्रता निर्णय भेजेगी। डेवलपर्स ओवरलैपिंग प्रस्ताव दे सकते हैं, परियोजनाओं के लिए जगह रख सकते हैं जो कभी वित्तपोषण नहीं पा सकते, या कई स्थानों से एक भविष्य के कैंपस के लिए बिजली मांग सकते हैं।
टेक्सास इस समीक्षा का आयोजन इसलिए कर रहा है क्योंकि सूची भौतिक संभावना से बहुत दूर हो गई है ताकि ग्रिड की योजना अपने आप निर्देश दे सके।
लेकिन इस चेतावनी के साथ भी, 474 गीगावाट बड़ी मात्रा में बिजली के उपयोग के लिए जमीन की तेज़ी से मांग दिखाता है। तारों की तुलना में बहुत अधिक मशीनें प्रस्तावित हैं।
एक लॉरेंस बर्कले नेशनल लैबोरेटरी अपडेट जो इस साल प्रकाशित हुआ, अनुमान लगाता है कि डेटा सेंटर्स 2030 में अमेरिका की बिजली का 11.8% खपत कर सकते हैं। इसका कम अनुमान 9.5% है, और ज़्यादा अनुमान 15.3% है। अंतर्राष्ट्रीय ऊर्जा एजेंसी का अनुमान है कि डेटा सेंटर्स दशक के अंत तक अमेरिका की बिजली के उपयोग में लगभग आधे वृद्धि के लिए ज़िम्मेदार होंगे।
लेकिन इस तरह की मांग के साथ भी, उन्नत अर्थव्यवस्थाओं में ट्रांसमिशन लाइनें पूरा होने में चार से आठ साल लग सकते हैं। एजेंसी का कहना है कि ट्रांसफॉर्मर और केबल सहित महत्वपूर्ण उपकरणों के इंतज़ार में पिछले तीन वर्षों में दोगुना हो गया है।
एआई कंपनियां चिप्स में बात करती हैं, लेकिन बिजली प्रणालियों को शहरों में सोचना पड़ता है। एक अलग B200 1,000 वाट तक खींच सकता है। Nvidia ने एक पूरे आठ-GPU DGX B200 सर्वर के लिए अधिकतम बिजली उपयोग की सूची दी है, जो लगभग 14.3 किलोवाट है। एक मेगावाट 1,000 किलोवाट के बराबर है, और टेक्सास के नए नियम बहुत बड़े बिजली उपयोगकर्ताओं के लिए 75 मेगावाट से शुरू होते हैं।
ERCOT के घरेलू ग्राहकों की तुलना के अनुसार, यह राशि एक शिखर घंटे में लगभग 18,750 ग्राहकों को सेवा दे सकती है। यह 75,000 एक किलोवाट GPU को भी बिजली दे सकती है, कम से कम प्रोसेसर, कूलिंग, नेटवर्किंग, बैटरी और बिजली के नुकसान को जोड़ने से पहले।
तो इन चिप्स में से एक के बिजली उपयोग को नियंत्रित और कम करने का तरीका सीखना पूरे डेटा सेंटर के बिजली उपयोग को समझने के लिए कई, कई कदमों में से पहला है।
इस प्रयास की तीव्र जटिलता, सॉफ़्टवेयर और हार्डवेयर दोनों में मांग के कारण, ग्रिड प्लानर्स डेटा सेंटर्स को "फर्म लोड" के रूप में मानते हैं, जिसका मतलब है कि बिजली उनकी मांग के समय उपलब्ध होनी चाहिए।
डेटा सेंटर ऑपरेटर्स बहुत महंगे GPU को लगातार चलाना चाहते हैं क्योंकि हर खाली मिनट ग्राहकों के भुगतान किए गए काम को देरी करता है। हज़ारों चिप्स एक बड़े एआई काम पर काम करते हैं जो एक-दूसरे से बहुत जुड़े हुए हैं।
कुछ बिंदुओं पर, एक समूह को दूसरे के पूरा होने का इंतज़ार करना पड़ सकता है तब तक वह आगे बढ़ सकता है। अगर आप चुने गए समूह को धीमा करते हैं, तो देरी पास की मशीनों में फैल सकती है।
लेकिन डेटा सेंटर में सभी कंप्यूटिंग काम तुरंत होने या पूरी गति से चलने की ज़रूरत नहीं है। कुछ काम समय संवेदनशील हैं, जबकि दूसरे काम देरी कर सकते हैं या धीमे चल सकते हैं बिना किसी बड़े परिणाम के। कुछ तो दूसरे डेटा सेंटर में शिफ्ट किए जा सकते हैं जहां बिजली आसानी से उपलब्ध हो।
हर विकल्प के साथ विनिमय होता है, लेकिन हर विकल्प एक डेटा सेंटर को दिए गए क्षण में स्थानीय ग्रिड से ज़रूरत की बिजली कम कर सकता है।
बिटकॉइन माइनर्स ने कंप्यूटरों को झुकना सिखाया
यह पूर्वानुमान टेक्सास ग्रिड पर बिटकॉइन माइनिंग से आता है। बिटकॉइन माइनर्स लगातार गणना करने वाली मशीनों को चलाकर इनाम कमाने के लिए प्रतिस्पर्धा करते हैं। जब कोई मशीन बंद होती है, तो माइनर को उस अवधि के लिए पैसा कमाने का मौका खो जाता है।
लेकिन जब बिजली वापस आती है, तो मशीन लगभग तुरंत फिर से शुरू हो सकती है। कोई ग्राहक जवाब का इंतज़ार नहीं कर रहा है, और कोई अधूरा कंप्यूटिंग काम बचाने की ज़रूरत नहीं है।
टेक्सास ने पाया कि इस बुनियादी विचार को मांग प्रतिक्रिया कहा जाता है: जब बिजली कम और महंगी होती है, तो बड़े उपयोगकर्ता इसका उपयोग कम करने का कारण पा सकते हैं।
बिटकॉइन माइनर्स इस सौदे के लिए असामान्य रूप से उपयुक्त थे। वे थोक कीमतें बढ़ने पर बंद कर सकते थे, आपातकाल में बिजली काटने के लिए भुगतान कर सकते थे, और गर्मियों के कुछ महत्वपूर्ण घंटों को छोड़कर ट्रांसमिशन शुल्क कम कर सकते थे।
एक ERCOT समीक्षा अप्रैल में क्रिप्टो माइनर्स को उसके आपातकालीन कार्यक्रमों में मुख्य मूल्य संवेदनशील प्रतिभागियों के रूप में वर्णित किया गया। एक माइनर के लिए, गणना सरल है: जब एक मेगावाट बिटकॉइन से ज़्यादा मूल्यवान हो जाता है जो मशीनें इससे कमा सकती हैं, तो मशीनें बंद कर दें।
बिटकॉइन माइनिंग लोड बिजली सस्ती होने पर पूरी क्षमता के पास रहता है, फिर कटौती की सीमा पार करने पर गिर जाता है। उच्च हैश प्राइस उस सीमा को ऊपर ले जाता है। स्रोत: सुबीर मजूमदार, ERCOT डेटा पर आधारित
Luxor बिटकॉइन माइनर्स को सॉफ़्टवेयर, ऊर्जा सेवाएं और वित्तीय उत्पाद प्रदान करता है, इसलिए वह एआई के साथ गणना के लिए एक अनुभव के साथ आया जिसे रोका जा सकता है। प्रयोग पूछता है कि क्या ग्राहकों को सेवा देने वाली मशीनें माइनिंग की बिजली की कीमतों के प्रति आज्ञाकारीता का कुछ हिस्सा अपना सकती हैं।
यह प्रश्न अधिक तत्काल हो रहा है क्योंकि माइनर्स बिजली से भरे साइट्स को एआई कैंपस में बदल रहे हैं। अगर ग्रिड एक बिटकॉइन माइन को आदेश पर बंद करने के लिए बदलता है जो डेटा सेंटर को चलाता है, तो वह एक मूल्यवान आपातकालीन ब्रेक छोड़ सकता है।
एक डेटा सेंटर कितना लचीला हो सकता है, यह उसकी मशीनों के काम पर बहुत निर्भर करता है।
ट्रेनिंग एक लंबी, गणना भारी प्रक्रिया है जिसमें एक मॉडल को सिखाया जाता है, बार-बार इसे संशोधित करते हुए बड़ी मात्रा में डेटा के माध्यम से काम करते हुए। इंफरेंस वह है जो बाद में होता है, जब कोई तैयार मॉडल से जवाब, एक इमेज, एक अनुवाद या एक भविष्यवाणी मांगता है। दोनों बिजली कम करने के लिए अलग-अलग अवसर पैदा करते हैं।
एक लंबी ट्रेनिंग रन कभी-कभी एक सेव चेकपॉइंट पर रुक सकती है और बाद में फिर से शुरू हो सकती है, हालांकि हज़ारों मशीनों को सिंक्रोनाइज़ करना आसान नहीं है। इंफरेंस लाखों छोटे रिक्वेस्ट्स से बना हो सकता है, कुछ लोग तुरंत जवाब की उम्मीद करते हैं और दूसरे ऑटोमेटेड काम एक कतार में इंतज़ार कर सकते हैं जब बिजली आसानी से या सस्ती हो।
गूगल पिछले कई सालों से अपनी गणना को इस तरह सॉर्ट कर रहा है। 2023 में, कंपनी वर्णन किया कि वह YouTube वीडियो प्रोसेसिंग जैसे काम को देरी कर सकती है जब स्थानीय ग्रिड पर दबाव हो, या उस काम को दूसरे क्षेत्र में भेज सकती है जहां अधिक बिजली उपलब्ध हो। सर्च, मैप्स और दूसरी सेवाएं जिन्हें लोग तुरंत काम करने की उम्मीद करते हैं, ऑनलाइन रहीं।
गूगल ने बाद में इसी विचार को मशीन लर्निंग वर्कलोड्स में लाया। मार्च 2026 तक, उसने कहा कि उसने एक गीगावाट डेटा सेंटर डिमांड रिस्पॉन्स को कई अमेरिकी क्षेत्रों में दीर्घकालिक उपयोगिता अनुबंधों के तहत रखा है।
उनमें से कुछ सौदे नए डेटा सेंटर्स को ग्रिड से जल्दी जोड़ने में भी मदद कर सकते हैं।
अब शोधकर्ता दिखा रहे हैं कि यह सिमुलेशन के बाहर भी काम कर सकता है। एक पीयर-रिव्यू Nature Energy पेपर में, एक टीम ने फीनिक्स में Oracle क्लाउड सुविधा में एक प्रयोग का वर्णन किया। सॉफ़्टवेयर ने 256-GPU क्लस्टर की बिजली का उपयोग 25% कम कर दिया तीन घंटे के लिए बिना प्राथमिकता वाले काम को उनके वादे के प्रदर्शन स्तर से बाहर निकाले।
मुख्य बात यह तय करना थी कि धीमापन को कहां समायोजित किया जाए। जो सॉफ़्टवेयर तय करता है कि कौन से काम चलते हैं और कब, जिसे स्केड्यूलर कहा जाता है, ने तत्काल काम की रक्षा की और बिजली की बचत को अधिक ढीले समय सीमा वाले कामों से लिया।
बिटकॉइन माइनिंग लोड गिरता है जैसे 4CP अंतराल की संभावना बढ़ती है। जब माइनिंग राजस्व ज़्यादा होता है तो प्रतिक्रिया कमज़ोर होती है। स्रोत: सुबीर मजूमदार, ERCOT डेटा पर आधारित
एमराल्ड एआई, जो इस काम का नेतृत्व करती है, ने 25 अगस्त को $150 मिलियन फाइनेंसिंग राउंड की घोषणा की जिससे इसका मूल्य $1 बिलियन से अधिक हो गया। उसने यह भी कहा कि उसका सॉफ़्टवेयर पूरे डेटा सेंटर्स में व्यावसायिक रूप से काम कर रहा है, कई मेगावाट खींच रहा है।
हर साइट के लिए स्वतंत्र प्रदर्शन डेटा उपलब्ध नहीं है, लेकिन फिर भी, फाइनेंसिंग दिखाती है कि लचीला एआई शोध पत्रों से आगे बढ़ गया है और व्यावसायिक व्यवसाय में आ गया है।
ूसरे शोधकर्ताओं ने अनुमान लगाने की कोशिश की है कि एआई सुविधा एक कठिन घंटे में कितनी बिजली देने का वादा कर सकती है।
एक यूनिवर्सिटी ऑफ़ शिकागो वर्किंग पेपर ने चार साल की बिजली की कीमतों और 49.4 मिलियन वास्तविक इंफरेंस रिक्वेस्ट्स का उपयोग करके जवाब का मॉडल बनाया। लेखक ने अनुमान लगाया कि इंफरेंस पर ध्यान केंद्रित करने वाली सुविधा 40% अपनी मांग काटने का वादा कर सकती है। इंफरेंस और ट्रेनिंग का मिश्रण चलाने वाली सुविधा 24.6% का वादा कर सकती है।
ये प्रतिशत बहुत कम गिरे जब मॉडल 10 गीगावाट फ्लीट तक बढ़ गया। मुख्य सीमाएं ग्राहक अनुबंधों, काम को शिफ्ट करने की पाबंदियों और मशीनों के पूरी ताकत पर वापस आने की तेज़ी से आईं।
यूनिवर्सिटी ऑफ़ एल्बर्टा के शोधकर्ता ने मॉडल किया कि ग्रिड पर क्या होता है जब एआई काम देरी कर सकते हैं या डेटा सेंटर्स के बीच शिफ्ट कर सकते हैं। मॉडल के सबसे तनावपूर्ण परिदृश्य में, इस लचीलापन ने बिजली संयंत्र की क्षमता की आवश्यकता को 21% से अधिक कम कर दिया। दूसरे परिदृश्य में, जब स्थानीय ग्रिड भीड़भाड़ वाला था, इसने बिजली की आपूर्ति की कुल लागत को 3.5% कम कर दिया, भले ही नई जनरेशन पर खर्च 7.1% बढ़ गया।
अधिकांश लाभ जब काम देरी करने से आता है तो पहले तीन घंटे में दिखाई देता है, इसलिए अधिक इंतज़ार करने से ज़्यादा मदद नहीं मिलती। हालांकि इससे कोई भी नया बिजली संयंत्र और ट्रांसमिशन लाइनें बनाने की ज़रूरत नहीं खत्म होती, इससे ग्रिड अधिक एआई मांग को कम इंफ्रास्ट्रक्चर और कम कुल लागत में पूरा कर सकता है।
चार छिपे हुए क्षण पूरे साल की कीमत दे सकते हैं
Luxor के प्रयोग के पीछे का पैसा टेक्सास बिजली बाजार की एक असामान्य विशेषता से आता है। बड़े ग्राहक उच्च वोल्टेज ट्रांसमिशन नेटवर्क का भुगतान करने में मदद करते हैं, और उस बिल का एक हिस्सा इस बात पर निर्भर कर सकता है कि वे पूरे साल में कितनी बिजली का उपयोग करते हैं चार 15 मिनट की खिड़कियों में।
ये खिड़कियां जून, जुलाई, अगस्त और सितंबर में सिस्टमवाइड सबसे ज़्यादा मांग के क्षण हैं, जिन्हें फोर कॉइन्सिडेंट पीक्स या 4CP कहा जाता है।
पकड़ यह है कि कोई भी नहीं जानता कि एक 4CP कब हो रहा है जब तक महीना खत्म नहीं हो जाता। इसलिए बड़े बिजली उपयोगकर्ता ग्रिड, मौसम और बिजली की मांग को देखने और अनुमान लगाने के लिए पूर्वानुमानकर्ताओं को काम पर रखते हैं कि कब एक पीक आने की संभावना है।
अगर ओड्स पर्याप्त लगती हैं, तो वे उस 15 मिनट की खिड़की के लिए अपनी बिजली का उपयोग कम कर देते हैं। अगर आप अक्सर सही अनुमान लगाते हैं, तो ट्रांसमिशन शुल्क में बचत काफी हो सकती है। इससे 4CP एक बार फिर से पूर्वानुमान और बिजली कटौती का खेल बन गया है फैक्ट्रियों, बिटकॉइन माइन्स, बैटरी और अब, संभावित रूप से, एआई डेटा सेंटर्स के लिए।
यह संभावित लाभ कई गलत अलार्मों को सहने लायक बनाता है। 2026 के नवीनतम PUCT आंकड़े ERCOT ट्रांसमिशन लागत को लगभग $6 बिलियन तक रखते हैं, जो एक औसत 4CP मांग के बीच फैला हुआ है 80,859.8 मेगावाट।
यह लगभग $74.89 प्रति किलोवाट प्रति वर्ष के बराबर है। इस दर पर, चार पीक विंडोज़ के दौरान 100 मेगावाट की मांग लगभग $7.49 मिलियन की वार्षिक ट्रांसमिशन लागत का प्रतिनिधित्व करती है।
जबकि वास्तविक बिल उपयोगिता क्षेत्र और अनुबंध के अनुसार भिन्न होगा, यहां का वित्तीय प्रोत्साहन बहुत स्पष्ट है। एक बड़ा डेटा सेंटर एक घंटे के बिजली के उपयोग पर ही लाखों डॉलर लगा सकता है जो पूरी गर्मियों में फैला हुआ है। कुछ अतिरिक्त घंटों के लिए बिजली काटना उस घंटे को पकड़ने के लिए बहुत अच्छा व्यापार हो सकता है।
बिटकॉइन माइनिंग लोड गिरता है जैसे 4CP अंतराल की संभावना बढ़ती है। जब माइनिंग राजस्व ज़्यादा होता है तो प्रतिक्रिया कमज़ोर होती है। स्रोत: सुबीर मजूमदार, ERCOT डेटा पर आधारित
Luxor ने GPU को खुद धीमा करने का फैसला किया, लाइव ग्रिड डेटा का उपयोग करके तय करने के लिए कि कब कार्रवाई करनी है। वेरा ने कहा कि कंपनी ने ऐसे संकेतों को देखा जो दिखाते थे कि एक 4CP विंडो बन रही है, फिर चिप को अपना आदेश भेजा। ERCOT ने GPU को कभी धीमा करने के लिए नहीं कहा, और कोई आपातकालीन ग्रिड प्रोग्राम शामिल नहीं था।
यह अनिवार्य रूप से एक निजी दांव था कि बिजली की मांग कब चरम पर पहुंचेगी, जिसका उद्देश्य साइट के ट्रांसमिशन बिल को कम करना था। ERCOT इस तरह के 4CP स्वयं कटौती को अलग से वर्गीकृत करता है जो वह चलाता है उसके मांग प्रतिक्रिया कार्यक्रमों से।
यह भी आधे सेकंड के प्रतिक्रिया समय को समझ में लाता है। एक 4CP विंडो 15 मिनट तक चलती है, इसलिए GPU का कम बिजली स्तर तक पहुंचना आधे सेकंड में हो या कई सेकंड में, ट्रांसमिशन बचत के लिए लगभग कोई फर्क नहीं पड़ता।
ERCOT के आपातकालीन कार्यक्रम आमतौर पर भाग लेने वाले ग्राहकों को 10 या 30 मिनट का समय देता है उनके द्वारा वादा की गई बिजली कम करने के लिए। कुछ दूसरी ग्रिड सेवाएं तेज़ी से चलती हैं, जिसके लिए ग्राहकों को तुरंत बिजली कम करनी पड़ती है और पूरी कटौती 10 मिनट में पूरी हो जाती है।
अगर एआई हार्डवेयर अंततः उन बाजारों में भाग लेता है, तो सेकंड से कम का नियंत्रण अधिक उपयोगी हो सकता है। Luxor के लिए, हर अतिरिक्त सेकंड जो GPU धीमा होता है वह एक सेकंड है जो वह गणना करके पैसा कमा सकता था।
Bentaus पहले ही इसी बुनियादी विचार का परीक्षण बड़े पैमाने पर कर चुका है। फरवरी में, CPower, Bentaus और Supermicro कैलिफ़ोर्निया के प्रदर्शन का वर्णन किया जिसमें B200 GPU से लैस सर्वर क्लस्टर का उपयोग किया गया था।
कंपनियां कहती हैं कि क्लस्टर राज्य के थोक बिजली बाजार से जुड़े संकेत का जवाब 20 मिलीसेकंड से भी कम समय में देता है और अपनी बिजली का उपयोग 75% तक कम कर देता है, फिर भी अपने वादे के प्रदर्शन स्तर को पूरा करता है।
टेक्सास का प्रयोग छोटा और बहुत सीमित है: एक GPU जो एक विशेष ट्रांसमिशन-बिलिंग प्रोत्साहन का जवाब देता है। लेकिन यह एक और वास्तविक दुनिया के परीक्षण को जोड़ता है एक विचार के लिए जो पहले से ही अलग-अलग चिप्स से सर्वर क्लस्टर और उपयोगिता कार्यक्रमों तक पहुंच गया है।
टेक्सास परीक्षण के बारे में हम जो जानते हैं उसमें महत्वपूर्ण अंतर बने हुए हैं। कंपनियों ने यह नहीं बताया कि कौन सा AI मॉडल चल रहा था या GPU कितने समय तक कम बिजली पर रहा। उन्होंने यह नहीं बताया कि इससे पहले यह कितनी बिजली का उपयोग कर रहा था, इसकी कंप्यूटिंग थ्रूपुट कितनी कम हुई, या रिक्वेस्ट्स को पूरा करने में कितना अधिक समय लगा।
टेक्सास बिजली बाजार में Luxor के प्रतिनिधि ने बिजली की कटौती की पुष्टि की, लेकिन परीक्षण का कोई स्वतंत्र विश्लेषण प्रकाशित नहीं हुआ है।
परीक्षण दिखाता है कि एक इंफरेंस वर्कलोड चलाने वाला B200 तीव्र बिजली कटौती ले सकता है बिना पहले से चल रहे काम को खोए। यह अनिश्चित है कि इससे उपयोगकर्ता के इंतज़ार के समय पर क्या प्रभाव पड़ा, क्या दूसरे इंफरेंस या ट्रेनिंग वर्कलोड्स भी वैसे ही जवाब देंगे, या पूरे डेटा सेंटर में इस तकनीक से कितनी बिजली बच सकती है।
GPU एक इमारत के बिजली बिल का केवल एक हिस्सा है। कूलिंग सिस्टम, नेटवर्किंग उपकरण, स्टोरेज, पंप और पावर कन्वर्शन भी बिजली का उपयोग करते हैं। इसलिए चिप की बिजली को 75% कम करने का मतलब यह नहीं है कि डेटा सेंटर ग्रिड से 75% कम बिजली खींचता है।
इमारत के मीटर पर मापी गई कटौती काफी कम हो सकती है।
Luxor पहले से ही अपने अगले परीक्षण की तैयारी कर रहा है, इस बार टेक्सास में Nvidia H100 GPU के एक समूह के साथ। वेरा ने कहा कि बड़ा होने का मतलब है सॉफ़्टवेयर बनाना जो तय कर सकता है कि कौन से काम सुरक्षित रूप से धीमा हो सकते हैं, फिर उन पर काम करने वाली मशीनों को समन्वयित कर सकता है। यह ग्राहकों के वादे के प्रदर्शन का भी ध्यान रखता है।
हर बार बड़ा होने से, एक GPU से एक सर्वर, एक रैक और अंततः पूरे डेटा सेंटर तक, एक और जटिलता का परत जोड़ता है। अधिक उपकरण बिजली खींचते हैं, अधिक मशीनें एक साथ चलनी पड़ती हैं, और अधिक ग्राहक काम धीमा होने को सहन कर सकते हैं या नहीं।
टेक्सास कुछ लचीलापन की आवश्यकता शुरू कर रहा है। सीनेट बिल 6, 2025 में पारित हुआ, कुछ बड़े बिजली उपयोगकर्ताओं को 2026 से जुड़ने के लिए आवश्यक है कि वे गंभीर ग्रिड आपातकाल के दौरान उपभोग कम करें। यह एक ऐसे कार्यक्रम का भी आह्वान करता है जो कम से कम 75 मेगावाट का उपयोग करने वाली साइट्स को उस समय मांग कम करने के लिए भुगतान करेगा जब परेशानी की उम्मीद हो।
उसी समय, राज्य 4CP को भी फिर से सोच रहा है। उसके चार गर्मियों के पीक्स शाम और सर्दियों के घंटों को छू सकते हैं जब ग्रिड अधिक तनाव में हो। नियामकों ने इसे 12CP से बदलने का प्रस्ताव दिया है, जो हर महीने एक 30 मिनट के पीक पर ट्रांसमिशन शुल्क का आधार बनाएगा।
ERCOT ने अप्रैल की समीक्षा में इसी तरह का निष्कर्ष निकाला: टेक्सास में बहुत मांग प्रतिक्रिया है, लेकिन यह हमेशा ग्रिड की सबसे ज़रूरत के समय नहीं दिखाई देती। 4CP इन बिजली कटौतियों का अधिकांश भाग चलाता है, लेकिन उसके गर्मियों के पीक्स उन घंटों को छू सकते हैं जब मांग ज़्यादा हो और पवन और सौर उत्पादन कम हो।
ERCOT ने कहा कि यह असंगति एक समस्या है। नए बिजली संयंत्र और ट्रांसमिशन लाइनें वर्षों लगती हैं, लेकिन लचीली मांग महीनों में जोड़ी जा सकती है। अब चुनौती यह है कि यह लचीलापन सही समय पर दिखाई दे।
सबसे कठिन बात यह साबित करना है कि एक डेटा सेंटर बिजली कम कर सकता है। अगर ग्रिड 50 मेगावाट गायब होने की उम्मीद कर रहा है, तो उसे यह पता होना चाहिए कि साइट अन्यथा कितनी बिजली का उपयोग करती, फिर मीटर डेटा से कटौती की पुष्टि करनी चाहिए।
यह यह भी जानना चाहिए कि कटौती कितनी देर तक रह सकती है और क्या होता है जब GPU फिर से तेज़ हो जाते हैं। हज़ारों को एक साथ वापस लाने से, डेटा सेंटर एक ताज़ा बिजली का उछाल पैदा कर सकता है।
यह ग्राहक अनुबंधों को समीक्षा करने का एक आवश्यक, लेकिन अनदेखा हिस्सा बनाता है। एक डेटा सेंटर इंटरैक्टिव और सुरक्षा संवेदनशील काम को सामान्य रूप से चलाता रह सकता है जबकि आंतरिक प्रयोग, इंडेक्सिंग या रातभर प्रोसेसिंग जैसे काम लचीले तरीके से रखे जा सकते हैं।
ग्राहक इस लचीलापन के लिए कम भुगतान कर सकते हैं, जबकि ग्रिड डेटा सेंटर को भुगतान करता है एक भरोसेमंद, मापने योग्य बिजली कटौती देने के लिए जब ज़रूरत हो।
यह एआई के बारे में एक तथ्य को अनदेखा करना असंभव बना देगा: हर गणना समान रूप से तत्काल नहीं है। उद्योग पहले से ही काम को कीमत, गति और कंप्यूटिंग लागत के आधार पर वर्गीकृत करता है, इसलिए बिजली इस गणना में एक और चर हो सकती है।
जब ग्रिड तंग हो जाता है, तो एक इमेज को रेंडर करने में अधिक समय लग सकता है या एक ट्रेनिंग रन कल की ओर खिसक सकता है, जबकि दूसरी सेवाएं चलती रहती हैं। हर GPU साइकल को समान रूप से महत्वपूर्ण मानने के बजाय, डेटा सेंटर्स अब तत्काल क्या होना चाहिए और क्या इंतज़ार कर सकता है, के बीच अंतर करना शुरू कर सकते हैं।
Luxor की आधे सेकंड की बिजली कटौती आसान हिस्सा थी। हज़ारों GPU पर यह करना, ग्राहकों के साथ वादे को तोड़े बिना और ग्रिड को वास्तव में गिने जाने वाले मेगावाट देते हुए, बहुत कठिन होगा।
लेकिन यही वह जगह है जहां विचार दिलचस्प हो जाता है, क्योंकि एआई के पास बिजली की समस्या है और ग्रिड के पास लचीलापन की समस्या है, और डेटा सेंटर्स ठीक बीच में हैं। वे मशीनों से भरे हुए हैं जो कभी-कभी सेकंड, मिनट या घंटों में चल सकते हैं बिना किसी को पता चले।
अगर ऑपरेटर इस लचीलापन को भरोसेमंद बिजली बचत में बदल सकते हैं, तो एआई की बहुत बड़ी बिजली की मांग ग्रिड के साथ काम कर सकती है। यह एआई निर्माण के अगले चरण को बिजली को सही समय पर उपयोग करने के बारे में बना सकता है जितनी बिजली की पहले से ज़रूरत है।
पोस्ट AI डेटा सेंटर्स बिजली के ट्रिक को सीख रहे हैं जो बिटकॉइन माइनर्स ने पहले सीखा था पहली बार CryptoSlate पर दिखाई दिया।