Mỗi câu trả lời bạn nhận được từ chatbot AI đều bắt đầu bằng điện. Những từ ngữ xuất hiện trên màn hình của bạn, nhưng công việc thực sự diễn ra trong một tòa nhà xa xôi chứa đầy các chip máy tính. Những con chip này tiêu thụ điện năng, di chuyển dữ liệu và tỏa ra đủ nhiệt để đòi hỏi hệ thống làm mát chuyên dụng từ các trung tâm dữ liệu AI.
Khi bạn nhân quá trình đó với hàng triệu lời nhắc, yêu cầu hình ảnh và các tác vụ kinh doanh, bạn sẽ bắt đầu hiểu tại sao một câu trả lời nhanh chóng cho một câu hỏi tưởng chừng nhẹ nhàng lại trở thành một nhu cầu vật lý đối với các nhà máy điện và đường dây truyền tải.
Các công ty điện lực đang được yêu cầu cung cấp nhu cầu đó theo những khối lượng lớn và tập trung. Một khuôn viên trung tâm dữ liệu quy mô lớn thông thường có thể tiêu thụ điện năng tương đương một thành phố nhỏ, và các công ty có thể lập kế hoạch và xây dựng chúng nhanh hơn nhiều so với khả năng đáp ứng của công ty điện lực.
Công ty điện lực cũng phải chuẩn bị cho những giờ mà khách hàng sử dụng nhiều điện nhất, ngay cả khi một phần công suất đó không được sử dụng trong những thời gian bình thường. Nói tóm lại, các trung tâm dữ liệu muốn có điện sớm hơn lưới điện có thể cung cấp.
Một giải pháp là xây dựng các nhà máy điện mới. Nhưng đây là một giải pháp rất tốn kém, mất nhiều thời gian, có thể tiêu tốn hàng tỷ đô la và cần vài năm mới đi vào hoạt động.
Tuy nhiên, một giải pháp khác là chuyển một số công việc máy tính sang giờ khác.
Một câu trả lời từ chatbot thường cần xuất hiện ngay lập tức, nhưng một thử nghiệm nội bộ hoặc một hàng đợi xử lý video qua đêm có thể chờ đợi. Phần mềm có thể phân biệt được điều này có thể làm chậm các công việc có thể chờ đợi khi điện khan hiếm, rồi sau đó cho phép chúng catch up khi có thêm điện.
Một thử nghiệm nhỏ ở Texas cho thấy cách bố trí đó có thể trông như thế nào.
Luxor Energy, một công ty có nguồn gốc từ đào Bitcoin, hợp tác với Bentaus, công ty phát triển phần mềm kiểm soát lượng điện mà các chip máy tính sử dụng. Cùng nhau, họ đã kiểm soát một chip Nvidia B200, một loại chip mạnh mẽ được thiết kế dành cho công việc AI.
Con chip này đang thực hiện suy luận, nghĩa là chỉ đơn giản dùng mô hình AI đã huấn luyện để đưa ra câu trả lời, khi phần mềm bảo nó giảm lượng điện tiêu thụ.
Các công ty cho biết mức tiêu thụ điện của chip giảm xuống khoảng 25% so với bình thường chỉ trong nửa giây, và nó xử lý ít yêu cầu hơn trong thời gian hạn chế.
Ethan Vera, giám đốc điều hành của Luxor, nói với CryptoSlate rằng không có công việc nào bị thất bại và không có công việc nào đang tiến hành bị mất. Con chip trở lại tốc độ đầy đủ khi lệnh hạn chế kết thúc.
Luxor và Bentaus cho biết buổi trình diễn công khai của họ "không gây gián đoạn", nhưng cụm từ này cần được dịch kỹ hơn. Từ góc nhìn của người vận hành, công việc vẫn tồn tại và tiếp tục chạy với tốc độ đầy đủ.
Tuy nhiên, khách hàng vẫn có thể phải chờ lâu hơn để nhận được câu trả lời vì con chip hoàn thành ít công việc hơn trong thời gian hạn chế. Mọi kế hoạch làm cho AI linh hoạt sẽ phụ thuộc vào tần suất xảy ra sự trì hoãn đó, ai chịu ảnh hưởng và những gì khách hàng đã được cam kết.
Thử nghiệm này thành công, nhưng chỉ liên quan đến một con chip duy nhất. Các trung tâm dữ liệu lớn chứa hàng chục nghìn con chip, cùng với các máy chủ, hệ thống làm mát, thiết bị lưu trữ và thiết bị mạng.
Thử nghiệm giúp dễ dàng hình dung ý tưởng rộng hơn: một trung tâm dữ liệu AI có thể sắp xếp công việc theo mức độ khẩn cấp và thỉnh thoảng yêu cầu lưới điện cung cấp ít điện hơn.
Texas thiếu điện để nuôi các máy tính đang chờ
Ví dụ tốt nhất về điều xảy ra khi các trung tâm dữ liệu mới mọc lên nhanh hơn cơ sở hạ tầng điện mới chính là Texas.
Hội đồng Tin cậy Điện Texas (ERCOT) vận hành lưới điện phục vụ phần lớn bang này. Ngày 22 tháng 7, mức tiêu thụ điện đạt mức kỷ lục 91.089 megawatt, con số chưa chính thức cho đến khi dữ liệu được xác nhận.
ERCOT cho biết một megawatt có thể phục vụ khoảng 250 khách hàng dân cư trong giờ cao điểm. Theo cách so sánh gần đúng này, mức kỷ lục tương đương nhu cầu của hơn 22 triệu khách hàng dân cư cùng lúc.
Thống đốc Greg Abbott hồi tháng Tám cho biết ERCOT đang xem xét các yêu cầu kết nối hơn 474 gigawatt điện mới, trong đó khoảng 90% đến từ các trung tâm dữ liệu. Một gigawatt bằng 1.000 megawatt, nên trên giấy tờ, danh sách này yêu cầu điện gấp hơn năm lần mức tiêu thụ trong giờ kỷ lục của ERCOT.
Abbott đã yêu cầu các cơ quan quản lý kiểm tra các dự án trước khi cho phép chúng tiến hành.
Trong bài đánh giá sơ bộ ngày 28 tháng 7, ERCOT phát hiện khoảng 205 gigawatt đã có đủ nghiên cứu hỗ trợ để đủ điều kiện cho đợt nghiên cứu đầu tiên, chưa đến một nửa tổng số 474 gigawatt. Cuộc kiểm tra của Abbott đã làm gián đoạn bài đánh giá này.
Các cơ quan quản lý cho ERCOT thêm thời gian vào ngày 20 tháng 8, và cơ quan này cho biết sẽ gửi quyết định đủ điều kiện tạm thời trước ngày 31 tháng 8. Các nhà phát triển có thể nộp đề xuất chồng chéo, giữ chỗ cho các dự án chưa bao giờ huy động vốn, hoặc yêu cầu nhiều địa điểm cung cấp điện cho một khuôn viên cuối cùng.
Texas đang tiến hành cuộc kiểm tra một phần vì danh sách này đã trở nên quá xa rời khả năng thực tế để tự dẫn dắt quy hoạch lưới điện.
Nhưng ngay cả với lưu ý đó, 474 gigawatt cho thấy sự nóng lòng tìm kiếm đất có sẵn điện lớn. Số lượng máy móc được đề xuất còn lớn hơn nhiều so với số đường dây sẵn sàng phục vụ chúng.
Một bản cập nhật từ Phòng thí nghiệm Quốc gia Lawrence Berkeley công bố năm nay ước tính rằng các trung tâm dữ liệu có thể tiêu thụ 11,8% điện năng của Mỹ vào năm 2030. Ước tính thấp nhất là 9,5%, cao nhất là 15,3%. Cơ quan Năng lượng Quốc tế dự kiến các trung tâm dữ liệu sẽ chiếm khoảng một nửa mức tăng tiêu thụ điện của Mỹ cho đến hết thập niên này.
Nhưng ngay cả với nhu cầu như vậy, đường dây truyền tải ở các nền kinh tế tiên tiến có thể mất từ bốn đến tám năm để hoàn thành. Cơ quan này cho biết thời gian chờ đợi cho các thiết bị quan trọng, bao gồm máy biến áp và cáp, đã tăng gấp đôi trong ba năm qua.
Các công ty AI thường nói về chip, nhưng hệ thống điện phải nghĩ theo cách của các thành phố. Một con B200 riêng lẻ có thể tiêu thụ tới 1.000 watt. Nvidia liệt kê mức tiêu thụ điện tối đa khoảng 14,3 kilowatt cho một máy chủ DGX B200 đầy đủ tám GPU. Một megawatt bằng 1.000 kilowatt, và các quy định mới của Texas dành cho người dùng điện cực lớn bắt đầu từ 75 megawatt.
Theo cách so sánh với khách hàng dân cư của ERCOT, lượng điện này có thể phục vụ khoảng 18.750 khách hàng trong giờ cao điểm. Nó cũng có thể cung cấp điện cho 75.000 GPU một kilowatt, ít nhất là trước khi bổ sung bộ xử lý, hệ thống làm mát, mạng lưới, pin và tổn thất điện.
Vì vậy, học cách kiểm soát và hạn chế mức tiêu thụ điện của một trong những con chip đó là bước đầu tiên trong rất nhiều bước để hiểu cách quản lý tiêu thụ điện toàn bộ trung tâm dữ liệu.
Sự phức tạp tuyệt đối của nhiệm vụ này, cả về phần mềm lẫn phần cứng, là lý do các nhà quy hoạch lưới điện coi các trung tâm dữ liệu là "phụ tải cố định", nghĩa là điện phải luôn sẵn có mỗi khi họ yêu cầu.
Các nhà điều hành trung tâm dữ liệu muốn các GPU đắt tiền hoạt động liên tục vì mỗi phút rảnh rỗi đều trì hoãn công việc mà khách hàng đang trả tiền. Hàng nghìn con chip làm việc trên một công việc AI lớn phụ thuộc chặt chẽ vào nhau.
Ở một số điểm, một nhóm có thể phải chờ nhóm khác hoàn thành trước khi tiếp tục. Nếu bạn làm chậm một nhóm chọn lọc, sự trì hoãn có thể lan tỏa đến các máy gần đó.
Nhưng không phải tất cả công việc tính toán trong trung tâm dữ liệu đều phải diễn ra ngay lập tức hay chạy hết tốc độ. Một số công việc nhạy cảm về thời gian, trong khi những công việc khác có thể trì hoãn hoặc chạy chậm hơn mà ít ảnh hưởng. Thậm chí một số có thể chuyển sang trung tâm dữ liệu khác nơi điện dễ dàng hơn.
Mỗi lựa chọn đều có sự đánh đổi, nhưng mỗi lựa chọn đều có thể giảm lượng điện mà trung tâm dữ liệu cần từ lưới điện địa phương tại một thời điểm nhất định.
Dân đào Bitcoin dạy máy tính cách nhường điện
Tiền lệ đến từ đào Bitcoin trên lưới điện Texas. Dân đào Bitcoin cạnh tranh để kiếm thưởng bằng cách vận hành các máy tính thực hiện tính toán liên tục. Khi một máy tắt, người đào mất cơ hội kiếm tiền trong khoảng thời gian đó.
Nhưng khi điện trở lại, máy có thể hoạt động gần như ngay lập tức. Không có khách hàng nào chờ đợi phản hồi, và không có công việc tính toán nào chưa hoàn thành phải được bảo toàn.
Texas nhận ra rằng ý tưởng cơ bản gọi là phản ứng nhu cầu: khi điện trở nên khan hiếm và đắt đỏ, người dùng lớn có lý do để giảm lượng điện tiêu thụ.
Dân đào Bitcoin đặc biệt phù hợp với thỏa thuận này. Họ có thể ngừng hoạt động khi giá bán buôn tăng vọt, được trả tiền khi cắt giảm điện trong tình trạng khẩn cấp, và giảm chi phí truyền tải bằng cách nghỉ một vài giờ quan trọng mùa hè.
Một bài đánh giá của ERCOT hồi tháng Tư mô tả dân đào crypto là những người tham gia nhạy cảm về giá trong một trong các chương trình khẩn cấp của họ. Đối với một người đào, phép tính đơn giản: khi một megawatt trở nên có giá trị hơn số Bitcoin mà các máy có thể kiếm được với nó, hãy tắt máy.
Load đào Bitcoin duy trì gần mức công suất tối đa khi điện rẻ, rồi giảm dần khi giá vượt ngưỡng cắt giảm. Giá hash cao hơn đẩy ngưỡng này lên cao hơn. Nguồn: Subir Majumder, dựa trên dữ liệu ERCOT
Luxor cung cấp phần mềm, dịch vụ năng lượng và sản phẩm tài chính cho dân đào Bitcoin, nên họ tiếp cận AI với bản năng tính toán có thể bị gián đoạn. Thử nghiệm đặt câu hỏi liệu các máy phục vụ khách hàng có thể thừa hưởng phần nào sự tuân thủ của dân đào đối với giá điện hay không.
Câu hỏi đó ngày càng cấp thiết khi dân đào chuyển các trang web giàu điện sang các khuôn viên AI. Nếu lưới điện đổi một mỏ Bitcoin có thể tắt theo lệnh lấy một trung tâm dữ liệu hoạt động suốt ngày đêm, thì có thể đang từ bỏ một phanh khẩn cấp quý giá.
Mức độ linh hoạt của một trung tâm dữ liệu phụ thuộc rất nhiều vào những gì các máy của nó đang làm.
Huấn luyện là quá trình dài, nặng về tính toán để dạy một mô hình, liên tục điều chỉnh nó khi nó xử lý lượng dữ liệu khổng lồ. Suy luận là điều xảy ra sau đó, khi ai đó yêu cầu mô hình đã hoàn thiện một câu trả lời, một hình ảnh, một bản dịch hoặc một dự đoán. Hai quá trình này tạo ra những cơ hội khác nhau để tiết kiệm điện.
Một quá trình huấn luyện dài đôi khi có thể tạm dừng tại một điểm lưu và tiếp tục sau đó, dù việc dừng hàng nghìn máy đồng bộ không hề đơn giản. Suy luận có thể bao gồm hàng triệu yêu cầu nhỏ, một số từ người mong đợi câu trả lời ngay lập tức và số khác từ các công việc tự động có thể chờ trong hàng đợi cho đến khi điện dễ dàng hoặc rẻ hơn.
Google đã sắp xếp công việc tính toán theo cách này từ nhiều năm trước. Năm 2023, công ty miêu tả cách họ có thể trì hoãn công việc như xử lý video YouTube khi lưới điện địa phương căng thẳng, hoặc chuyển công việc đó sang vùng khác có nhiều điện hơn. Các dịch vụ tìm kiếm, bản đồ và những dịch vụ khác mà mọi người mong đợi hoạt động ngay lập tức vẫn trực tuyến.
Sau đó, Google mang ý tưởng tương tự đến các công việc học máy. Đến tháng Ba năm 2026, họ cho biết đã đưa một gigawatt nhu cầu phản ứng của trung tâm dữ liệu vào các hợp đồng tiện ích dài hạn tại nhiều khu vực ở Mỹ.
Một số thỏa thuận đó cũng có thể giúp các trung tâm dữ liệu mới kết nối với lưới điện sớm hơn.
Các nhà nghiên cứu hiện đang chứng minh rằng điều này có thể hoạt động ngoài mô phỏng. Trong một bài báo được bình duyệt trên Nature Energy, một nhóm mô tả thử nghiệm tại một cơ sở đám mây Oracle ở Phoenix. Phần mềm đã cắt giảm 25% lượng điện tiêu thụ của một cụm 256 GPU trong ba giờ mà không đẩy các công việc ưu tiên ra khỏi mức hiệu suất cam kết.
Chìa khóa nằm ở việc quyết định nơi hấp thụ sự chậm lại. Phần mềm xác định công việc nào chạy và khi nào, gọi là bộ lập lịch, bảo vệ các công việc khẩn cấp và lấy lượng điện tiết kiệm từ các công việc có thời hạn thoải mái hơn.
Load đào Bitcoin giảm khi khả năng xảy ra khoảng thời gian 4CP tăng. Sự phản ứng yếu đi khi doanh thu đào cao hơn. Nguồn: Subir Majumder, dựa trên dữ liệu ERCOT
Emerald AI, công ty đứng đầu công việc đó, công bố $150 triệu vòng tài trợ vào ngày 25 tháng 8, định giá công ty trên 1 tỷ đô la. Công ty cũng cho biết phần mềm của họ đang hoạt động thương mại trên toàn bộ các trung tâm dữ liệu, tiêu thụ nhiều megawatt.
Không có dữ liệu hiệu suất độc lập cho từng địa điểm, nhưng dù sao đi nữa, khoản tài trợ này cho thấy AI linh hoạt đã vượt ra khỏi các bài báo nghiên cứu và bước vào lĩnh vực kinh doanh thương mại.
Các nhà nghiên cứu khác đã cố gắng ước tính lượng điện mà một cơ sở AI có thể cam kết chắc chắn từ bỏ trong giờ khó khăn.
Một bài báo làm việc của Đại học Chicago sử dụng bốn năm giá điện và 49,4 triệu yêu cầu suy luận thực tế để mô hình hóa câu trả lời. Tác giả ước tính rằng một cơ sở tập trung vào suy luận có thể cam kết cắt giảm 40% nhu cầu. Một cơ sở chạy kết hợp suy luận và huấn luyện có thể cam kết 24,6%.
Tỷ lệ này chỉ giảm nhẹ khi mô hình mở rộng đến một đội tàu 10 gigawatt. Các giới hạn chính đến từ hợp đồng khách hàng, hạn chế di chuyển công việc và sự hối hả khi các máy trở lại công suất đầy đủ.
Các nhà nghiên cứu tại Đại học Alberta mô hình hóa điều gì xảy ra với lưới điện khi các công việc AI có thể trì hoãn hoặc chuyển giữa các trung tâm dữ liệu. Trong kịch bản căng thẳng nhất của mô hình, sự linh hoạt đó đã cắt giảm hơn 21% công suất nhà máy điện cần thiết. Trong một kịch bản khác, khi lưới điện địa phương bị tắc nghẽn, nó đã giảm 3,5% tổng chi phí cung cấp điện, dù chi tiêu cho phát điện mới tăng 7,1%.
Phần lớn lợi ích từ việc trì hoãn công việc xuất hiện trong ba giờ đầu, nên chờ lâu hơn không giúp ích nhiều hơn. Mặc dù điều này không loại bỏ nhu cầu xây dựng các nhà máy điện và đường dây truyền tải mới, nó cho thấy lưới điện có thể đáp ứng nhu cầu AI lớn hơn với ít cơ sở hạ tầng hơn và chi phí tổng thể thấp hơn.
Bốn khoảnh khắc ẩn có thể định giá cả một năm
Nguồn tiền cho thử nghiệm của Luxor đến từ một đặc điểm bất thường của thị trường điện Texas. Khách hàng lớn giúp chi trả cho mạng truyền tải cao áp, và một phần hóa đơn đó có thể phụ thuộc vào lượng điện họ sử dụng trong chỉ bốn cửa sổ 15 phút mỗi năm.
Những cửa sổ này là thời điểm nhu cầu hệ thống cao nhất trong tháng Sáu, tháng Bảy, tháng Tám và tháng Chín, được gọi là Bốn Đỉnh Đồng Thời, hay 4CP.
Điều đáng chú ý là không ai biết chính xác khi nào một 4CP xảy ra cho đến khi hết tháng. Vì vậy, các khách hàng lớn thuê các nhà dự báo theo dõi lưới điện, thời tiết và nhu cầu điện để dự đoán thời điểm đỉnh cao có thể xảy ra.
Nếu xác suất đủ cao, họ sẽ giảm lượng điện tiêu thụ trong cửa sổ 15 phút đó. Nếu đoán đúng đủ thường xuyên, khoản tiết kiệm chi phí truyền tải có thể đáng kể. Điều này đã biến 4CP thành trò chơi dự đoán và cắt giảm điện định kỳ cho các nhà máy, mỏ Bitcoin, pin, và giờ đây, có thể là các trung tâm dữ liệu AI.
Khả năng trả thưởng tiềm năng này khiến nhiều cảnh báo sai đáng để chấp nhận. Số liệu PUCT mới nhất năm 2026 đưa chi phí truyền tải của ERCOT lên khoảng 6 tỷ đô la, phân bổ trên mức nhu cầu trung bình 4CP là 80.859,8 megawatt.
Điều này tương đương khoảng 74,89 đô la mỗi kilowatt mỗi năm. Với mức này, 100 megawatt nhu cầu trong bốn cửa sổ đỉnh cao đại diện cho khoảng 7,49 triệu đô la chi phí truyền tải hàng năm.
Mặc dù hóa đơn thực tế sẽ khác nhau tùy theo vùng dịch vụ và hợp đồng, nhưng động lực tài chính ở đây khá rõ ràng. Một trung tâm dữ liệu lớn có thể có hàng triệu đô la phụ thuộc vào chỉ một giờ sử dụng điện rải rác suốt mùa hè. Cắt giảm điện thêm vài giờ để nắm bắt giờ đó có thể là một giao dịch rất tốt.
Load đào Bitcoin giảm khi khả năng xảy ra khoảng thời gian 4CP tăng. Sự phản ứng yếu đi khi doanh thu đào cao hơn. Nguồn: Subir Majumder, dựa trên dữ liệu ERCOT
Luxor quyết định hạn chế chính con GPU, sử dụng dữ liệu lưới điện thực tế để quyết định khi nào hành động. Vera cho biết công ty theo dõi dấu hiệu cho thấy cửa sổ 4CP có thể hình thành, rồi gửi lệnh riêng đến con chip. ERCOT chưa bao giờ yêu cầu GPU giảm tốc độ, và không có chương trình lưới điện khẩn cấp nào liên quan.
Đây thực chất là một canh bạc riêng về thời điểm nhu cầu điện đạt đỉnh, nhằm giảm hóa đơn truyền tải của trang web. ERCOT phân loại kiểu tự hạn chế 4CP này riêng biệt với các chương trình phản ứng nhu cầu mà họ vận hành.
Điều này cũng đặt thời gian phản hồi nửa giây vào đúng bối cảnh. Một cửa sổ 4CP kéo dài 15 phút, nên việc GPU đạt mức công suất thấp hơn trong nửa giây hay vài giây hầu như không ảnh hưởng đến khoản tiết kiệm truyền tải.
Chương trình khẩn cấp của ERCOT thường cho khách hàng tham gia 10 hoặc 30 phút để thực hiện mức giảm điện đã cam kết. Một số dịch vụ lưới điện khác hoạt động nhanh hơn, yêu cầu khách hàng bắt đầu cắt giảm điện ngay lập tức và đạt mức giảm đầy đủ trong vòng 10 phút.
Nếu phần cứng AI cuối cùng tham gia vào các thị trường đó, việc kiểm soát dưới giây có thể trở nên hữu ích hơn. Đối với Luxor, mỗi giây GPU bị hạn chế là một giây nó có thể dùng để kiếm tiền nhờ tính toán.
Bentaus đã thử nghiệm ý tưởng cơ bản tương tự ở quy mô lớn hơn. Tháng Hai, CPower, Bentaus và Supermicro miêu tả một thử nghiệm ở California sử dụng một cụm máy chủ trang bị GPU B200.
Các công ty cho biết cụm này phản ứng với tín hiệu gắn liền với thị trường điện bán buôn của tiểu bang trong chưa đầy 20 mili giây và giảm tiêu thụ điện tới 75%, trong khi vẫn đáp ứng mức hiệu suất cam kết.
Thử nghiệm ở Texas nhỏ hơn và hẹp hơn nhiều: một GPU phản ứng với một khuyến khích cụ thể về hóa đơn truyền tải. Nhưng nó bổ sung thêm một thử nghiệm thực tế khác cho ý tưởng đã chuyển từ các con chip riêng lẻ sang cụm máy chủ và các chương trình tiện ích.
Vẫn còn những khoảng trống quan trọng trong những gì chúng ta biết về thử nghiệm ở Texas. Các công ty chưa tiết lộ mô hình AI nào đang chạy hay GPU duy trì mức công suất giảm trong bao lâu. Họ chưa nói rõ lượng điện nó tiêu thụ trước đó, mức giảm năng suất tính toán của nó, hay thời gian yêu cầu hoàn thành lâu hơn bao nhiêu.
Đại diện của Luxor tại thị trường điện Texas xác minh mức giảm điện, nhưng chưa có phân tích độc lập nào về thử nghiệm được công bố.
Thử nghiệm cho thấy một con B200 chạy công việc suy luận có thể giảm mạnh điện mà không làm mất công việc đang tiến hành. Vẫn chưa rõ điều đó ảnh hưởng thế nào đến thời gian chờ của người dùng, liệu các công việc suy luận hay huấn luyện khác có phản ứng giống nhau hay không, hay lượng điện mà kỹ thuật này có thể tiết kiệm trên toàn bộ trung tâm dữ liệu.
GPU chỉ là một phần trong hóa đơn điện của một tòa nhà. Hệ thống làm mát, thiết bị mạng, lưu trữ, máy bơm và chuyển đổi điện cũng tiêu thụ điện. Vì vậy, việc giảm 75% công suất của một con chip không có nghĩa là trung tâm dữ liệu tiêu thụ ít hơn 75% điện từ lưới.
Mức giảm đo được tại đồng hồ của tòa nhà có thể nhỏ hơn đáng kể.
Luxor đang chuẩn bị thử nghiệm tiếp theo, lần này với một nhóm GPU Nvidia H100 ở Texas. Vera cho biết việc mở rộng quy mô đồng nghĩa với xây dựng phần mềm có thể xác định công việc nào an toàn để giảm tốc độ, rồi phối hợp các máy đang làm việc đó. Nó cũng phải tôn trọng mức hiệu suất mà khách hàng đã cam kết.
Mỗi bước nhảy quy mô, từ một GPU đến một máy chủ, một tủ rack và cuối cùng là cả một trung tâm dữ liệu, đều thêm một lớp phức tạp mới. Nhiều thiết bị tiêu thụ điện hơn, nhiều máy phải hoạt động đồng loạt, và nhiều công việc của khách hàng có thể hoặc không thể chịu được sự chậm lại.
Texas đang bắt đầu yêu cầu một số mức linh hoạt đó. Dự luật Thượng viện 6, thông qua năm 2025, yêu cầu một số người dùng điện lớn kết nối từ năm 2026 trở đi phải giảm tiêu thụ trong các tình huống khẩn cấp nghiêm trọng của lưới điện. Dự luật cũng kêu gọi một chương trình trả tiền cho các trang web sử dụng ít nhất 75 megawatt để giảm nhu cầu khi dự báo có vấn đề.
Đồng thời, tiểu bang cũng đang xem xét lại 4CP. Bốn đỉnh mùa hè của nó có thể bỏ lỡ các giờ chiều tối và mùa đông khi lưới điện chịu áp lực lớn hơn. Các cơ quan quản lý đã đề xuất thay thế nó bằng 12CP, sẽ căn cứ hóa đơn truyền tải trên một đỉnh 30 phút mỗi tháng.
ERCOT cũng đi đến kết luận tương tự trong bài đánh giá tháng Tư: Texas có nhiều phản ứng nhu cầu, nhưng không phải lúc nào cũng xuất hiện khi lưới điện cần nhất. 4CP thúc đẩy phần lớn các lần cắt giảm điện, nhưng các đỉnh mùa hè của nó có thể bỏ lỡ những giờ nhu cầu cao và sản lượng gió, mặt trời thấp.
ERCOT cho biết sự lệch lạc này là một vấn đề. Các nhà máy điện và đường dây truyền tải mới cần nhiều năm, nhưng nhu cầu linh hoạt có thể bổ sung trong vài tháng. Thách thức bây giờ là đảm bảo sự linh hoạt xuất hiện đúng lúc.
Khó khăn nhất là chứng minh rằng một trung tâm dữ liệu có thể cắt giảm điện một cách đáng tin cậy. Nếu lưới điện dự tính 50 megawatt sẽ biến mất, nó cần biết trang web đó đã sử dụng bao nhiêu nếu không cắt giảm, rồi xác minh mức giảm bằng dữ liệu đồng hồ.
Nó cũng cần biết thời gian cắt giảm có thể kéo dài bao lâu và điều gì xảy ra khi các GPU tăng tốc trở lại. Nếu đưa hàng nghìn GPU trở lại cùng lúc, trung tâm dữ liệu có thể tạo ra một đợt tăng điện mới.
Điều này khiến hợp đồng khách hàng trở thành một phần thiết yếu nhưng bị bỏ qua trong bài toán. Một trung tâm dữ liệu có thể giữ các công việc tương tác và nhạy cảm với an toàn hoạt động bình thường, trong khi đưa các công việc như thử nghiệm nội bộ, lập chỉ mục hoặc xử lý qua đêm vào một tầng linh hoạt.
Các khách hàng có thể trả ít hơn cho sự linh hoạt đó, trong khi lưới điện trả tiền cho trung tâm dữ liệu để cung cấp một mức cắt giảm điện ổn định, dễ đo lường khi cần.
Điều này sẽ khiến một thực tế về AI trở nên không thể bỏ qua: không phải mọi tính toán đều quan trọng như nhau. Ngành công nghiệp đã phân loại công việc theo giá cả, tốc độ và chi phí tính toán, nên điện có thể trở thành một biến số khác trong phép tính đó.
Khi lưới điện căng thẳng, một hình ảnh có thể mất nhiều thời gian hơn để hiển thị hoặc một quá trình huấn luyện có thể bị hoãn đến ngày mai, trong khi các dịch vụ khác vẫn tiếp tục. Thay vì coi mỗi chu kỳ GPU là quan trọng như nhau, các trung tâm dữ liệu có thể bắt đầu phân biệt giữa những gì cần làm ngay và những gì có thể chờ.
Việc cắt giảm điện nửa giây của Luxor chỉ là phần dễ dàng. Thực hiện điều này trên hàng nghìn GPU, không phá vỡ cam kết với khách hàng và vẫn cung cấp megawatt mà lưới điện thực sự có thể tin cậy, sẽ khó hơn nhiều.
Nhưng đó cũng là lúc ý tưởng trở nên thú vị, bởi AI có vấn đề về điện và lưới điện có vấn đề về sự linh hoạt, và các trung tâm dữ liệu tình cờ nằm ngay giữa hai bên. Chúng chứa đầy các máy làm việc mà đôi khi có thể di chuyển chỉ trong vài giây, vài phút hoặc vài giờ mà không ai nhận ra.
Nếu các nhà điều hành có thể biến sự linh hoạt đó thành tiết kiệm điện đáng tin cậy, sức hút điện khổng lồ của AI có thể trở thành thứ mà lưới điện thực sự có thể làm việc được. Điều này có thể khiến giai đoạn tiếp theo của việc xây dựng AI không chỉ là tìm đủ điện mà còn là sử dụng điện đúng lúc.
Bài viết Trung tâm dữ liệu AI đang học bí quyết tiết kiệm điện mà dân đào Bitcoin từng thành công xuất hiện lần đầu trên CryptoSlate.