Yapay zeka patlaması sayesinde, şirketler inşa edebildikleri kadar hızlı bir şekilde yeni veri merkezleri ortaya çıkıyor. Bu, içerideki sunucuları çalıştırmak ve soğutmak için büyük bir güç talebine dönüştü. Şimdi ABD’nin yapay zekanın yaygın olarak benimsenmesi için yeterli elektrik üretip üretemeyeceği ve yaşlanan şebekemizin yükü kaldırabileceği konusunda endişeler artıyor.

Arm’da otomotiv başkanı olan Dipti Vachani, “Bu güç sorunu hakkında şimdi farklı düşünmeye başlamazsak, sahip olduğumuz bu rüyayı asla göremeyeceğiz,” dedi. Çip şirketinin düşük güç işlemcileri, Google, Microsoft, Oracle ve Amazon gibi hiper ölçekleyiciler arasında giderek daha popüler hale geldi; çünkü veri merkezlerinde güç kullanımını %15’e kadar azaltabiliyorlar.

Nvidia’nın en yeni yapay zeka çipi Grace Blackwell, önceki nesile göre 25 kat daha az güç harcayarak üretken yapay zeka modellerini çalıştırabildiğini söylediği Arm tabanlı CPU’ları bünyesinde barındırıyor.

Vachani, “Gücün her zerresini korumak, performansı en üst düzeye çıkarmaya çalışırken olduğundan temelde farklı bir tasarım olacaktır” dedi.

Genellikle “watt başına daha fazla iş” olarak adlandırılan, hesaplama verimliliğini artırarak güç kullanımını azaltma stratejisi, AI enerji krizine bir cevaptır. Ancak bu yeterli değildir.

Goldman Sachs’ın bir raporuna göre, bir ChatGPT sorgusu tipik bir Google aramasından neredeyse 10 kat daha fazla enerji kullanıyor. Bir AI görüntüsü oluşturmak, akıllı telefonunuzu şarj etmek kadar güç kullanabilir.

Bu sorun yeni değil. 2019’daki tahminlere göre, büyük bir dil modelinin eğitilmesinin, beş benzinli aracın tüm ömrü kadar CO2 ürettiği ortaya çıktı.

Bu muazzam güç çekimini karşılamak için veri merkezleri inşa eden hiper ölçekleyiciler de emisyonların arttığını görüyor. Google’ın son çevre raporu, sera gazı emisyonlarının 2019’dan 2023’e kadar kısmen veri merkezi enerji tüketimi nedeniyle neredeyse %50 arttığını gösterdi, ancak ayrıca veri merkezlerinin tipik bir veri merkezinden 1,8 kat daha enerji verimli olduğunu da söyledi. Microsoft’un emisyonları, yine kısmen veri merkezlerinden dolayı 2020’den 2024’e kadar neredeyse %30 arttı.

Meta’nın yapay zeka odaklı bir veri merkezi inşa ettiği Kansas City’de ise güç ihtiyaçları o kadar yüksek ki, kömürle çalışan bir elektrik santralini kapatma planları askıya alınıyor.

8 Temmuz 2024’te Kaliforniya, Santa Clara’daki bir Vantage veri merkezindeki sunucu raflarını yüzlerce ethernet kablosu birbirine bağlıyor.

Katie Tarasov

Güç peşinde

Dünya çapında 8.000’den fazla veri merkezi var ve en yüksek yoğunluk ABD’de. Ve yapay zeka sayesinde, on yılın sonunda çok daha fazlası olacak. Boston Consulting Group, veri merkezlerine olan talebin 2030’a kadar her yıl %15-20 artacağını ve bu tarihlerde toplam ABD güç tüketiminin %16’sını oluşturmalarının beklendiğini tahmin ediyor. Bu, OpenAI’nin ChatGPT’sinin 2022’de piyasaya sürülmesinden önceki %2,5’ten daha yüksek ve ABD’deki toplam evlerin yaklaşık üçte ikisinin kullandığı güce eşdeğer..

CNBC, sektörün bu hızlı büyümeyle nasıl başa çıkabileceğini ve bunu mümkün kılacak yeterli gücü nereden bulabileceğini öğrenmek için Silikon Vadisi’ndeki bir veri merkezini ziyaret etti.

Vantage Veri Merkezi Kuzey Amerika ve APAC Başkan Yardımcısı Jeff Tench, “Yapay zekaya özgü uygulamalardan göreceğimiz talebin, bulut bilişimde tarihsel olarak gördüğümüz kadar veya daha fazla olacağını tahmin ediyoruz” dedi.

Birçok büyük teknoloji şirketi, sunucularını barındırmak için Vantage gibi firmalarla sözleşme yapıyor. Tench, Vantage’ın veri merkezlerinin genellikle 64 megavatın üzerinde güç kullanma kapasitesine sahip olduğunu veya on binlerce evin kullandığı güce eşit olduğunu söyledi.

“Bunların çoğu, alanın tamamının kendilerine kiralandığı tek müşteriler tarafından kullanılıyor. Ve yapay zeka uygulamalarını düşündüğümüzde, bu sayılar bunun çok ötesinde yüzlerce megavata kadar çıkabilir,” dedi Tench.

CNBC’nin Vantage’ı ziyaret ettiği Kaliforniya, Santa Clara, uzun zamandır veri açlığı çeken müşterilerin yakınındaki veri merkezleri kümeleri için ülkenin en önemli noktalarından biri olmuştur. Nvidia’nın genel merkezi çatıdan görülebiliyordu. Tench, Kuzey Kaliforniya’da “bu bölgedeki kamu hizmetlerinden elektrik sağlanamaması” nedeniyle bir “yavaşlama” olduğunu söyledi.

Vantage, Ohio, Teksas ve Georgia’da yeni kampüsler inşa ediyor.

Tench, “Sektörün kendisi, yenilenebilir enerji kaynaklarına, rüzgar veya güneşe ve diğer altyapılara yakın erişimin olduğu yerleri arıyor. Bu, kömürle çalışan bir santralin doğal gaza dönüştürülmesi için bir teşvik programının parçası olmak veya giderek artan bir şekilde nükleer tesislerden güç çekmenin yollarını aramak olabilir” dedi.

Vantage Veri Merkezleri, Arizona, Phoenix’in dışında bulunan bir kampüsü 176 megavat kapasite sunacak şekilde genişletiyor

Vantage Veri Merkezleri

Şebekenin güçlendirilmesi

Yaşlanan şebeke, yeterli güç üretilebildiği yerlerde bile yükü idare etmek için genellikle yetersiz donanımlıdır. Darboğaz, gücün üretim tesisinden tüketildiği yere ulaştırılmasında meydana gelir. Bir çözüm, yüzlerce veya binlerce mil iletim hattı eklemektir.

Kaliforniya Üniversitesi Riverside’da elektrik ve bilgisayar mühendisliği doçenti olan Shaolei Ren, “Bu çok masraflı ve çok zaman alıcı bir durum ve bazen maliyet, elektrik faturalarındaki artışla birlikte vatandaşlara yansıtılıyor.” dedi.

Virginia’da “veri merkezi sokağı” olarak bilinen bir bölgeye hat genişletmek için yapılan 5,2 milyar dolarlık girişim, projeyi finanse etmek için faturalarının artmasını istemeyen yerel vergi mükelleflerinin muhalefetiyle karşılaştı.

Bir diğer çözüm ise şebekenin en zayıf noktalarından biri olan trafolardaki arızaları azaltmak için öngörücü yazılımlar kullanmaktır.

VIE Technologies CEO’su Rahul Chaturvedi, “Üretilen tüm elektriğin bir trafodan geçmesi gerekiyor” dedi ve ABD’de bunlardan 60-80 milyon tane olduğunu ekledi.

Ortalama bir trafo da 38 yaşındadır, bu yüzden elektrik kesintilerinin yaygın bir nedenidir. Bunları değiştirmek pahalı ve yavaştır. VIE, arızaları tahmin etmek ve hangilerinin daha fazla yükü kaldırabileceğini belirlemek için trafolara takılan küçük bir sensör yapar, böylece arıza riski olanlardan uzaklaştırılabilir.

Chaturvedi, ChatGPT’nin 2022’de piyasaya sürülmesinden bu yana işlerinin üç katına çıktığını ve gelecek yıl da bu rakamın iki veya üç katına çıkmasının beklendiğini söyledi.

VIE Technologies CEO’su Rahul Chaturvedi, 25 Haziran 2024’te San Diego’da bir sensörü elinde tutuyor. VIE, şebeke arızalarını tahmin etmeye ve azaltmaya yardımcı olmak için bunları eskiyen trafolara takıyor.

VIE Teknolojileri

Sunucuların soğutulması

Ren’in araştırmasına göre, üretken AI veri merkezlerinin serin kalabilmesi için 2027’ye kadar 4,2 milyar ila 6,6 milyar metreküp su çekilmesi gerekecek. Bu, Birleşik Krallık’ın yarısının toplam yıllık su çekiminden daha fazla.

“Herkes yapay zekanın enerji yoğun olmasından endişe ediyor. Kıçımızı kaldırıp nükleer konusunda bu kadar aptal olmayı bıraktığımızda bunu çözebiliriz, değil mi? Bu çözülebilir. Yapay zeka açısından gelecek olan şeyin temel sınırlayıcı faktörü sudur,” dedi Burnt Island Ventures’ın yönetici ortağı Tom Ferguson.

Ren’in araştırma ekibi, 10-50 ChatGPT isteminin, standart 16 onsluk bir su şişesinde bulabileceğiniz kadar enerji tüketebileceğini buldu.

Bu suyun büyük bir kısmı buharlaştırıcı soğutma için kullanılıyor, ancak Vantage’ın Santa Clara veri merkezinde, herhangi bir su çekimi olmadan binayı soğutan büyük klima üniteleri bulunuyor.

Bir diğer çözüm ise çipe doğrudan soğutma için sıvı kullanmaktır.

“Birçok veri merkezi için bu, muazzam miktarda bir yenileme gerektiriyor. Vantage’daki durumumuzda, yaklaşık altı yıl önce, veri salonu katındaki soğuk su döngüsüne erişmemizi sağlayacak bir tasarım uyguladık,” dedi Vantage’dan Tench.

Apple, Samsung ve Qualcomm gibi şirketler, cihaz üzerindeki yapay zekanın faydalarını öne sürerek, güç gerektiren sorguların buluta taşınmasını ve güç sıkıntısı çeken veri merkezlerine gitmesini önlüyor.

“Veri merkezlerinin destekleyebileceği kadar yapay zekaya sahip olacağız. Ve bu, insanların arzuladığından daha az olabilir. Ancak nihayetinde, bu tedarik kısıtlamalarından bazılarını ortadan kaldırmanın yollarını bulmak için çalışan çok sayıda insan var,” dedi Tench.