Yapay zekâ konuşurken çoğumuz modellerden, veriden ve üretken AI uygulamalarından bahsediyoruz. Ama işin arkasındaki asıl devrim, altyapı katmanında yaşanıyor.
9 Ekim’ de Satya Nadella’ nın paylaşımı ile öğrendiğimiz ve Microsoft Azure’un duyurduğu gelişme tam olarak bu dönüşümün simgesi.
https://x.com/satyanadella/status/1976322455288545343
Microsoft Azure, OpenAI iş yüklerini çalıştırmak üzere NVIDIA GB300 NVL72 GPU’larıyla donatılmış ilk büyük ölçekli süper bilgisayar kümesini devreye aldı.
Bu sistem, 4600’den fazla GPU ve yeni nesil InfiniBand bağlantısı ile yapay zekâ için tasarlanmış şu anda dünyadaki en güçlü AI altyapılarından biri konumunda.
Tabi ki buna sadece bir “donanım yatırımı” gibi bakanlar olacaktır ancak bu sadece bir donanım yatırımı değil.
Bu Microsoft’un AI çağında veri merkezi mimarisini yeniden tanımlama vizyonunun ilk adımı. Tabi ki şu anda mevcut veri merkezleri için bu tasarımlar son derece zorlayıcı ama yine biliyoruz ki Microsoft başta olmak üzere pek çok cloud sağlayıcı yeni nesil veri merkezleri için kolları sıvadı.
Zaten Microsoft’ın planlarına baktığımız zaman önümüzdeki dönemde yüz binlerce GB300 GPU’yu tüm Dünyada ki küresel veri merkezlerine entegre ederek toplam ölçeği çok daha büyük bir seviyeye taşıyacak. Bununla birlikte silikon, sistem ve yazılım katmanlarının tamamı yeniden tasarlanıyor. Malum bu da özellikle yeni gelen teknolojilerin birbirleri ile uyum içerisinde çalışması için şart.
Peki bu yatırım ne anlama geliyor?
-
Model boyutları artık sınırlayıcı değil: GB300 mimarisi trilyonlarca parametreli modellerin eğitimi için gereken bant genişliği ve düşük gecikme sürelerini sağlıyor.
-
Yeni InfiniBand altyapısı, GPU’lar arası veri paylaşımını çok daha verimli hale getirerek büyük modellerin paralel çalışmasını kolaylaştırıyor.
-
Enerji ve soğutma verimliliği, sürdürülebilir AI altyapısının merkezinde yer alıyor. Her ne kadar hala toplamda Dünyaya bu alanda karbon ayak izi olarak zarar veriyor olsak bile tüm çalışmaların bunu düşürmek üzerine yoğunlaşmış durumda.
-
Ve bence en önemlisi bu sistem AI geliştirmeyi donanım sınırlamalarından kurtarıyor. Yani artık bu konuda donanım’ lar yetmiyor, bu nedenle teknoloji tıkandı gibi yorumlar en azından bir süre duymayacağız. Zaten yakın dönemde OpenAI iş birliklerine bakacak olursanız, Oracle, AMD, NVIDIA, yani hep donanım veya compute, çip üreticileri. Özetle OpenAI ben ben yapay zeka alanında çalışıyorum ama sizde benim ve ekosistemin önünü açın. Yok efendim GPU yok, yok efendim enerji yok demeyin!
Bugün artık yapay zekâ sadece yazılım mühendisliğinin değil, altyapı mühendisliğinin de konusu. Büyük dil modelleri, görüntü işleme sistemleri, çok modlu AI yapıları hepsi bu tür süper ölçekli altyapılar üzerinde mümkün hale geliyor. Azure’un bu hamlesi, sadece OpenAI için değil, tüm ekosistemin geleceği için önemli bir dönüm noktası. Yapay zekânın sınırlarını artık model değil, donanım ve bağlantı kapasitesi belirliyor.
Görünüşe göre önümüzdeki yıllarda “AI innovation” kadar sık duyacağımız yeni bir kavram var:
AI Infrastructure Revolution.
Detaylı bilgi için: Microsoft Azure Blog