Yapay zeka artık hayatımızda daha çok yer kaplıyor. Bunun pek çok nedeni var. Temel olarak hem sunulan hem de talep gören bir Teknoloji. Yani pek çok uygulama ve şirket AI teknolojilerini ürünlerine yerleştiriyor veya AI temelli hizmetler sunuyor. Aynı şekilde müşterilerde yoğun bir şekilde AI temelli projeler yapmak istiyor. Son 30 yıla bakacak olursanız böyle zamanları çok fazla görmemiş olabilirsiniz. Sanallaştırma çıktığında bir direnç vardı, hatta bulut Teknolojileri çıktığında bile direnç gördük, ancak AI için inanılmaz bir ilgi var. Yani hem bu teknolojiyi üretenler hem de kullanmak isteyenler çok motive. (İşimiz elden gidiyor tayfası var tabi ama şu anda azınlık oldukları için sesleri çıkmıyor).
AI uygulamalarının patlama yaşamasına neden olan faktörler arasında büyük dil modelleri (LLM’ler), kullanıcı deneyimlerini ve iş süreçlerini iyileştirmek için yüz tanıma yazılımları, yayın hizmetleri öneri motorları gibi gündelik hayatta çok rahatlıkla kullanılan başlıkları görüyoruz. Endüstri genelinde tekrarlayan görevleri otomatikleştirme, veri analizi ve akıllı karar verme ihtiyacı artmaktadır. AI geniş veri kümelerini analiz ederek desenleri ortaya çıkarabilir ve veriye dayalı tahminler veya öneriler yapabilir. Bu da çeşitli alanlarda potansiyel olarak artan verimlilik, üretkenlik ve yenilik anlamına gelmektedir.
Peki bu kadar hızla büyüyen bir talep olduğunu düşünürsek ilk aklımıza AI için en temel konu olan GPU yani ekran kartları, onların ihtiyacı olan enerji konuları darken tabi ki yeni nesil veri merkezleri geliyordur. Evet bu doğru, bu kadar yapay zeka talebi olan bir yerde sıvı soğutma temelli veri merkezlerini konuşmamız çok anormal değil. Ancak bu konuyu ben zaten son 1 yıldır kapalı olan tüm oturumlarımda müşterilerimiz ile paylaşıyorum. Bu yazımda ise biraz gözden kaçan başka bir alt yapı bileşenine dokunmak istiyorum. Veri Depolama!
Evet yapay zeka’ nın aslında mazotu olan en temel bileşen veri ve veriler o kadar çok kaynak, sensor vb uç noktadan toplanıyor ki merkezi olarak işlenmesinden önce store edilmesi bile çok ciddi bir ihtiyaca dönüşmüş durumda. Özellikle de LLM’lerin artan boyutlarına odaklanırsak göreceğimiz ihtiyacın özeti; yüksek performans, düşük güç tüketimi, düşük maliyet ve yüksek kapasiteye ek olarak, veri hareketini minimuma indirmek için bellek içinde veya yakınında daha fazla akıllı yönetim işlevine olan storage ürünlerine ihtiyacı daha net görebiliriz
Dünyanın dört bir yanındaki kullanıcıların uygulamaları ve araçları çoğunlukla bulutta çalışıyor. Hatta bu nedenle AI konusunda çok hevesli olan şirketlerin dahi verileri buluta çıkarmanın risklerinden sebep bu teknolojiye dokunamıyor. Ancak regülesyon dışında sizlerin verilerinin onprem sistemler de olduğu, teknolojinin veya hizmetlerin, servislerin bulut üzerinde çalıştığı bir Dünya’ da gecikme olmadan busistemleri nasıl daha iyi çalıştırabiliriz?
Çözüm çok basit, Hibrit Bulut. Artık Onprem sistemler üzerinde çalışan bulut sistemleri aynı bir public cloud gibi işlevsel ve faydalı olduğu için artık multicloud kavramına onrepm çalışan Azure Stack HCI gibi sistemleri ekleyebiliyoruz.
Azure Stack HCI kavramını ilk defa duyuyorsanız eğer aşağıdaki yazılarımı okumanızı tavsiye ederim.
Microsoft Azure Stack HCI Nedir ? – Hakan Uzuner
Bu noktada aslında verileriniz onprem de olmasına karşın Azure Stack HCI gibi sistemleri kullanarak yapay zekanın gücünü şirketiniz için daha ulaşılabilir hale getirebilirsiniz. Aşağıda buna güzel bir örnek veriyorum;
Sizlerinde görebileceği gibi artık onprem deki teknolojiler o kadar geliştir ki (Aslında bulut teknolojisini onprem e gitirdik diyebiliriz) AI servisleri de onprem sistemlerde çalışabiliyor. Bunun tabi ki pek çok örneği var ancak bir örnek ile konuyu toparlamak istiyorum. AI için bildiğiniz gibi GPU çok önemli bir konu, peki onprem de diyelim 4 node sunucu aldık ve yapay zeka işleri yapıyoruz, hepsine GPU’ lu kartlar var, node’ lardan birisi down olur ise ne oluyor? Normal bir HCI sistemde disk vb kaynaklar nasıl ortak kullanılıyor ve sanal makine aslında sanallaştırma katmanının yönettiği bu fizikzel donanımların yokluğunu hiç hissetmiyor ise aynı şekilde artık GPU geçişlerini de hissetmeyecek.
Nasıl? Çünkü Azure’ da çalışan bu teknoloji artık ayağınıza geldi, yani GPU kartlarını da aynı disklerde olduğu gibi HA yapabiliyoruz.
Umarım faydalı bir yazı olmuştur. Konu çok derin, eğer sizde yapay zeka projelerini onprem de çalıştırmak istiyor ancak bu işleri aynı cloud ortamlarında yapar gibi bir kaç tıklama ile yapmak istiyorsanız bize ulaşabilirsiniz.
