Bill Gates 2023 yılında Alman Handelsblatt gazetesi ile yaptığı bir söyleşide GPT teknolojisinin GPT-4 ile bir sınır noktasına ulaşmış olabileceğini, GPT-5’in ise büyük bir fark yaratmayabileceğini söylemişti. Seversiniz ya da sevmezsiniz ancak fikirlerine değer verdiğim isimlerden biri olarak bu yorumu not almış ve “bekle gör” stratejisiyle takip etmiştim.
Yakın zamanda çıkan GPT-5 ise beklenen etkiyi yaratmadı ve ciddi eleştirilerin odağı oldu. Bu konuda ayrıca aşağıdaki yazıyı okuyabilirsiniz:
GPT-5’in Kötü Performansının Nedeni Maliyet Tasarrufu Olabilir
Özetle mevcut GPU kartlarıyla yapay zekâda sınır noktasına mı yaklaşıyoruz? GPU mimarisi şu anda neredeyse tekelleşmiş durumda (NVIDIA H100, A100 vb.). Bu çipler milyonlarca paralel işlemci çekirdeğiyle devasa matris çarpımlarını hızlandırıyor ancak Moore Yasası yavaşladı; transistör boyutlarının küçülmesi artık fiziksel sınırlara yaklaşıyor (3nm civarında). Bu da daha fazla hız artışı sağlamayı giderek zorlaştırıyor. Yeni çipler (ör. NVIDIA Blackwell, Google TPU v5, Cerebras) performansı artırıyor ama enerji tüketimi ve maliyet geometrik biçimde yükseliyor. Büyük modelleri eğitmek için yüz milyonlarca dolar gerekiyor. Bu nedenle sırf “daha büyük model = daha zeki model” mantığı donanım maliyetleri nedeniyle sürdürülemez hale geliyor.
Bir diğer gerçek ise modelleri besleyecek kaliteli internet verisinin büyük ölçüde tüketilmiş olması. Burası bence yine en önemli sıkıntılardan birisi. GPT-4 zaten web’in çoğunu “okumuş” durumda. Daha fazla büyümek için yapay veriler (synthetic data), simülasyonlar veya özel domain verileri gerekiyor.(Bizim kurumsal verilerimiz, hani yapay zeka da bizi görecek mi diye soran müşterilerin verileri)
Sonuç olarak, mevcut çip teknolojisi ve transformer tabanlı mimarilerle bir tür pratik sınıra yaklaşmış olabiliriz. GPT-5, GPT-4’ten biraz daha iyi ama “dünya görüşümüzü değiştirecek” kadar farklı değil. Şimdilik diyelim. Asıl sıçrama muhtemelen yeni donanımlar (optik, kuantum, nöromorfik çipler), yeni mimariler (transformer ötesi yapılar) ve daha verimli eğitim yöntemleriyle mümkün olacak.
