AI İşlemcileri İçin Artan Talep
Yapay zeka (AI) modellerini çalıştırmak için gereken bilgisayar talepleri her geçen gün artıyor. Ancak, bu süreçte karşılaşılan iki ana engel var: uygun çiplerin temin edilmesi ve bu çiplerin veri merkezlerine yerleştirilmesi. Türkiye'deki teknoloji geliştiricileri için bu durum, özellikle AI uygulamalarının yaygınlaşmasıyla kritik hale geliyor.
General Compute, AI işlem gücünü kiralayarak çalışan bir girişimdir. Şirket, AI modellerinin çalıştığı ve kullanıcılara yanıt verdiği aşamada uzmanlaşmış durumda. Yeni bir çip üreticisi olarak öne çıkmayı hedefleyen SambaNova'ya dikkat çeken General Compute, 15 milyon dolar yatırım alarak 60 milyon dolar değerleme ile büyüme fırsatlarını değerlendiriyor.
Doğru Çipin Seçimi
GPU'ların talebi son yıllarda artmış olsa da, AI modellerinin eğitim sonrası çalıştırılması için en uygun çipler oldukları konusunda şüpheler var. Eğitim süreci ile yanıt üretme aşaması arasında önemli farklılıklar var ve bu nedenle yeni bir çip sınıfı geliştirilmekte. Örneğin, Nvidia’nın 20 milyar dolarlık Groq anlaşması ve Cerebras’ın 57 milyar dolarlık halka arzı (IPO) bu alandaki değişimlerin habercisi.
General Compute'in kurucuları Finn Puklowski ve Jason Goodison, bu noktada SambaNova’nın çiplerine yöneliyor. SambaNova, Intel destekli bir çip üreticisi olarak, mevcut çiplerin ötesinde bir performans sunmayı vaat ediyor. Puklowski, SambaNova'nın yeni çiplerinin saniyede 600 ila 700 token üretebileceğini, bu sayının GPU'lar için yalnızca 250 token olduğunu belirtiyor.
Veri Merkezleri İçin Çözüm
General Compute, 300 milyon dolarlık SambaNova SN50 çip siparişi verdi ve bu çipleri dağıtacak ilk neocloud olacağını iddia ediyor. Ayrıca, bu çiplerin hava soğutmalı olması ve daha az enerji tüketmesi, mevcut veri merkezi altyapısına entegre edilmesini kolaylaştırıyor. Türkiye'deki veri merkezi işletmecileri için bu, yeni yatırımlar yapmadan mevcut kaynakları kullanma fırsatı sunuyor.
Puklowski, sadece veri merkezi sağlayıcılarıyla değil, aynı zamanda kripto madencileriyle de işbirliği yapmayı hedefliyor. Kripto madenciliği maliyetleri arttıkça, bu altyapıların yeniden kullanılması önemli bir fırsat oluşturuyor.
Yüksek Hız ve Çoklu Modeller
General Compute, MiniMax 2.7 adlı güçlü bir açık kaynak dil modeli üzerinde en hızlı işlemci olduğunu iddia ediyor. Joe Hasselmann, AI alanındaki ilk yatırımını burada yaparak, SambaNova'nın General Compute ile olan ortaklığını CoreWeave’in Nvidia ile olan ilişkisine benzetiyor. Hasselmann’a göre, her iki taraf da büyüme potansiyeline sahip bir müşteri kitlesine ihtiyaç duyuyor.
AI geleceğinde en değerli bilgisayar mimarisinin ne olacağı ise merak konusu. Hız ve maliyet, AI işlem gücünde belirleyici faktörler haline geliyor. Puklowski, karmaşık görevlerin süresini önemli ölçüde kısaltarak, müşteri hizmetleri için daha hızlı ve etkin bir deneyim sunmak istiyor. Örneğin, ChatGPT'nin ürettiği 50 token/saniye, insan okuma hızının çok üzerinde.
AI dünyasında hız, geleceği belirleyecek en önemli etkenlerden biri olmaya devam ediyor. Türkiye'deki teknoloji alanında çalışanlar için bu gelişmeler, hem fırsatlar hem de rekabet açısından dikkate değer bir dönüşümü işaret ediyor.
