Amazon'un Trainium Laboratuvarına Özel Bir Bakış
Amazon'un CEO'su Andy Jassy, OpenAI ile yaptığı 50 milyar dolarlık yatırım anlaşmasını açıkladıktan kısa bir süre sonra, AWS beni bu anlaşmanın kalbinde yer alan çip geliştirme laboratuvarına özel bir tura davet etti. Bu laboratuvar, maliyetleri düşüren yapay zeka (YZ) çıkarımını sağlamak için geliştirilen Trainium çipine ev sahipliği yapıyor.
Uzmanlar, Amazon'un Trainium çipinin, Nvidia'nın neredeyse tekeli olduğu pazar üzerinde önemli bir etki yaratabileceğine dikkat çekiyor. AWS, Anthropic'in ilk günlerinden beri ana bulut platformu olarak hizmet veriyor ve bu ilişki, Microsoft'un da Anthropic ile bulut ortağı olmasıyla daha da derinleşti.
Trainium'in Açık Avantajları
Amazon'un AWS ile OpenAI arasındaki anlaşma, OpenAI'nın yeni yapay zeka ajanı oluşturucu modeli Frontier için özel bir tedarikçi olmasını sağlıyor. OpenAI, bu anlaşma kapsamında Amazon'dan 2 gigawattlık Trainium hesaplama kapasitesi talep etti. Bu, Anthropic ve Amazon'un Bedrock hizmetinin Trainium çiplerini hızla tüketmesi nedeniyle büyük bir taahhüt.
Trainium, başlangıçta daha hızlı ve daha ucuz model eğitimi için tasarlandı ancak şu anda çıkarım işlemleri için de optimize edildi. Çıkarım, bir YZ modelini çalıştırarak yanıtlar üretme sürecidir ve şu anda sektördeki en büyük performans darboğazıdır.
Trainium ve Nvidia Karşılaştırması
Amazon'un yeni çiplerinin, Nvidia'nın karşılaştırmalı performansa sahip klasik bulut sunucularına göre %50 daha az maliyetle çalıştığını belirtmek önemli. Bu da, Amazon'un kullanıcılarına daha uygun fiyatlarla yüksek performans sunma amacını destekliyor. Trainium3, Aralık 2022'de piyasaya sürüldü ve yeni Neuron anahtarları ile birlikte geldi; bu kombinasyon, düşük gecikme süresi ile her Trainium3 çipinin birbirleriyle iletişim kurmasını sağlıyor.
Amazon'un çip ekibi, Apple tarafından 2024 yılında övgüyle karşılandı. Apple'ın YZ direktörü, Amazon'un Graviton çipini nasıl kullandığını açıkça belirtti. Amazon, Nvidia'nın pazar hakimiyetine meydan okumak için kendi çiplerini destekleyen PyTorch gibi popüler açık kaynak framework'lerini desteklemeye başladı. Bu geçiş, geliştiriciler için bir satır değişikliği ve ardından tekrar derleme gerektiriyor.
Amazon'un Gelecek Vizyonu
Amazon'un çip tasarımı birimi, 2015 yılında Annapurna Labs'ı satın almasıyla doğdu ve 10 yıldan fazla bir süredir AWS için çip tasarlıyor. Austin'deki laboratuvar, modern bir ofis ortamında yer alıyor. Bu laboratuvar, çiplerin üretildiği yer değil; burada çiplerin ilk aktivasyon süreci olan "bring-up" gerçekleştiriliyor. Trainium3, TSMC tarafından üretilen 3 nanometre çiplerdir ve bu süreç, çiplerin tasarım aşamasından üretim aşamasına geçişte kritik bir aşamadır.
Amazon'un çip geliştirme vizyonu, daha düşük maliyetler ve yüksek performans sunarak pazar dinamiklerini değiştirme potansiyeli taşıyor. Trainium, sadece bir çip değil, aynı zamanda YZ uygulamalarında devrim yaratma arayışının bir parçası olarak öne çıkıyor.
