OpenAI, Nvidia Çiplerinin Hızından Memnun Değil: Cerebras Anlaşması

Nvidia'nın Çıkarım Çiplerine Yönelik Eleştiri

Yapay zeka alanında öncü şirketlerden OpenAI'ın, Nvidia'nın ürettiği bazı yapay zeka çiplerinin hızından memnun olmadığı bildirildi. Reuters ajansının sekiz kaynağa dayandırdığı habere göre, eleştiri odağında, eğitilmiş modellerin kullanıcı sorgularına yanıt vermesini sağlayan "çıkarım" (inference) çipleri bulunuyor.

Kaynaklar, özellikle yazılım geliştirme gibi hızın kritik önem taşıdığı uygulamalarda, Nvidia donanımının yanıt üretme hızının beklentileri karşılamadığını belirtiyor. Bu nedenle OpenAI, gelecekteki çıkarım iş yükünün yaklaşık yüzde onu için yeni donanım arayışına girdi.

Hız İçin Farklı Tasarım Arayışı

Çıkarım işlemi, eğitim sürecine kıyasla bellek erişimine daha fazla ihtiyaç duyuyor. Nvidia GPU'ları harici bellek kullanırken, bu durum işlem hızını etkileyebiliyor. OpenAI'ın bu soruna çözüm olarak, işlemci üzerine doğrudan gömülü SRAM belleğe sahip, daha hızlı erişim sunan çip tasarımlarına yöneldiği ifade ediliyor.

Bu kapsamda şirketin, Cerebras ve Groq gibi yeni nesil çip üreticileriyle birkaç aydır görüştüğü öğrenildi. Cerebras ile bir anlaşmaya varıldığı ve CEO Sam Altman'ın bu anlaşmanın, kodlama modelleri için gereken hız gereksinimlerini karşılamayı amaçladığını geçen ay doğruladığı aktarıldı. Groq ile ise görüşmeler, Nvidia'nın startup ile 20 milyar dolarlık bir lisans anlaşması imzalamasıyla sona erdi.

100 Milyar Dolarlık Yatırım Gecikiyor

Geçen Eylül ayında Nvidia'ın OpenAI'a 100 milyar dolara kadar yatırım yapmayı planladığı açıklanmıştı. Ancak anlaşmanın haftalar içinde tamamlanması beklenirken, müzakerelerin aylardır sürdüğü belirtiliyor. Bir kaynak, görüşmelerin yavaş ilerlemesinde OpenAI'ın değişen ürün yol haritasının etkili olduğunu öne sürdü.

Nvidia CEO'su Jensen Huang, geçtiğimiz Cumartesi günü iki şirket arasında gerginlik olduğuna dair haberleri "saçmalık" olarak nitelendirdi ve şirketin hâlâ onlarca milyar dolar yatırım yapmayı planladığını vurguladı. OpenAI sözcüsü ise şirketin çıkarım filolarının büyük çoğunluğu için Nvidia'ya güvenmeye devam ettiğini açıkladı.

Yapay zeka altyapısına yönelik bu tür hamleler, sektördeki rekabetin yalnızca yazılımla değil, donanım ve işlem gücüyle de şekillendiğini gösteriyor. Amazon Bedrock gibi platformlarla sağlık sektöründe yapay zeka dönüşümü yaşanırken, temel altyapıyı sağlayan çip teknolojilerindeki gelişmeler de kritik önem taşımaya devam ediyor.