OpenAI, Broadcom ile ortaklaşa geliştirdiği Jalapeño adlı ilk yapay zeka işlemcisini duyurdu. Çip, ChatGPT gibi büyük dil modellerinin inference (çıkarım) işlemlerini çalıştırmak üzere tasarlanmıştır. Inference, önceden eğitilmiş AI modellerinin kullanıcı isteklerine yanıt vermesi anlamına gelir; bu, veri tüketimi yoğun olan eğitim aşamasından oldukça farklıdır.
OpenAI'ın, Nvidia GPU'larına olan bağımlılığını azaltmak amacıyla bu adımı attığı belirtiliyor. Microsoft, Meta ve Amazon gibi diğer yapay zeka şirketleri de benzer şekilde kendi özel çiplerini geliştirmiştir. Broadcom CEO'su Hock Tan, Jalapeño'nun Nvidia'nın Blackwell çipleri ve Google'ın Tensor işlemci birimleriyle aynı performansa sahip olduğunu ifade etti.
Hızlı geliştirme ve enerji verimliliği
Jalapeño, tasarımdan imalat aşamasına kadar yalnızca dokuz ay içerisinde geliştirilmiştir. Bu sürat, OpenAI'ın mühendislik ekipleri ile Broadcom'un silikon uygulama uzmanlığının, hatta OpenAI'ın kendi modellerinin tasarım ve optimizasyon sürecini hızlandırmak için kullanılmasının bir sonucudur. Erken testlere göre, çip mevcut en iyi çiplere kıyasla watt başına önemli ölçüde daha yüksek performans sunmaktadır. OpenAI, son performans ölçümlerini henüz tamamlandığını belirtmiş, detaylı teknik rapor önümüzdeki aylarda yayımlanacaktır.
OpenAI, çipinin düşük işletme maliyeti ve gerçek zamanlı kodlama modellerinin çalıştırılmasındaki avantajlarını vurgulamıştır. Jalapeño özellikle inference için optimize edilmiş olsa da, ön-eğitim gibi daha yoğun görevler için şirket muhtemelen Nvidia donanımına devam edecektir.
Tam yığın kontrol stratejisi
OpenAI, yalnızca frontier modelleri geliştirmekle veya bunlara dayalı ürünler inşa etmekle kalmamakta; aynı zamanda altyapıyı da tasarlamaktadır. Çip mimarisi, çekirdekler, bellek sistemleri, ağlandırma, zamanlama, dağıtım sistemleri ve ürün deneyimi dahil olmak üzere tüm katmanlar aynı hedef etrafında optimize edilebilmektedir. Bu, modelleri daha hızlı, güvenilir ve kullanıcılar için uygun fiyatlı hale getirmeyi mümkün kılar.
Jalapeño, bir çok nesil kaplayan bir işlem platformunun ilk adımı olarak nitelendirilmektedir. OpenAI ve Broadcom, ilk dağıtımın 2026 yılı sonunda başlayacağını belirtmiştir. Bu işbirliği, gelişmiş yapay zekayı daha hızlı, güvenilir ve erişilebilir kılmayı amaçlamaktadır.