AI donanım teknolojilerinde yaşanan hızlı gelişmeler, Nvidia’nın sektördeki lider konumunu belirlemeye devam ediyor. Ama Birleşik Krallık merkezli yenilikçi girişim Fractile , dil modellerini daha hızlı ve maliyet etkin bir şekilde çalıştırabileceğini iddia ederek Nvidia'nın tahtını tehdit ediyor.
Yapay zeka donanımları alanında tartışmasız lider konumda bulunan Nvidia, yüksek performanslı GPU’ları ve CUDA yazılım yığınıyla, büyük AI modellerini eğitmek ve çalıştırmak için teknoloji dünyasının öncelikli tercihi haline geldi. Ancak bu liderlik, Nvidia’ya meydan okuyan rakiplerin hızla artmasına engel olmuyor.
Amazon, Google, Microsoft ve Meta gibi teknoloji devleri, Nvidia’nın çiplerine olan bağımlılıklarını azaltmak amacıyla özel çip geliştirme çalışmalarına büyük yatırımlar yapıyor. Ayrıca, Nvidia’nın tahtını sallamayı hedefleyen pek çok yeni girişim de var ve hepsi daha verimli veya daha uygun maliyetli alternatifler sunma arayışında.
Fractile ve yeni nesil AI donanımları
Bu yeni girişimlerden biri olan Birleşik Krallık merkezli Fractile, mevcut sistemlere kıyasla AI dil modellerini 100 kat daha hızlı ve yalnızca onda bir maliyetle çalıştırabilen devrim niteliğinde bir teknoloji geliştirdiğini iddia ediyor. Şirket, aralarında NATO ve eski Intel CEO’su Pat Gelsinger’ın da bulunduğu etkileyici bir yatırımcı grubuna sahip.
Fractile, ürettikleri donanımın mevcut darboğazları tamamen ortadan kaldırarak en büyük transformatör ağlarında maksimum hız seviyelerine ulaşmayı mümkün kılacağını belirtiyor. Şirketin bu yaklaşımı, büyük dil modellerinin (LLM) neredeyse anlık sonuçlar ürettiği ve çok daha gelişmiş yeteneklere sahip olduğu bir dönemin kapısını aralayabilir.
Bununla birlikte, Fractile’ın performans iddiaları, Llama 2 70B ve TensorRT-LLM kullanan 8-bit kantizasyon Nvidia H100 GPU kümelerine dayanıyor. Ancak, Nvidia’nın yeni H200 çipleriyle herhangi bir doğrudan karşılaştırma henüz yapılmış değil. Bu durum, Fractile’ın potansiyel avantajlarını değerlendirirken dikkat edilmesi gereken bir nokta olarak öne çıkıyor.
Yine de Fractile’ın çalışmaları, şüphesiz ki endüstrinin ilgisini çekmeyi başarıyor. Pat Gelsinger’ın yakın zamanda yaptığı bir LinkedIn paylaşımında belirttiği üzere, günümüzün en gelişmiş AI modelleri, donanım teknolojilerinin sınırlamaları nedeniyle kapasitelerini tam anlamıyla ortaya koyamıyor. Bu nedenle donanım alanındaki her yeni gelişme, AI modellerinin yetenekleri üzerinde doğrudan bir etki yaratıyor. Fractile, vaat ettiği başarının sadece bir kısmını bile gerçekleştirebilirse, endüstride derin bir dönüşüm yaratabilir.
Kaynak: Chip
COMMENTS