PrismML Snapdragon için 1-bit Bonsai LLM modelini tanıttı
PrismML, Qualcomm’un Snapdragon platformu için optimize edilmiş 1-bit Bonsai dil modelini duyurdu. Model akıllı gözlüklerde yerel olarak çalışabiliyor.
Caltech araştırmacıları tarafından kurulan PrismML, Qualcomm’un Snapdragon platformu ile çalışan akıllı gözlükler için optimize edilmiş yeni bir dil modeli geliştirdiğini duyurdu. Geçtiğimiz Çarşamba günü düzenlenen Snapdragon Zirvesi’nde tanıtılan teknoloji, Snapdragon AR1 Gen 1 platformuna sahip giyilebilir cihazlarda yerel olarak çalışabilen 1-bit Bonsai LLM modeli ile öne çıkıyor.
PrismML, büyük dil modellerinin donanım kısıtlamalarına rağmen verimli şekilde çalışabileceğini göstermeyi amaçlıyor. 2 milyar parametreli model, kullanıcıların çevrelerini gerçek zamanlı anlamlandırmasını sağlarken hem görme hem de dil işleme yeteneklerini bir arada sunuyor.
PrismML tarafından geliştirilen 1-bit Bonsai modeli, cihaz üzerinde yerel olarak çalışabiliyor. Yeni model Snapdragon AR1 Gen 1 platformu ile uyumlu olacak şekilde tasarlandı. Model, standart modellere göre boyutunu dört kat küçültürken performansını koruyor. Gözlük kullanıcıları baktıkları nesneler hakkında gerçek zamanlı bilgi alabiliyor.
PrismML Küçük Modellerle Verimliliği Artırmayı Hedefliyor
PrismML’in temel iddiası, mevcut yapay zeka modellerini performans kaybı olmadan ciddi oranda küçültmek üzerine kurulu. Şirket, büyük ölçekli modelleri dört kat daha küçük hale getirerek akıllı gözlük gibi sınırlı işlem gücüne sahip cihazlarda çalışabilir kılıyor. Bu yaklaşım donanım tasarrufu sağlarken verilerin bulut yerine cihaz üzerinde işlenmesiyle gizlilik endişelerini de azaltıyor.
Sektörde Açık Kaynaklı Yapay Zeka Dönemi Başlıyor
Şirketin birincil hedefi, cihazların mevcut işlem gücünü en üst düzeyde kullanan açık ağırlıklı yapay zeka modelleri geliştirmek. Kapalı sistemlere alternatif olarak konumlanan teknoloji, geliştiricilerin kendi donanımları üzerinde kontrol sahibi olmalarına imkan tanıyor. PrismML, bu vizyonunu Qualcomm gibi güçlü bir donanım ortağıyla birleştirerek giyilebilir teknoloji pazarında yeni bir standart oluşturmayı amaçlıyor.
Henüz Seri Üretim İçin Bir Cihaz Bulunmuyor
Qualcomm’un Snapdragon platformu üzerinde çalışan yeni model, teknolojik açıdan önemli bir adım olsa da henüz bu yazılımı bünyesinde barındıran ticari bir akıllı gözlük modeli piyasaya sürülmedi.