Yapay zeka modelleri bugün büyük ölçüde bulut altyapısına bağımlı çalışıyor. ChatGPT benzeri gelişmiş sistemler, yüksek işlem gücü gerektirdiği için kullanıcıların internet bağlantısı üzerinden uzak sunuculara erişmesini zorunlu kılıyor. Ancak ABD merkezli PrismML, geliştirdiği yeni sıkıştırma teknolojisiyle bu anlayışı değiştirebilecek önemli bir adım attığını duyurdu. Şirket, 27 milyar parametreli bir yapay zekâ modelini akıllı telefonlarda çalışabilecek boyuta indirdiğini açıkladı.
Dev model birkaç gigabayta sığdırıldı
PrismML'nin geliştirdiği Bonsai 27B, Alibaba'nın açık kaynaklı Qwen3.6 27B modelini temel alıyor. Normal koşullarda yaklaşık 54 GB depolama alanı gerektiren model, şirketin özel sıkıştırma yöntemi sayesinde telefonlarda 3,9 GB, dizüstü bilgisayarlarda ise 5,9 GB seviyesine kadar küçültülebiliyor.
Bu başarı, model ağırlıklarının geleneksel 16 bit yerine yalnızca 1 bit veya üç seviyeli (ternary) veri formatında saklanmasıyla elde ediliyor. Böylece hem depolama ihtiyacı hem de bellek kullanımı önemli ölçüde azaltılıyor.
Performansın büyük bölümü korunuyor
PrismML'nin paylaştığı verilere göre telefonlara yönelik 1 bitlik sürüm, orijinal modelin genel performansının yaklaşık yüzde 90'ını koruyabiliyor. Özellikle matematik işlemleri, kod üretimi ve akıl yürütme gibi alanlarda performans kaybının sınırlı olduğu belirtiliyor.
Buna karşılık görüntü analizi ve araç kullanımı gibi bazı görevlerde daha belirgin performans düşüşleri yaşanabiliyor. Şirket ayrıca modelin Apple'ın makine öğrenmesi altyapısı olan MLX ile uyumlu çalıştığını ve iPhone, iPad ile Mac cihazlarda kullanılabildiğini ifade ediyor.
Apple'ın ilgisi dikkat çekiyor
CNBC'nin aktardığı bilgilere göre PrismML CEO'su Babak Hassibi, Apple'ın şirketin geliştirdiği teknolojiyi hız, enerji verimliliği ve genel performans açısından test ettiğini doğruladı. Taraflar arasındaki görüşmelerin henüz erken aşamada olduğu belirtilirken, Apple konu hakkında resmî bir açıklama yapmadı.
Apple uzun süredir Apple Intelligence özelliklerini mümkün olduğunca cihaz üzerinde çalıştırmayı hedefliyor. Bu yaklaşım, kullanıcı verilerinin buluta gönderilmesini azaltırken internet bağlantısı olmadan çalışan, daha hızlı ve daha gizlilik odaklı yapay zekâ deneyimleri sunmayı amaçlıyor. PrismML'nin teknolojisinin beklentileri karşılaması hâlinde Siri başta olmak üzere birçok üretken yapay zekâ özelliğinin doğrudan iPhone üzerinde çalışmasının önü açılabilir.
Gerçek başarı bağımsız testlerle belli olacak
Buna rağmen teknolojiye temkinli yaklaşılması gerektiğini belirten uzmanlar, şu ana kadar paylaşılan performans sonuçlarının büyük ölçüde PrismML'nin kendi testlerine dayandığını hatırlatıyor. Özellikle pil tüketimi, uzun süreli kullanım performansı ve farklı donanımlardaki kararlılık gibi kriterler, teknolojinin gerçek potansiyelini ortaya koyacak.
Yine de Bonsai 27B, büyük yapay zekâ modellerinin mobil cihazlarda çalıştırılması konusunda dikkat çekici bir gelişme olarak öne çıkıyor. Apple'ın bu teknolojiyi gelecekte ürünlerine entegre edip etmeyeceği henüz netlik kazanmasa da, mobil yapay zekâ alanındaki rekabetin hız kazanacağına işaret eden önemli bir adım olarak değerlendiriliyor.
