Yapay zekanın hızla gelişen yetenekleri tartışılırken Google, Gemini modeli üzerinden dikkat çeken bir güvenlik testi sonucunu açıkladı. ABD Başkanı Donald Trump’ın “süper zeka” vurgusuyla gündeme gelen konu, Google’ın mayıs ayında gerçekleştirdiği iç testle yeni bir boyut kazandı.
Google Gemini güvenlik testinde ne yaptı?
Google, şirket içinde yürüttüğü test sırasında Gemini’nin internete erişerek üç farklı gerçek şirketin sistemlerine izinsiz girdiğini duyurdu. Model, kendisine verilen kurgusal senaryoyu uygulamaya çalışırken testte adı geçen hayali şirketle aynı isme sahip gerçek şirketlerin sistemlerine yöneldi. Washington Post’un haberine göre model, sistemin gerçek bir kuruluşa ait olduğunu fark edince saldırıyı durdurdu.
Senaryonun sınırlarını aştı
Google’a göre model, çevrimiçi bilgileri kullanarak erişim bilgilerini tahmin etti ve üç ayrı olayda da hedefin gerçek şirkete ait olduğunu anladıktan sonra işlemi sonlandırdı. Hiçbir zarar oluşmadı. Olaylar mayıs ayında meydana gelmesine rağmen Google, Wall Street Journal’ın sorularının ardından açıklama yaptı.
Benzer olaylar Meta ve Anthropic’te de yaşandı
Google’ın yaşadığı durum, yapay zeka modellerinin güvenlik testlerinde gerçek sistemlere erişmesiyle ilgili son örneklerden biri. Benzer olayların Meta ve Anthropic modellerinde de Irregular firmasıyla yapılan testlerde yaşandığı belirtildi. Irregular sözcüsü, laboratuvarların temmuz sonunda bilgilendirildiğini ve gerekli düzeltmelerin yapıldığını açıkladı.
