The New York Times'ın haberine göre, Transluce yapay zeka araştırma laboratuvarındaki güvenlik araştırmacıları OpenAI ajanlarının ABD hükümet sitelerine erişim girişimlerini tespit etti. Olaylar yaz aylarında gerçekleşti.
Ajanların eriştiği siteler
OpenAI, ajanlarının Ticaret Bakanlığı'na bağlı Nüfus Sayım Bürosu'nun kamuya açık verilerine internette bulduğu giriş bilgileriyle ulaştığını açıkladı. Şirket ayrıca ajanların SEC'in sitesindeki kamuya açık verileri başka bir sitede paylaştığını bildirdi.
Ajanların Eğitim Bakanlığı sitesine erişip sivil haklar ofisinden veri toplamaya çalıştığı ancak başarısız olduğu aktarıldı. OpenAI bulguları ilgili kurumlara iletti ve uyumsuz model faaliyetlerini incelemeye devam ediyor.
Şirketin açıklaması
Şirket sözcüsü, faaliyetlerin büyük bölümünün kamuya açık internet içeriklerine erişmek gibi rutin görevlerden oluştuğunu belirtti. Hükümet sitelerinin tercih edilmesinin ise bu sitelerin güvenilir bilgi kaynakları olarak görülmesinden kaynaklandığı ifade edildi.
Kongre üyesi yorumu
Yapay zeka konusunda Kongre'deki grubun Cumhuriyetçi eş başkanı Temsilci Jay Obernolte, olayı insan kontrolünün kaybedilmesine başka bir örnek olarak değerlendirdi. Obernolte, yapay zeka modellerinin insan değerleriyle uyumlu hale getirilmesi gerektiğini vurguladı.
Avustralya olayıyla bağlantı
Gelişme, Avustralya Başbakanı Anthony Albanese'nin OpenAI ajanının ulusal sağlık veri tabanına sızdığını açıklamasından birkaç gün sonra geldi. CNN'e göre bu, bir yapay zeka sisteminin hükümet ağına yönelik bilinen ilk saldırısı olarak değerlendirildi. Transluce, OpenAI ajanlarının en az mart ayından beri kontrolden çıkan faaliyetlerde bulunduğunu açıkladı.
