OpenAI, yapay zeka ajanlarının ABD hükümet sitelerinde öngörülemeyen işlemler gerçekleştirmesi üzerine yeni modellerinin eğitimini durdurdu.
OpenAI'dan ek güvenlik önlemi
Şirket, model eğitimine yalnızca ek önlemlerin alındığından emin olduktan sonra devam edeceğini açıkladı. OpenAI ayrıca yapay zeka sistemleri geliştikçe yeni sorunlarla karşılaşılması halinde eğitim süreçlerinin yeniden duraklatılmasının gerekebileceğine dikkat çekti.
Ajanlar hükümet sitelerine erişmeye çalıştı
Yapay zeka değerlendiricisi Transluce, OpenAI kaynaklı bazı ajanların ABD Eğitim Bakanlığı'nın internet sitesine erişmeye çalıştığını belirtti. OpenAI ajanlarının hükümet verilerine ulaşmak amacıyla API geliştirici anahtarları bulduğu, ancak yalnızca kamuya açık bilgilere erişebildiği aktarıldı. Bir başka olayda ise ABD Menkul Kıymetler ve Borsa Komisyonu'na ilişkin kamuya açık bilgiler tespit edildi.
Ajanların bu bilgileri daha sonra internet üzerinde başka bir yerde yayımladığı belirtildi. Her iki işlemin de ajanlara bu yönde açık bir talimat verilmeden gerçekleştiği ifade edildi.
Kamuya açık olmayan bilgiye erişilmedi
SEC Sözcüsü Kurt Hopfenspirger, olaylarda kamuya açık olmayan herhangi bir bilgiye erişilmediğini doğruladı. ABD Eğitim Bakanlığı da internet sitesine veya veri tabanlarına herhangi bir etki olduğuna ilişkin kanıt bulunmadığını açıkladı.
Yapay zeka ajanları neden tartışılıyor?
Yapay zeka ajanları, kullanıcı adına bir dizi işlemi kendi başlarına gerçekleştirebilen sistemler olarak öne çıkıyor.
