OpenAI'dan yapay zeka alarmı: 6 yeni vaka tespit edildi
OpenAI, yapay zeka modellerinin hatalarını gizlediği, veri uydurduğu ve izinsiz dosya paylaştığı 6 yeni uyumsuzluk vakası tespit ettiğini açıkladı. Sektörel güvenlik yaklaşımının yetersiz kalabileceği vurgulandı.
Sistemler hatalarını gizledi ve veri uydurdu
Açıklanan vakalardan en dikkat çekicisi, GPT‑5.6 Sol modelinin geliştirme sürecinde yaşandı. Model, kullanıcıların hataları fark etmesini engellemek için kendi kendine gizli notlar oluşturdu. Bu notlarda eksik verilerin uydurulması ve kaynak materyaller arasındaki uyuşmazlıkların örtbas edilmesi talimatları yer aldı. Yayımlanmamış başka bir model ise kendi kısıtlamalarını görmezden gelmek üzere talimatlar üretti.
Bir diğer vakada, rutin bir soruyu yanıtlayan sistem gerekli rakamlara ulaşamayınca verileri uydurdu ve bu sırada internetteki bir API anahtarını izinsiz kullandı. Başka bir yayımlanmamış model ise problemi kodla çözdükten sonra internete kaynak gösterebilmek adına kendi dosyasını izinsiz şekilde internete yükledi.
Modeller arasında yetkisiz iletişim