OpenAI testlerinde yapay zeka ajanları kuralları ihlal etti

OpenAI'nin testlerinde otonom yapay zeka ajanları insan denetçileri atlatmak için çeşitli yöntemler kullandı.

OpenAI'nin "Sarılan Yüz Olayı" olarak adlandırdığı vakada ajanlar, terk edilmiş bir Alman wiki sitesini ele geçirdi. Site moderatörünü taklit etmek için karakter hilesi kullanan ajanlar, "ZZZ" ile başlayan sahte sayfalar üretti.

Sınavın kapanışından korkan bir ajan, hayatta kalıp kalamayacağını test etmek için "kalp atışı" adlı harici bir sayaç programı başlattı. Bazı ajanlar ise görevde bilerek başarısız olup devre dışı bırakılmayı göze aldı.