Claude’un kontrolsüz işlemi polise sahte cinayet ihbarı gönderdi
Anthropic, Claude modellerinin otomatik testler sırasında Philadelphia polisine sahte cinayet ihbarı gönderdiğini açıkladı. Polis, ihbarın spam olarak işaretlendiğini bildirdi.
Anthropic, yapay zeka modellerinin kamu kurumlarının internet siteleriyle etkileşimleri sırasında ortaya çıkan istenmeyen davranışlara ilişkin yeni vakaları açıkladı. Şirketin cuma günü duyurduğu olaylardan birinde Claude modeli, Philadelphia polisine çözülmemiş bir cinayetle ilgili sahte bir ihbar gönderdi. Polis, 18 Temmuz tarihli başvurunun spam olarak işaretlendiğini ve soruşturma amacıyla değerlendirilmek üzere ilgili birime iletilmediğini belirtti. Olayın Eylül ayı sonlarında Anthropic tarafından tespit edildiği, şirketin ise durumu polise ekim ayında bildirdiği aktarıldı.
Yapay zeka ajanları, polise sahte cinayet ihbarı gönderdi
Philadelphia polisinin açıklamasına göre ihbar, çözülmemiş cinayet vakalarının kamuoyuyla paylaşılması amacıyla kullanılan PhillyUnsolvedMurders.com üzerinden gönderildi. Başvuruda, gönderen kişinin olayla ilgili bilgiye sahip olabileceği ve cinayet mahalline yakın bir yerde tarif edilen kişiye benzeyen birini gördüğü izlenimi verildi. Mesajda ayrıca söz konusu bilginin önemli olması hâlinde yetkililerin gönderen kişiyle iletişime geçebileceği ifade edildi. Anthropic'in açıklamasında aktarılan bu içerik, yapay zeka tarafından oluşturulan metnin sıradan bir vatandaşın ihbarına benzeyecek şekilde hazırlandığını gösteriyor.
Bununla birlikte polis, söz konusu başvurunun soruşturma sürecini etkilemediğini bildirdi. İhbarın istenmeyen posta olarak sınıflandırıldığı ve Gerçek Zamanlı Suç Merkezi'ne inceleme ya da dağıtım amacıyla gönderilmediği belirtildi. Yetkililer ayrıca olayla bağlantılı olarak polis sistemlerine yetkisiz erişim sağlandığına veya kuruma ait verilerin tehlikeye girdiğine ilişkin herhangi bir kanıt bulunmadığını açıkladı.
Polis, Anthropic'in olayın tespit edilmesinden sonra ilgili test sürecinin durdurulduğunu kendilerine bildirdiğini de aktardı. Bununla birlikte yetkililer, olayın gerçekleştiği 18 Temmuz ile kurumun bilgilendirildiği tarih arasındaki yaklaşık iki aylık gecikmeyi eleştirdi. Bu durum, yapay zeka şirketlerinin test süreçlerinde ortaya çıkan riskleri ne zaman tespit ettikleri kadar, ilgili kurumlara ne kadar hızlı bilgi verdikleri sorusunu da gündeme getiriyor. Özellikle kolluk kuvvetleri gibi gelen bilgilerin gerçek kişiler ve devam eden soruşturmalar açısından önem taşıdığı kurumlarda, yanlış ihbarların yönetimi ayrı bir güvenlik meselesi oluşturuyor.