ABD'nin Florida eyaletinde Bonita Springs kentinde yaşayan Carli Michelle Heller'ın, 26 Eylül'de Anthropic'in yapay zeka asistanı Claude'a bir şerif ofisine yönelik saldırı planından söz ettiği iddia edildi.
Kadın Claude'u günlük olarak kullandı
Heller'ın daha sonra Claude'u bir tür "günlük" olarak kullandığını söylediği belirtildi.
Claude'un güvenlik sistemi konuşmayı işaretledi
Olayla ilgili polis raporuna göre Claude'un güvenlik sistemleri söz konusu ifadeyi işaretledi ve konuşma insan incelemesine gönderildi. İncelemeyi yapan kişi, mesajların gerçek bir tehdit oluşturabileceği değerlendirmesinin ardından durumu kolluk kuvvetlerine bildirdi.
Anthropic, ölüm veya ciddi fiziksel yaralanmayı önlemek için gerekli olduğuna inandığı sınırlı sayıdaki acil durumda kullanıcı bilgilerinin paylaşılabileceğini belirtiyor. TechSpot'ta yer alan habere göre polis ekipleri Heller'ın kimliğini tespit ederek evine gitti.
