Anthropic biyolojik silah riskli hesapları engelledi

Yapay zeka şirketi Anthropic, kendi modellerinin biyolojik silah geliştirilmesini destekleyecek şekilde kullanıldığını tespit ederek ilgili hesapları engellediğini açıkladı.

Anthropic, şirkete ait yapay zeka modellerinin biyolojik silah geliştirilmesini destekleyebilecek şekilde kullanıldığının tespit edildiğini bildirdi.

Şirket, yapay zekanın kötüye kullanımını önlemeye yönelik hazırladığı raporda biyolojik risklere dikkat çekti. Raporda mevcut patojenlerin daha tehlikeli hale getirilmesi veya yeni patojenlerin üretilmesi konusunda yapay zekanın yardımcı olabileceği endişesi vurgulandı.

Anthropic, modellerini bu yönde kullanan kişilere dair örnekler paylaştı. Bunlardan birinde desteklenmeyen bir bölgedeki araştırmacının Claude ile kuş gribinin memelilere adaptasyonu üzerine deneyler planladığı, diğerinde ise devlet destekli bir araştırmacının toksinleri dijital ortamda yeniden tasarladığı belirtildi.

Tespitlerin ardından ilgili kullanıcı hesapları engellendi ve benzer faaliyetlerin önlenmesi için ek önlemler alındığı kaydedildi. Raporda bu kişilerin kötü niyetli olduklarının iddia edilmediği, yalnızca tedbir amacıyla hareket edildiği ifade edildi.

Şirket, “Bu örnekleri paylaşarak yapay zeka sektöründe ortaya çıkan biyolojik riskler ve bunlara nasıl karşı konulabileceği konusunda diyalog başlatmayı umuyoruz” açıklamasını yaptı.