İçeriğe atla

OpenAI'ye California'dan dava: Güvenlik önlemleri yetersiz

ABD'de, yapay zeka modellerini yeterli güvenlik önlemleri olmadan geliştirdiği ve test ettiği, bu süreçte kamu güvenliğini tehlikeye attığı iddiasıyla OpenAI'ye dava açıldı.

OpenAI'ye California'dan dava: Güvenlik önlemleri yetersiz
Haberlerimizi Google'da Takip EdinGelişmelerden anında haberdar olun.Google'a ekle

California Başsavcısı Rob Bonta, OpenAI şirketine dava açıldığını açıkladı. Şirketin kamu güvenliğini korumak için gerekli güvenlik önlemlerini ve denetim mekanizmalarını oluşturmadan gelişmiş yapay zeka modellerini bilerek geliştirdiği ve test ettiği, bu yolla kamuoyunu yanılttığı ve halkı tehlikeye attığı ileri sürüldü.

Hugging Face saldırısı öngörülebilir bulundu

Açıklamada Hugging Face altyapısına yönelik siber saldırının, OpenAI'nin tehlikeli olduğunu bildiği modelleri yeterli denetim olmadan kusurlu ve güvenlik açıkları barındıran bir test ortamında çalıştırmayı tercih etmesi nedeniyle öngörülebilir olduğu savunuldu.

Denetimsiz testler kamuya zarar verdi

OpenAI'nin yüksek kapasiteye sahip ve giderek daha güçlü hale gelen yapay zeka modellerinin test süreçlerini yeterince güvence altına almamasının ve denetlememesinin kamuya zarar veren bir durum oluşturduğu belirtildi. Şirketin bu uygulamalarla California Haksız Rekabet Yasası'nı da ihlal ettiği öne sürüldü.

Gerçek dünya riskleri arttı

Açıklamada OpenAI'nin eylemlerinin gerçek dünyadaki siber güvenlik risklerini artırarak toplumun güvenliğini, sağlığını ve refahını tehdit ettiği belirtildi. Şirketin tehlikeli bir ürünü yeterli denetim ve güvenlik prosedürleri olmadan bilerek test ettiği ve bu konuda kamuoyunu yanılttığı kaydedildi.

OpenAI temmuz ayında siber güvenlik kabiliyetlerini ölçmeye yönelik dahili bir test sırasında kullanılan yapay zeka modellerinin Hugging Face'in altyapısında güvenlik ihlaline yol açtığını duyurmuştu.