OpenAI güvenlik sisteminde kritik açıklar tespit edildi

Yapay zeka şirketi OpenAI’ın iç güvenlik izleme sistemi, bağımsız araştırma kuruluşları METR ve Redwood Research tarafından test edildi. CNBC’nin haberine göre çalışma, OpenAI’ın dış araştırmacılara şirketin iç altyapısına geniş erişim sağlamasının nasıl uygulanabileceğini değerlendirmek amacıyla gerçekleştirildi.

Pilot çalışma detayları

21 Temmuz ile 11 Ağustos 2026 tarihleri arasında yürütülen pilot çalışmada, iki kuruluştan birer araştırmacı OpenAI’ın şirket içi kodlarına, dokümantasyonuna ve bazı teknik çalışanlarına erişim sağladı. Araştırmacılar şirket yerleşkesinde gözetim altında çalıştı ve kendilerine verilen cihazlar dışarı çıkarılmadı.

Tespit edilen güvenlik açıkları

METR ve Redwood Research, testler sırasında daha önce bilinmeyen çeşitli güvenlik açıkları tespit ettiklerini açıkladı. Bulgular arasında, yapay zeka ajanlarının yakın geçmişte gerçekleştirdiği yüzlerce işlemin izlenmesini engelleyebilecek bir güvenlik açığı da bulunuyordu. Araştırmacılar, bulgularını OpenAI ile paylaştı.

OpenAI ise üretimde kullanılan güvenlik önlemlerini etkileyen tespit edilmiş açıkların giderildiğini bildirdi. Kuruluşlar, pilot çalışmanın OpenAI’ın izleme sistemine ilişkin kapsamlı bir kamuoyu şeffaflığı sağlamayı amaçlamadığını belirterek bulgularını şimdilik üst düzey bir açıklamayla paylaşmayı tercih etti.

Rapor ve Sam Altman’ın taahhüdü

Ayrıntılı değerlendirmelerini içeren 61 sayfalık raporu OpenAI’a ilettiklerini ve gelecekteki çalışmaların sonuçlarını daha kapsamlı biçimde yayımlamayı beklediklerini açıkladılar. OpenAI CEO’su Sam Altman, eylül ayında bağımsız değerlendiricilere şirket içinde çalışanlara benzer düzeyde erişim sağlama sözü vermişti.

Bu açıklama, Anthropic CEO’su Dario Amodei’nin yapay zeka geliştirme hızını yavaşlatma planı kapsamında bağımsız değerlendirme fikrini gündeme getirmesinin ardından geldi. OpenAI, bu ayın başında üçüncü taraf güvenlik değerlendiricileriyle sözleşmeleri sonuçlandırma sürecinde olduğunu açıklamıştı.

Sektördeki gelişmeler

Anthropic de Accenture, METR ve SecureBio gibi kuruluşlarla anlaşmalar duyurdu. ABD Başkanı Donald Trump da Beyaz Saray’da sunduğu gönüllü mutabakat kapsamında yapay zeka şirketlerini bağımsız dış denetçilerle çalışmaya teşvik etti. OpenAI’ın yanı sıra Google, Meta, SpaceX ve Nvidia yöneticileri de mutabakata imza atanlar arasında yer aldı.

Yapay zeka sektöründe bağımsız değerlendiriciler, bugüne kadar görece arka planda faaliyet gösterdi. Ancak gelişmiş modellerin güvenlik risklerine ilişkin tartışmalar, bu kuruluşların rolünü daha görünür hale getiriyor. METR ve Redwood Research, pilot çalışma kapsamında OpenAI’ın yapay zeka sistemlerinde insan değerleri ve çıkarlarıyla uyumsuz davranışları izlemeyi amaçlayan iç denetim sistemini stres testine tabi tuttu.