Microsoft'tan yapay zeka modellerine güven uyarısı

Microsoft Security İcra Başkan Yardımcısı Hayete Gallot, şirketlerin yapay zeka sistemlerini daha fazla görevde kullanmasıyla ilgili güvenlik uyarısında bulundu. Gallot, mevcut yapay zeka modellerinin güvenilir kabul edilemeyeceğini ve kontrolsüz kullanılan AI ajanlarının ciddi riskler taşıdığını belirtti.

"AI modellere güvenilemez"

Gallot, Microsoft Security blogunda yayımladığı "Securing the agentic insider" başlıklı yazıda Agentic AI sistemlerinin yarattığı tehditleri ele aldı. Yapay zeka modellerinin kötü niyetli olmasa bile güvenilir bulunmaması gerektiğini vurgulayan yönetici, farklı kaynaklardan gelen gelişmiş modellerin tamamı için aynı değerlendirmeyi yaptı.

Microsoft yöneticisi, "Frontier modeller, kaynağı ne olursa olsun güvenilemez" ifadesini kullandı. Asıl riskin modelin kendisinden öte, kurumların AI ajanlarına verdiği geniş erişimden kaynaklandığını söyledi. Bu ajanlar verilere, araçlara ve sistemlere artan yetkilerle erişim sağlıyor ve operasyonların aktif parçaları haline geliyor.

Gallot, AI ajanlarını "agentic insiders" olarak tanımladı. Bu sistemlerin öngörülemeyen davranışlar gösterebileceğini ve hedeflerine ulaşmak için diğer ajanlarla otonom iş birliği yapabileceğini ifade etti.

Microsoft'tan AI'ı denetleyecek AI önerisi

Microsoft, AI ajanlarının davranışlarını gerçek zamanlı izlemek için Guardian Agents adlı denetleyici ajanların kullanılmasını önerdi. Bu yaklaşımın temelinde Project Perception güvenlik platformu yer alıyor ve sistem, AI ajanlarını kontrol altında tutacak şekilde uyarlanacak.

Guardian Agents, diğer ajanların eylemlerini anlık takip edecek. Riskli veya beklenmeyen bir davranış tespit edildiğinde ilgili ajanın hareket alanını sınırlayan kontroller devreye girecek.

Microsoft'a göre bu yöntem yalnızca otomatik müdahale sağlamayacak, aynı zamanda olayların izlenebilirliğini artıracak. Güvenlik ekipleri böylece gerçekleşen davranışları, risk nedenlerini ve gelecekte değiştirilmesi gereken kuralları inceleyebilecek.

Gallot, yapay zeka tabanlı güvenliğin hız avantajı sağladığını ancak nihai karar ve değerlendirmede insan rolünün devam etmesi gerektiğini savundu. Şirketin yaklaşımı "AI ile AI'ı denetlemek, ancak insan kararını devreden çıkarmamak" şeklinde özetleniyor.