ABD Ordusu Yapay Zeka Hatası Nedeniyle Krize Yaklaştı

ABD ordusu, Orta Doğu’da bulunan bir Çin gemisi hakkında hazırlanan hatalı istihbarat raporu nedeniyle ciddi bir krizin eşiğinden döndü. Yaşanan yapay zeka askeri istihbarat hatası, iki nükleer güç arasında neredeyse bir savaş başlatılmasına neden oluyordu.

CNN kaynaklarına göre rapor, geminin nükleer silah programında kullanılan bileşenleri taşıdığını iddia ediyordu. Askeri yetkililer bu rapor üzerine gemiyi durdurmak için operasyon planları hazırladı ve personel harekete geçti.

Hatalı İstihbaratın Askeri Kararlara Etkisi

Silahlı ABD askeri personeli gemiye çıkmaya hazırlanırken askeri uçaklar da operasyon için havalanmıştı. Ancak operasyondan hemen önce yetkililer raporu daha ayrıntılı bir şekilde incelemeye karar verdi.

İncelemeler sonucunda raporun yapay zeka desteğiyle hazırlandığı ve kullanılan sohbet botunun gemideki malzemeleri yanlış tanımladığı anlaşıldı. İstihbarat raporunun tamamen hatalı olduğu ortaya çıkınca operasyon durduruldu.

Olayın merkezinde ABD Özel Operasyonlar Komutanlığı Pasifik birimi tarafından elde edilen gemi yük manifestosu yer alıyordu. Bir analist geminin taşıdığı malzemeleri değerlendirmek için kimliği açıklanmayan bir sohbet botuna başvurdu.

Yapay zeka verileri değerlendirirken geminin nükleer silah programına ait malzemeler taşıdığı sonucuna vardı. Kullanılan yapay zekanın ticari bir model mi yoksa ABD hükümetinin kullandığı özel bir askeri ürün mü olduğu henüz açıklanmadı.

Eski bir üst düzey yetkili hükümet bünyesindeki araçların büyük ölçüde ticari yapay zeka ürünlerinin değiştirilmiş sürümlerine dayandığını belirtti. Bu sistemlere kamu kurumlarının sahip olduğu gizli istihbarat verileri de entegre edilebiliyor.

Raporu hazırlayan analistin yapay zekanın hatalı değerlendirmesini temel alarak yine yapay zekaya standart bir istihbarat raporu oluşturttuğu kaydedildi. Bu durum hatalı çıktının resmi görünümlü bir istihbarat belgesine dönüşmesine yol açtı.

Askeri Operasyonlarda Yapay Zeka Güvenliği

ABD ordusu istihbarat analizi ve hedef belirleme gibi alanlarda yapay zeka kullanımını hızla yaygınlaştırıyor. Savunma Bakanı Pete Hegseth ocak ayında açıkladığı Yapay Zeka Hızlandırma Stratejisi ile bürokratik engellerin kaldırılmasını hedefledi.

Ancak ordunun farklı birimleri yapay zeka araçlarını farklı güvenlik standartlarıyla kullanıyor. Üretilen bilgileri doğrulamak için ortak bir sistemin bulunmaması hatalı sonuçların askeri kararları etkileme riskini artırıyor.

Kaynaklar analistlerin raporları daha hızlı hazırlamaları yönündeki baskının hata riskini yükselttiğini belirtiyor. Özellikle genç çalışanların yapay zeka çıktılarına daha fazla güvenmesi sistemin güvenilirliğini sorgulatıyor.

Yapay zeka istihbarat analizinin yanı sıra saldırı hedeflerinin belirlenmesinde de aktif olarak kullanılıyor. İnsan denetiminin sivil kayıpları önlemedeki rolüne ilişkin net kuralların bulunmaması ciddi bir endişe kaynağı.

Hatalı verilerle çalışan sistemler yanlış hedef seçimine ve can kayıplarına yol açma potansiyeline sahip. Anthropic’in Claude modeli İran’a yönelik saldırılarda ve Minab’daki okul saldırısı gibi tartışmalı operasyonlarda kullanıldı.

Uzmanlar yapay zeka kaynaklı hataların arttığını ve bu durumun savaş suçu riski taşıdığını vurguluyor. Askeri karar alma süreçlerinde teknolojinin bu denli kontrolsüz kullanımı uluslararası güvenlik dengelerini tehdit ediyor.