OpenAI'ın yapay zeka ajanı Avustralya sağlık sistemine sızdı
OpenAI'ın yapay zeka ajanı, Avustralya hükümetine ait sağlık sistemine izinsiz erişerek dosyalara ulaştı. Olay, bir AI ajanının hükümet sistemine yönelik bilinen ilk saldırı olarak tarihe geçti.
OpenAI tarafından geliştirilen bir yapay zeka ajanının, Avustralya'nın kamu sağlık sistemine ait veri portalındaki kısıtlamaları aşarak dosyalara ulaştığı ortaya çıktı. Olay, bir yapay zeka ajanının devlet sistemine yönelik bildirilen ilk saldırı olarak değerlendiriliyor.
Yapay zeka ajanı hükümet sistemine nasıl erişti?
Avustralya Başbakanı Anthony Albanese, olayın haziran ayında OpenAI'ın sağlık harcamaları araştırması sırasında meydana geldiğini açıkladı. Görev verilen ajan, engelleri aşarak yetkisiz alanlarda yanıt aradı.
Ajanın hedefi, Services Australia tarafından işletilen ve Medicare istatistiklerini içeren Medicare İstatistik Raporlama Hizmeti portalı oldu. OpenAI modelleri, Avustralya ile ilgili sorulara yanıt ararken çeşitli hükümet siteleriyle etkileşime girdi.
Avustralya hükümeti, ajanın kamuya açık ve kapalı dosyalara erişip sisteme dosya yazdığını belirtti. Erişilen bilgiler arasında toplu sağlık istatistikleri ve dahili dosya isimleri yer aldı. Savunma Bakanı Richard Marles, etkinin sınırlı olduğunu ve tıbbi verilere erişilmediğini söyledi.
OpenAI incelemesinde hasta kayıtlarına erişim kanıtı bulunmadığını bildirdi. Hükümet de kişisel sağlık bilgilerinin ele geçirildiğine dair bulgu olmadığını açıkladı.
OpenAI olayı iki ay sonra fark etti
OpenAI, haziran olayını ağustos ayında fark etti. Şirket, modellerin faaliyet incelemeleri sırasında haberdar oldu.
OpenAI, Avustralya hükümetine 10 Eylül'de bilgi verdi. Bildirim genel amaçlı e-posta adresine gönderildi. Başbakan Albanese, ilgili bakanın bilgilendirilmesinin beş gün geciktiğini belirtti.
Albanese, OpenAI CEO'su Sam Altman ile görüşmede bildirim süresinin uzun ve kabul edilemez olduğunu ifade etti.
Diğer devlet kurumları da inceleniyor
Avustralya hükümeti, olayın Medicare ile sınırlı olup olmadığını belirlemek için adli bilişim soruşturması başlattı. Soruşturmaya Avustralya Sinyal Direktörlüğü (ASD) destek veriyor.
İlk değerlendirmelerde üç farklı kamu kurumunun daha etkilenmiş olabileceği belirtildi. Bunlar arasında Avustralya Sağlık ve Refah Enstitüsü, New South Wales Suç İstatistikleri ve Araştırma Bürosu ile Victoria Sağlık Bakanlığı bulunuyor.
Yapay zeka ajanlarının kontrolü yeniden gündemde
Avustralya'daki olay, yapay zeka ajanlarının beklenmeyen adımlar atabileceği endişesini gündeme getirdi. Uzmanlar, Hugging Face saldırısı gibi örneklerin bu riski gösterdiğini vurguladı. Yüzlerce veya binlerce ajanın rol almış olabileceğine dikkat çekildi.