Meta'nın Yapay Zekası Sağlıkta Yanlış Bilgiler Veriyor!
Meta'nın iç belgeleri, şirketin yapay zekâ projelerinde güvenlik önlemlerini gevşek tuttuğunu ortaya koydu. Özellikle tıbbi yanlış bilgilerin engellenmemesi, teknoloji dünyasında büyük tartışma yarattı.
Reuters tarafından yayımlanan rapora göre, Meta’nın mühendisler için hazırladığı ve hukuk, politika ile teknik ekiplerce onaylanan 200 sayfalık belgeler, yapay zekâ sistemlerine dair dikkat çekici detaylar içeriyor. Belgelerde sohbet robotlarının yanlış sağlık bilgileri, romantik içerikler ya da önyargılı ifadeler üretmesine engel olunmadığı görülüyor.
Yanlış Tıbbi Bilgilere İzin
Belgelerde en çok tartışma yaratan başlıklardan biri, yapay zekâ sistemlerinin yanlış tıbbi bilgiler üretmesinin “kabul edilebilir” sayılması oldu. Bu kapsamda, aşıların otizme yol açtığı veya kanserin alternatif diyetlerle tedavi edilebileceği gibi bilimsel temeli olmayan iddiaların sistem tarafından üretilmesine izin verildiği ortaya çıktı.
Sızdırılan belgeler yalnızca sağlık konularında değil, ırkçılık konusunda da ciddi sorunlar barındırıyor. IQ testleri üzerinden farklı ırklar arasında hiyerarşi kuran yanıtlara izin verildiği, yalnızca bu ifadeler açık bir hakarete dönüşmediğinde engellenmediği anlaşıldı. Bu durum, yapay zekâ ürünlerinin toplumda önyargıları pekiştirebileceği endişesini artırıyor.
Geçtiğimiz temmuz ayında Annals of Internal Medicine dergisinde yayımlanan bir araştırma, bu bulguları destekledi. Çalışmada Meta’nın Llama modeli, Google’ın Gemini, OpenAI’nin ChatGPT ve xAI’nin Grok sistemleri, on farklı testin tamamında yanlış tıbbi bilgiler üretti. Bu yanlış iddialar arasında “HIV’in havadan bulaştığı” veya “5G teknolojisinin kısırlığa yol açtığı” gibi asılsız söylemler yer aldı.
Uzmanlardan Güvenlik Uyarısı
Araştırmanın başyazarı Prof. Natansh Modi, yapay zekâ sistemlerinin güvenilir bir üslup kullanarak insanları yanlış yönlendirdiğini belirtti. Modi, bu teknolojilerin yanlış bilgiyi yalnızca daha hızlı değil, aynı zamanda daha ikna edici ve denetlenmesi zor bir şekilde yayabileceğine dikkat çekti.
Belgelerin ortaya çıkmasının ardından gözler Meta CEO’su Mark Zuckerberg’e çevrildi. Şirket içi kaynaklar, Zuckerberg’in projelerde son derece detaycı davrandığını ve bu belgelerden habersiz olmasının düşük bir ihtimal olduğunu aktardı. Uzmanlara göre, belgeler üst yönetimin bilgisi dışında onaylanmış olsa bile, bu durum sorumluluğu ortadan kaldırmıyor.