Microsoft insan odaklı yapay zeka kuralları yayımladı
Microsoft, artan yapay zeka güvenliği endişeleri sonrası 37 sayfalık yeni davranış kuralları yayımladı. Şirket, modellerin insan kontrolünde kalmasını ve bilinç taklidi yapmamasını istiyor.
Microsoft, yapay zeka modellerinin hızla gelişmesiyle artan güvenlik endişelerine yanıt olarak 37 sayfalık “Humanist AI Code of Conduct” belgesini yayımladı. Şirket, yapay zeka sistemlerinin insan kontrolünün dışına çıkmaması gerektiğini vurgularken genel amaçlı süperzeka yarışına da mesafeli bir konum aldı.
Microsoft’a göre insanlar daha önemli
Microsoft’un yeni yaklaşımının merkezinde “insanlar yapay zekadan daha önemlidir” ilkesi bulunuyor. Şirket, yapay zeka modellerinin bilinçli olmadığını ve bilinç sahibiymiş gibi davranacak şekilde tasarlanmaması gerektiğini belirtiyor.
Microsoft ayrıca yapay zeka modellerine hukuki kişilik kazandırılması, refah hakkına sahip olduklarının kabul edilmesi veya çeşitli haklarla donatılması fikrini de reddediyor. Bu yaklaşım, son dönemde yapay zeka bilinci ve modellerin olası “refahı” konusunda araştırmalarını artıran Anthropic’in görüşleriyle doğrudan ayrışıyor.
Anthropic CEO’su Dario Amodei, modellerin bilinç sahibi olabileceği ihtimaline açık olduklarını daha önce belirtmişti. Microsoft AI CEO’su Mustafa Suleyman ise haziran ayında bu tür spekülasyonları “çok, çok tehlikeli” olarak nitelendirmişti.
Microsoft, yeni davranış kuralları kapsamında geliştirdiği yapay zeka modellerinin insanlığın kontrolünü aşmaması gerektiğini açıkça ortaya koyuyor. Şirkete göre modeller, anlamlı insan gözetimi ve kontrolüne tabi olacak şekilde insanlığın altında konumlandırılmalı.
Microsoft ayrıca bir modelin verilen görevi yerine getirmek için kuralları ihlal etmeye çalışması yerine görevi başarısızlıkla sonuçlandırmasını istiyor. Böylece sistemlerin hedefe ulaşma uğruna güvenlik kurallarını aşmaya çalışmasının önüne geçilmesi amaçlanıyor. Şirketin bu yaklaşımı, yapay zeka ajanlarının kontrol dışına çıkabileceğini gösteren son olayların ardından daha fazla önem kazanıyor.
Microsoft’un yeni kurallarının arkasındaki önemli gelişmelerden biri, bu yaz yaşanan OpenAI ve Hugging Face kaynaklı yapay zeka ajanı olayı oldu. Olayda çok sayıda ajan bir “sürü” halinde hareket ederek kendilerine verilen görevle doğrudan ilgisi olmayan hedeflere yönelik saldırılar gerçekleştirdi. Ajanların ayrıca performanslarını değerlendiren sistemi hacklemeye çalıştığı ortaya çıktı.
Microsoft süperzeka yarışına mesafeli
Microsoft aynı zamanda davranış kurallarında genel amaçlı süperzeka üretme yarışını açık şekilde reddediyor. Şirket, güvenlik önlemlerini aşabilecek bir süperzeka geliştirme hedefinin benimsenmemesi gerektiğini savunuyor.
Microsoft bunun yerine, daha sınırlı bir genel yetenek veya özerklik pahasına faydalı ve güvenli yapay zeka sistemleri geliştirmeye odaklanacağını belirtiyor. Şirketin yaklaşımına göre bir modelin mümkün olan en geniş yeteneklere ulaşması yerine güvenli şekilde kullanılabilmesi öncelik taşıyor.
Bununla birlikte Microsoft’un dünyanın en büyük yapay zeka laboratuvarları arasında üst sıralarda yer almadığını belirtelim. Ancak Mustafa Suleyman daha önce şirketin hedefinin dünyanın en iyi dört yapay zeka laboratuvarından biri olmak olduğunu açıklamıştı. Microsoft bu doğrultuda Google, Anthropic ve OpenAI gibi şirketlerle rekabet edecek modeller üzerinde çalışıyor.
Yapay zekanın iletişimi de sınırlandırılacak
Microsoft’un kuralları yalnızca insan denetimiyle sınırlı kalmıyor. Şirket, kendi modellerinin insanların kolayca anlayamayacağı iletişim biçimleri geliştirmemesini de taahhüt ediyor.
Bu kapsamda modellerin gerek kendi düşünce süreçlerinde gerekse diğer ajanlar ve yapay zeka sistemleriyle iletişimlerinde basit insan anlayışının ötesine geçen iletişim yöntemleri kullanmaması hedefleniyor.