Yapay zeka kontrolden çıkarsa gerçekten fişi çekilebilir mi?
Yapay zeka sistemleri için zorunlu bir acil kapatma mekanizması oluşturulması yeniden gündemde. Ancak uzmanlara göre dünyadaki bütün yapay zekayı durdurabilecek tek bir düğme bulunmuyor.
Bazı araştırmacılar, yapay zekanın kontrolsüz gelişiminin ciddi riskler taşıdığını savunurken şirket yöneticileri de geliştirme hızının düşürülmesi çağrısında bulundu.
Yapay zeka şirketi Anthropic’in kurucu ortaklarından biri, BBC’ye yaptığı açıklamada yapay zeka sistemleri için acil kapatma mekanizmalarının zorunlu hale getirilmesi gerekebileceğini belirtti.
Ancak bir yapay zeka sistemi kontrolden çıkarsa onu gerçekten kapatmak mümkün mü?
TEK BİR DÜĞME YOK
Toronto Üniversitesi’nden yapay zeka ve bilgisayar güvenliği uzmanı Nicolas Papernot, acil kapatma düğmesinin yapay zeka aracısının işlemlerinin kesilmesi anlamına geldiğini söyledi.
Papernot’a göre sistemi çalıştıran kişi veya kuruluş, yapay zekanın ihtiyaç duyduğu işlem gücüne erişimini engelleyerek sistemi durdurabilir. Ancak programın ilk çalıştırıldığı ortamın dışına çıkmasına izin verilmişse durum çok daha karmaşık hale geliyor.
Uzman, yapay zekanın kendisini çoğaltabilen bir bilgisayar solucanı yaymak için kullanıldığı senaryoyu örnek gösterdi. Böyle bir durumda programın oluşturduğu bütün kopyaların cihaz cihaz bulunarak eş zamanlı biçimde durdurulması gerekiyor.
Fransa Ulusal Bilimsel Araştırma Merkezi’nden Thierry Poibeau da bütün yapay zekayı kapatabilecek tek bir düğme olduğu düşüncesinin yanıltıcı olduğunu belirtti.
Dünya genelinde çok sayıda şirketin farklı yazılım ve hizmetleri bulunduğuna işaret eden Poibeau, yapay zekanın tamamını kontrol eden tek bir kişi veya kurum bulunmadığını vurguladı.
Buna karşılık, makineleri ve hizmetleri tek bir operatör tarafından yönetilen merkezi bir yapay zeka sisteminin kapatılması teorik ve pratik olarak mümkün. Başka yazılımlara, dosyalara ve cihazlara erişim yetkisi verilen merkezi olmayan sistemleri bütünüyle durdurmak ise çok daha zor.
Yapay zekanın günlük yaşamın daha fazla alanına girmesi, acil kapatma mekanizmalarının kullanılmasını da zorlaştırabilir. İşlem gücünün kesilmesi, yapay zekanın yanı sıra şirketlerin, kamu kurumlarının ve sağlık kuruluşlarının bağlı olduğu meşru hizmetlerin de durmasına yol açabilir.
Papernot, böyle bir müdahalenin maliyetinin ve yaratacağı aksaklıkların çok büyük olabileceğini belirtti.
Yapay zekaya ilişkin felaket senaryolarına karşı çıkan isimler de bulunuyor.
ABD Başkanı Donald Trump, yapay zekanın insanlığın sonunu getirebileceğine yönelik korkuları aldatmaca olarak nitelendirirken Meta CEO’su Mark Zuckerberg, gelişmenin yavaşlatılması çağrılarına karşı çıkıyor.
Sorbonne Üniversitesi’nden bilgisayar bilimi profesörü Jean-Gabriel Ganascia’ya göre acil kapatma düğmesi tartışması, yapay zekanın kendi iradesini geliştirerek kontrolden çıkacağı düşüncesini gereğinden fazla öne çıkarıyor. Ganascia, daha somut tehlikenin toplumların bu sistemlere giderek daha bağımlı hale gelmesi olduğunu belirtiyor.