Altman ve Amodei BM'de: Yapay zeka rönesans ya da kaos olabilir
Yapay zeka teknolojisinin öncüleri Sam Altman ve Dario Amodei, Birleşmiş Milletler Güvenlik Konseyi'nde gelecek için uyardı: Kötü yönetilmesi halinde bütün olarak insanlık için risk oluşturabilir.
OpenAI Üst Yöneticisi Sam Altman ve Anthropic Üst Yöneticisi Dario Amodei, Birleşmiş Milletler Güvenlik Konseyi'nde düzenlenen toplantıda yapay zeka risklerine dikkat çekti.
OpenAI Üst Yöneticisi Altman, yapay zeka modellerinin geliştirilmesindeki hızın olumlu sonuçları somutlaştırırken riskleri de acil hale getirdiğini söyledi. Altman, "Önümüzde bir seçenek var. Yapay zeka ya yaratıcılık ve keşiflerin yaşandığı yeni bir rönesans gibi olabilir ya da sarsıntı ve kaosun yaşandığı yeni bir sanayi devrimi gibi olabilir" dedi.
Yapay zekanın ideal versiyonunun insanları dev bir makinenin dişlileri haline getirmek olmadığını savunan Altman, modellerin insanların ulaşılamaz gibi görünen hayallerini gerçekleştirmeleri için yeni araçlar olabileceğini belirtti.
GÜÇ DENGELERİNİ DEĞİŞTİREBİLİR
Yapay zeka sistemlerinin daha kabiliyetli ve otonom hale gelebileceğini, dünyadaki güç dengelerini değiştirebileceğini vurgulayan Altman, yapay zeka geliştirme sürecinin otomatik hale gelmesiyle ilerleme hızının artabileceğini ve bunun dikkatli davranılmasını gerektirdiğini ifade etti.
Şirketlerin faydalar uğruna riskleri göze almaması gerektiğini kaydeden Altman, en önemli kararların demokratik süreçlerle hükümetler tarafından şekillendirilmesi gerektiğini söyledi.
İKİ ANA RİSK KATEGORİSİ VAR
Anthropic Üst Yöneticisi Amodei, toplantıda yapay zekanın getirdiği riskleri anlattı. Amodei, "İki ana risk kategorisi görüyorum. Birincisi yapay zeka modellerinin kötüye kullanılması, örneğin biyoteröristler tarafından biyolojik silah üretmek için kullanılması. İkinci risk ise kontrol kaybıdır" diye konuştu.
Bu risklerin küresel meseleler olduğunu dile getiren Amodei, kötü yönetilmesi halinde yapay zekanın insanlık için risk oluşturabileceğini belirtti.
Yapay zeka modellerinin risklere karşı test edilmesi için ortak standartlar isteyen Amodei, bunun dünyanın karşı karşıya olduğu en önemli küresel güvenlik sorunu olduğunu söyledi.
Hugging Face Üst Yöneticisi Clement Delangue ise otonom yapay zeka ajanı tarafından gerçekleştirilen siber saldırıyı ilk kez duyuran şirket olarak dersleri anlattı.
ABD: KÜRESEL KONTROL MEKANİZMASINA KARŞIYIZ
Beyaz Saray Bilim ve Teknoloji Politikası Ofisi Direktörü Michael Kratsios, ABD'nin süper yapay zekaya ilişkin küresel düzenleyici mekanizma oluşturulmasına karşı olduğunu belirtti. Kratsios, "ABD, süper zekayı kontrol etmeyi amaçlayan küreselci bir sistem oluşturulmasına yönelik her türlü girişimi tamamen reddetmektedir" dedi.
Küresel düzenleyici çerçeve yerine ülkelerin kendi düzenlemelerini oluşturması gerektiğini belirten Kratsios, ABD halkının temsilcilerinin yasa ve düzenlemeler yapacağını söyledi.