OpenAI CEO'su Sam Altman ve Anthropic CEO'su Dario Amodei, Birleşmiş Milletler Güvenlik Konseyi'nde düzenlenen "Yapay zeka ve uluslararası güvenlik" toplantısında konuştu.
Altman: "Bir yol ayrımındayız"
Sam Altman, yapay zeka modellerinin geliştirilme hızının arttığını ve bunun riskleri de daha acil hale getirdiğini söyledi. Teknolojinin insanlık için yeni bir rönesans yaratabileceğini ancak ciddi sarsıntılara da yol açabileceğini belirten Altman, sistemlerin kendi kendilerini geliştirme kapasitesinin artması halinde insan müdahalesinin devre dışı kalabileceği uyarısında bulundu.
Altman, şirketlerin riskleri göz ardı etmemesi gerektiğini ve insan kontrolünde tutulabileceğinden emin olunmayan modellerin eğitilmemesi gerektiğini vurguladı. Kritik kararların yalnızca teknoloji şirketleri tarafından alınmaması, demokratik süreçler ve hükümetler aracılığıyla şekillendirilmesi gerektiğini ifade etti.
Amodei: "İki temel risk var"
Anthropic Üst Yöneticisi Dario Amodei ise yapay zekanın son yıllarda olağanüstü bir hızla geliştiğini belirterek bu ilerlemenin yönetilmesi gereken yeni riskleri de beraberinde getirdiğini söyledi. Amodei, yapay zekaya ilişkin iki temel risk kategorisine dikkat çekti.
