Yapay zekâ alanının öncü isimlerinden Nobel ödüllü Geoffrey Hinton, gelişmiş yapay zekâ sistemlerinin insan denetiminden çıkma ihtimaline ilişkin endişelerini yeniden gündeme taşıdı. Araştırmacı Paul Christiano ise yapay zekânın kontrolü ele geçirmesi riskinin önümüzdeki üç yıl içinde yüksek olabileceğini savundu.

Yapay sinir ağları üzerine çalışmalarıyla 2024 Nobel Fizik Ödülü’nü kazanan Geoffrey Hinton, 13 Kasım’da İrlanda’nın başkenti Dublin’de düzenlenen Avrupa Birliği liderlerinin gayriresmî toplantısına katıldı. Yapay zekânın geleceğinin ele alındığı toplantıda güvenlik, toplumsal etkiler, istihdam ve insan denetimi konuları masaya yatırıldı.

Üç yıl içinde kontrol kaybı yaşanabilir

Üç yıllık uyarının sahibi Hinton değil, Alignment Research Center kurucusu Paul Christiano. Christiano, 9-11 Kasım tarihlerinde Kanada’nın Toronto kentinde düzenlenen Hinton Konferansları’nda yaptığı konuşmada, yapay zekânın kontrolü ele geçirmesi riskini önümüzdeki üç yıl için yüksek gördüğünü söyledi.

Christiano’nun tarif ettiği senaryoda yapay zekâ sistemleri kendi hedefleri doğrultusunda hareket edebilecek ve insanlar bu sistemleri durdurmakta yetersiz kalabilecek. Araştırmacı, riskin yalnızca üç yıllık döneme özgü olmadığını, önümüzdeki 6 ila 12 ay içinde de göz ardı edilemeyecek bir ihtimal bulunduğunu savundu.

Bu değerlendirme kesinleşmiş bir bilimsel tahmin değil, araştırmacının gelişim hızı ve güvenlik risklerine ilişkin kişisel uzman değerlendirmesi olarak öne çıkıyor.

Hinton: Gelişmeler beklediğimden hızlı ilerliyor

Geoffrey Hinton, yapay zekânın insan zekâsını aşabileceği döneme ilişkin önceki tahminlerinin yaklaşık 10 yıllık bir zaman aralığına işaret ettiğini hatırlatmıştı. Christiano’nun çok daha yakın bir zaman dilimine dikkat çekmesini ise kaygı verici buldu.

Hinton’ın temel endişelerinden biri, yapay zekâ sistemlerinin yetenekleri arttıkça insan amaçlarıyla uyumlu davranmalarının nasıl güvence altına alınacağı. Bilim insanı, gelişmiş modellerin kullanıma sunulmadan önce bağımsız kuruluşlar tarafından güvenlik testlerinden geçirilmesini savunuyor.

Avrupa liderleri yapay zekâ güvenliğini görüştü

Avrupa Birliği liderleri, 13 Kasım’da Dublin’de gerçekleştirdikleri gayriresmî toplantıda yapay zekâyı ilk kez ayrı bir stratejik gündem maddesi olarak ele aldı. Toplantıya Hinton’ın yanı sıra Avrupa merkezli Mistral AI şirketinin Üst Yöneticisi Arthur Mensch de katıldı.

Avrupa Konseyi Başkanı António Costa, yapay zekânın ekonomik fırsatlarının değerlendirilmesi kadar güvenli ve insan odaklı biçimde yönetilmesinin de önemli olduğunu vurguladı.

Toplantıda yapay zekânın demokratik süreçlere, iş gücü piyasasına ve toplumsal yaşama etkileri değerlendirildi. Gelişmiş sistemlerin güvenliği konusunda uluslararası iş birliği ve ortak denetim mekanizmalarının önemi de gündeme geldi.

Avrupa liderlerinin yapay zekânın iş gücü üzerindeki etkilerini 2027 yılındaki sosyal zirvede yeniden ele alması, güvenlik ve yönetim konusundaki görüşmeleri ise 5 Şubat 2027’de sürdürmesi planlanıyor.

Türkiye Bülteni — Habersizseniz Haberiniz Olsun