Coxon, şirketlerin kendini geliştirebilen süper yapay zeka sistemleri oluşturmak için tehlikeli bir yarışa girdiğini ve bu yarışın insanlığın geleceğini riske atabileceğini savundu.
“Hayatlarımızla Kumar Oynuyorlar”
Coxon, istifasının ardından yaptığı açıklamada son üç yılını OpenAI ve Anthropic bünyesinde ön eğitim araştırmaları gerçekleştirerek geçirdiğini belirtti.
Yapay zeka şirketlerinin sorumlu davranmadığını savunan Coxon, şirketlerin kendini geliştiren süper zekaya ulaşmak için adeta bir yarış içerisinde olduğunu ve bunun insanlığın geleceği açısından büyük risk taşıdığını ifade etti.
“Hepimizi Öldürebileceğine İnanıyorlar”
Coxon'a göre geleceğin gelişmiş yapay zeka sistemleri; çok sayıda alanda uzmanlaşabilecek, siber sistemlere yönelik saldırılar gerçekleştirebilecek ve önemli miktarda güç ile kaynağa erişebilecek kapasiteye ulaşabilir.
Araştırmacı, yapay zeka geliştiren bazı kişilerin 2030'lu yıllara kadar insanlığın tamamının yok olabileceğine gerçekten inandığını öne sürdü.
Coxon, bunun yalnızca bir pazarlama söylemi olmadığını, bazı yöneticiler ve kıdemli araştırmacıların kamuoyuna yaptıkları açıklamalarda daha temkinli konuşurken özel görüşmelerinde risklere ilişkin ciddi endişeler taşıdığını iddia etti.
“Eğer Buna İnanıyorlarsa Neden Hâlâ İnşa Ediyorlar?”
Coxon, kamuoyunda sıkça sorulan “Eğer yapay zekanın insanlık için bu kadar büyük bir risk olduğuna inanıyorlarsa neden hâlâ geliştiriyorlar?” sorusuna da değindi.
OpenAI bünyesinde birçok kişinin medeniyetin karşı karşıya olduğu riskleri yeterince içselleştirmediğini savunan Coxon, Anthropic tarafında ise risklerin daha iyi anlaşıldığını ancak şirketin küresel rekabette ilk olma baskısıyla hareket ettiğini ileri sürdü.
“Doğru Yolda Olduğumuzu Hissetmiyorum”
Coxon, küresel ölçekte bir yapay zeka yarışının önlenmesi konusunda doğru yönde ilerlenmediğini düşündüğünü belirtti.
Araştırmacı, model yeteneklerinin geliştirilmesine yönelik geçici kısıtlamalar da dahil olmak üzere maliyetli önlemlerin gündeme alınması gerekebileceğini savundu.
Yapay zekanın hızla gelişmesi, güvenlik, kontrol ve insanlığın geleceği konularındaki tartışmaları da beraberinde getirirken, Coxon'un istifasının sektör içerisindeki risk tartışmalarını yeniden gündeme taşıması bekleniyor.
Editörün Değerlendirmesi
Yapay zekânın gelişimi artık yalnızca teknolojik bir başarı yarışı olarak görülmemeli. Yapay zekâ güvenliği, insan denetimi ve bu teknolojilerin hangi sınırlar içinde geliştirilmesi gerektiği de en az teknolojik ilerleme kadar önem taşıyor.
Jacob Coxon’un açıklamaları, yapay zekâ sektörünün içinden gelen önemli bir uyarı niteliğinde. Ancak “yapay zekâ insanlığı yok edecek” gibi ifadelerin kesinleşmiş bir gerçek değil, bir risk değerlendirmesi ve öngörü olduğunu da unutmamak gerekiyor.
Asıl tartışılması gereken konu, insanlığın yapay zekâdan korkup korkmaması değil; çok güçlü yapay zekâ sistemleri geliştirilirken güvenlik mekanizmalarının, insan denetiminin ve uluslararası kuralların teknolojinin hızına yetişip yetişemeyeceğidir.
Yapay zekâ insanlığın en büyük fırsatlarından biri olabilir. Fakat bu gücün nasıl kullanılacağı, onu geliştirenlerden çok daha geniş bir toplumsal ve küresel sorumluluk meselesidir.
Türkiye Bülteni
