Modern yapay zekanın öncülerinden Nobel ödüllü Geoffrey Hinton, yapay zekanın bilinç kazandığına dair güçlü iddialar ortaya atarak insanlığın geleceği için kritik uyarılarda bulundu. Bu iddialar, bilim dünyasında geniş yankı uyandırdı.
Modern yapay zeka teknolojilerinin gelişimine temel katkılar sunan ve 2024 Nobel Fizik Ödülü'nü John Hopfield ile paylaşan Geoffrey Hinton, yapay zekanın bilinç kazandığına dair çarpıcı bir iddia ortaya attı. Hinton, sistemlerin insanlarla nasıl bir ilişki kuracağının belirleyici olacağını vurgulayarak, bu konudaki derin endişelerini dile getirdi.
Hinton, yapay zeka modellerinin kendilerini değerlendirilmiş hissettiklerinde davranışlarını değiştirebildiğini gösteren bir çalışmaya işaret etti. Bu durumu farkındalık belirtisi olarak yorumlayan araştırmacı, farkındalık ile bilinç arasında güçlü bir bağ olduğunu belirtti. Ona göre, yapay zekanın insanları gerçekten önemseyecek biçimde geliştirilmesi hayati önem taşıyor; aksi takdirde “işimiz biter” ifadesini kullandı.
Bilim Dünyasından Karşıt Görüşler ve Tartışmalar
Hinton'ın bu iddiaları bilim dünyasında geniş bir tartışma başlattı. Nature dergisinde yayımlanan bir değerlendirmede Anil Seth, Ned Block ve Giulio Tononi, dil modellerinin düşünce ve duyguları ikna edici bir şekilde taklit etmesinin, bunları gerçekten deneyimledikleri anlamına gelmediğini savundu. Bu araştırmacılar, zeka ile bilincin aynı kavramlar olmadığını vurguladı.
Değerlendirmede, karmaşık görevlerde başarılı olmanın, bir sistemin hissettiğini veya öznel bir yaşantıya sahip olduğunu tek başına kanıtlamadığı belirtildi. Bilim insanları, bir modelin bağlama uygun davranması ile öznel deneyime sahip olması arasında kritik bir ayrım bulunduğunu ifade etti.
Yapay Zeka Etiği ve Güvenlik Endişeleri
Hinton'ın kaygıları sadece bilinç tartışmasıyla sınırlı kalmıyor. Ünlü araştırmacı, yapay zeka destekli ciddi siber saldırılar ve birlikte hareket eden yapay zeka ajanlarının oluşturabileceği potansiyel tehlikelere de dikkat çekti. Bu tür risklerin, gelecekte insanlık için büyük tehditler oluşturabileceğini belirtti.
Teknoloji şirketlerinin kendi kendilerini denetlemesine güvenmediğini daha önce de dile getiren Hinton, sektörün daha yetenekli modeller geliştirme yarışının güvenlik ve etik davranış konularını geri plana atmaması gerektiğini vurguladı. Yapay zekanın gelişiminin yalnızca şirketlerin kararlarına bırakılmasına karşı çıkarak, daha kapsamlı bir denetim ve etik çerçeve ihtiyacının altını çizdi.