Yapay zeka alanının önde gelen isimlerinden Anthropic CEO'su Dario Amodei, teknolojinin gelişim hızının düşürülmesi gerektiğini savundu. Amodei, süper zeka riskleri ve etik endişeler nedeniyle daha ihtiyatlı bir yaklaşım benimsenmesi çağrısı yaptı.
Anthropic CEO'su Dario Amodei, yapay zeka (YZ) modellerinin yeteneklerini geliştirme hızının düşürülmesi gerektiğini belirtti. Kişisel internet sitesinde yayınladığı yazıda Amodei, "İlerleme hâlâ hızlı görünecek ve kazandığımız zamanı akıllıca kullanmamız gerekecek" ifadelerini kullanarak, sektördeki mevcut tempoyu sorguladı.
Amodei, yapay zekanın taşıdığı risklerin teknolojinin son derece güçlü olması nedeniyle ağır olduğunu vurguladı. 2021 yılında kız kardeşi Daniela ile birlikte YZ modeli Claude'u geliştiren Anthropic'i kuran CEO, "Ancak son birkaç ayda, riskleri gerçekten bertaraf edebilmek için çok daha ihtiyatlı olmamız gerektiğine ikna oldum" dedi.
Sektördeki Endişeler ve İstifalar
Amodei'nin bu açıklamaları, OpenAI'den ayrılarak Anthropic'e katılan ve ardından sektörden tamamen çekilen yapay zeka araştırmacısı Jacob Coxon'ın eleştirilerinden kısa süre sonra geldi. Coxon, kendi kendini geliştirebilen modeller yarışındaki ABD'li şirketleri ve sektör devlerini "insan hayatıyla kumar oynamakla" suçlamıştı. Bu bağlamda, "süper zeka" kavramı, yapay zeka sistemlerinin yeteneklerinin insan zekasını aştığı varsayımsal eşiği ifade ediyor.
Haziran ayında Amodei'nin de aralarında bulunduğu ileri teknoloji yapay zeka şirketlerinde çalışan binden fazla kişi, ABD hükümetini "otomatik yapay zeka geliştirmede ön cephedeki ilerlemeyi bilinçli biçimde sınırlamaya" çağırmıştı. Reuters tarafından yayımlanan bir rapora göre, Anthropic'in geliştirdiği Claude modelinin savaş, casusluk ve siber operasyonlarda kullanıldığı iddiaları da bu endişeleri artırıyor.
Küresel Çağrılar ve Ortak Görüşler
Anthropic'in üst yöneticisi, haziran ayının başında yapılan ve geliştirme çalışmalarının yavaşlatılması veya durdurulması yönündeki çağrısını tekrarladı. Temmuz ayı sonunda ise, Anthropic'in rakibi ve ChatGPT'nin geliştiricisi OpenAI'nin başındaki Sam Altman da toplumun bu gelişmelere ayak uydurabilmesi için şirketlerin hızlı ilerlemelerine gönüllü olarak fren koymaları gerekebileceğini belirtmişti.
Amodei, yapay zekayı hiç geliştirmemenin insanlığı önemli kazanımlardan mahrum bırakacağını veya teknolojiyi doğrudan otoriter güçlerin eline bırakacağını, buna karşılık çok hızlı geliştirmenin de pervasızlık olacağını dile getirdi. Amodei, bu iki uç nokta arasında orta bir yol bulma arayışında olduklarını ifade etti.