Anthropic'ten Yapay Zeka Kötüye Kullanımına Karşı Yeni Politika

Yapay zeka dünyasının önde gelen şirketlerinden Anthropic, modellerine yönelik "sürekli ve gereksiz" kötü niyetli davranışlarda bulunan kullanıcıları platformdan men edeceğini duyurdu. Claude'un geliştiricisi olan şirket, 9 Ekim tarihinde yaptığı açıklamada, araçlarının "zalimce" davranışlar sergileyen kişilerle etkileşimi sonlandırmasına olanak tanıyan yeni bir kullanım politikası güncellemesi yayınladı. Şirket, bu tür bir uygulamaya daha önce "nadiren" başvurduğunu da belirtti.

Yasaklı Davranışlar ve Politikanın Sınırları

Yeni politika kapsamında yasaklanacak davranışlar arasında zorbalık, kendine zarar vermeyi teşvik etmek ve rıza dışı müstehlik görüntüler oluşturmak yer alıyor. Ancak Anthropic, kullanım politikasının "kullanıcıların sıkça gösterdiği hayal kırıklığı, itirazlar, karanlık temalar içeren yaratıcı içerikler ya da model testleri ve araştırmaları" için geçerli olmayacağını vurguladı. Bu durum, uygulamanın yalnızca kasıtlı ve bilinçli kötüye kullanım vakalarında devreye gireceğine işaret ediyor.

Şirketin modellerine yönelik "kötüye kullanım veya acımasız davranışı" tam olarak nasıl tanımladığı ise belirsizliğini koruyor. The Verge tarafından ilk kez duyurulan bu değişiklikler, firmanın kullanım politikasına ilişkin yıllık incelemesinin bir sonucu olarak ortaya çıktı.

Yapay Zeka Etiği Üzerine Tartışmalar

Anthropic'in yeni kullanım politikası, sosyal medyada geniş yankı uyandırdı. Bazı kullanıcılar bu adımı iyi ahlakı ve "örnek sosyal yardım"ı teşvik eden bir uygulama olarak överken, eleştiriler de gecikmedi. Bir kişi uygulamayı "son derece yanlış" olarak nitelendirirken, bir başkası ise bu politikanın insanlara ve hayvanlara yönelik istismarın ciddiyetini gölgede bırakabileceğini savundu.

İrlandalı hukuk firması William Fry'ın teknoloji ortağı Dr. Barry Scannell, LinkedIn üzerinden yaptığı yorumda, "Sayılar ve matematiğe karşı acımasız olamazsınız" ifadelerini kullandı. Scannell, "Yapay zekaya insan özellikleri atfetmenin bu düzeye varması zararlı. İnsanların, yapay zekanın gerçekte olmadığı bir şey olduğuna inanmasına yol açıyor" diyerek politikanın temel felsefesine eleştiri getirdi. Eylül ayında rakibi Anthropic'i yapay zekaya insanmış gibi davrandığı gerekçesiyle eleştiren Microsoft Yapay Zeka Direktörü Mustafa Suleyman ise, bu güncellemeye eriyen yüz emojisiyle tepki gösterdi.

Seçim Güvenliği ve Yanıltıcı Kampanyalar

Kullanım politikası, başka alanlarda ortaya çıkan yeni veya gelişen riskleri ele alacak şekilde de güncellendi. Buna göre Claude'un "aldatıcı kampanyalar" yürütmek için kullanılması yasaklandı. Özellikle ABD'de ara seçimler yaklaşırken, seçmenleri yanıltmak veya seçim süreçlerini aksatmak amacıyla kullanılmasının da yasak olduğu açıkça belirtildi.