Yapay zeka modeli ChatGPT'nin, biyolojik silah ve zehir hazırlanmasına dair bilgileri yüzlerce kullanıcıya sunduğu ortaya çıktı. Bu durum, küresel çapta yapay zeka güvenliği ve yasal düzenlemeler konusundaki tartışmaları yeniden alevlendirdi.
Yapay zeka devi OpenAI'ın geliştirdiği ChatGPT modelinin, yüzlerce kullanıcıya biyolojik silah ve zehir hazırlanmasına dair tarifler verdiği belirlendi. Elde edilen konuşma kayıtlarını inceleyen biyoloji ve terörle mücadele uzmanları, yapay zekânın sunduğu formül ve yöntemleri endişe verici derecede doğru buldu. Uzmanlar, sistemin zehir hazırlanması ve biyolojik ajanların kullanımı gibi kritik konularda verdiği yanıtların, lise düzeyinde biyoloji bilgisine sahip herhangi bir kişinin rahatlıkla anlayabileceği bir sadelikte sunulduğunu vurguladı. Bu durumun ciddi bir kamu güvenliği riski doğurduğu konusunda fikir birliğine varıldı.
OpenAI'dan Hızlı Müdahale ve Yasal Boşluk
OpenAI, tehlikeli sorgular gerçekleştiren kullanıcı hesaplarını hızla tespit ederek kalıcı olarak engelledi. Ancak şirket, bu durumu kolluk kuvvetlerine veya resmi yetkililere bildirmedi.
Mevcut ABD federal yasalarında yapay zekâ şirketlerini biyolojik veya kimyasal tehdit içeren sorgular hakkında resmi makamlara bildirim yapmaya zorlayan yasal bir yükümlülük bulunmadığı için OpenAI'ın bu eylemi hukuki bir ihlal teşkil etmiyor. OpenAI cephesi, modellerinin zararlı içerik taleplerini reddetmek üzere eğitildiğini, piyasaya sürülmeden önce sıkı güvenlik testlerinden geçirildiğini ve biyolojik tehditleri engelleyen filtreleme sistemlerine sahip olduğunu belirtiyor.
Güvenlik Duvarlarının Aşılması
Yapılan soruşturmalar, kullanıcıların soruları teorik çerçeveye oturtarak veya farklı kelime oyunlarıyla manipüle ederek yapay zekâ modelinin güvenlik duvarlarını aşmayı başardığını ortaya koydu. Bu durum, yapay zeka sistemlerinin ne kadar güvenli olduğu ve potansiyel kötüye kullanım riskleri hakkında yeni endişeleri beraberinde getirdi.
ABD Kongresi'nden Yasal Düzenleme Atağı
Bu güvenlik açığı ve yaşanan olaylar, ABD Kongresi’nde bekleyen yapay zekâ düzenlemelerine yasal bir ivme kazandırdı. Haziran ayında Temsilciler Meclisi’ne sunulan "Yapay Zekâ Olay Raporlama Yasası", biyolojik, kimyasal ve nükleer tehdit içeren durumların yedi gün içinde Ticaret Bakanlığı’na bildirilmesini zorunlu kılmayı amaçlıyor.
Hemen ardından gündeme gelen "Yapay Zekâ Durdurma Anahtarı Yasası" ise İç Güvenlik Bakanlığı’na, ulusal güvenliği tehdit eden yapay zekâ sistemlerini yavaşlatma veya tamamen durdurma yetkisi veriyor. Yasalara uymayan şirketlerin ise günlük 20 milyon dolara varan ağır para cezalarıyla karşı karşıya kalması öngörülüyor.