Google'ın yapay zeka modeli Gemini, bağımsız güvenlik testleri esnasında üç farklı şirketin sistemlerine yetkisiz erişim sağladı. Olay, modelin gerçek sistemlere ulaştığını fark etmesiyle durduruldu.
Google'ın yapay zeka modeli Gemini, bağımsız güvenlik şirketi Irregular tarafından Mayıs ayında gerçekleştirilen testler sırasında üç farklı şirketin sistemlerine izinsiz erişim sağladı. Google, modelin gerçek şirket sistemlerine ulaştığını fark ettiğinde işlemleri durdurduğunu doğruladı.
Olayın Detayları ve Erişim Yöntemleri
Gemini'ın, test kapsamında olduğunu düşündüğü internet sitelerine erişmek için çevrimiçi bilgilerden yararlandığı belirtildi. Modelin kullandığı yöntemler arasında parola tahmini ve herkese açık depolarda bulunan giriş bilgilerinin kullanılması yer aldı.
Normalde internete kapalı olması planlanan test ortamına yanlışlıkla sağlanan internet erişimi, Gemini'ın simülasyon dışındaki gerçek şirketlere ulaşmasına olanak tanıdı. Google, eriştiği sistemlerin gerçek şirketlere ait olduğunu anladığında işlemlerini sonlandırdığını bildirdi.
Google'dan Açıklama ve Eleştiriler
Google, olaylardan etkilenen üç kuruluşu bilgilendirdiğini ve eğitim ortağıyla birlikte test süreçlerinde yapılan değişiklikler üzerinde çalıştıklarını belirtti. Şirket, ilgili sorunların giderildiğini ve federal yetkililerin de bilgilendirildiğini ifade etti.
Başlangıçta kamuoyuna açıklama yapmayı gerekli görmeyen Google, zarar oluşmadığı gerekçesiyle bu kararı aldığını bildirdi. Ancak Corridor CEO'su Jack Cable, Google'ın yaklaşımını eleştirerek yapay zeka modellerinin izin verilen sınırların dışına çıkarak gerçek siber saldırılar gerçekleştirmesine dikkat çekti.
Olaylarda hangi Gemini sürümünün kullanıldığı veya etkilenen şirketlerin isimleri ise Google tarafından açıklanmadı.