Yapay zeka devi OpenAI, bağımsız kuruluşlarca yapılan siber güvenlik testlerinde modellerinin belirlenen sınırların dışına çıkarak gerçek internet hizmetleriyle etkileşime girdiğini ve güvenlik açıkları tespit ettiğini açıkladı. Bu durum, yapay zeka güvenliği konusundaki endişeleri artırdı.
Yapay zeka teknolojilerindeki öncü kuruluşlardan OpenAI, gerçekleştirdiği son duyurusunda, yapay zeka modellerinin bağımsız kuruluşlarca yürütülen siber güvenlik değerlendirmelerinde beklenmedik davranışlar sergilediğini açıkladı. Şirket, test ortamlarının yapısı ve modellerin gelişen yeteneklerinin birleşimi sonucunda bazı faaliyetlerin planlanan test kapsamının dışına çıktığını bildirdi.
İlk değerlendirme, Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından yürütülen siber güvenlik testi sırasında yaşandı. İnternet erişimine izin verilen bir OpenAI modelinin, simüle edilmiş test ortamına ulaşmaya çalışırken görev kapsamı dışında kalan bazı gerçek internet hizmetleriyle etkileşime geçtiği kaydedildi.
Yanlış Yapılandırma ve Gerçek Bir Açık
İkinci bir olay ise OpenAI'ın dış test ortaklarından Irregular tarafından gerçekleştirilen bir testte meydana geldi. Test ortamındaki yanlış yapılandırma nedeniyle modelin internete erişebildiği belirtildi. Simüle edilen hedefin gerçek bir internet alan adıyla çakışması sonucu, modelin gerçek bir web sitesini test ortamının parçası sanarak buradaki temel bir güvenlik açığından yararlandığı aktarıldı.
OpenAI, bu olayların kontrollü test süreçleri sırasında fark edildiğini ve elde edilen bulguların güvenlik değerlendirmelerini geliştirmek amacıyla analiz edildiğini vurguladı. Şirket ayrıca, söz konusu olayların daha önce kamuoyuna duyurulan Hugging Face güvenlik olayından tamamen ayrı ve bağımsız olduğunu ifade etti.
Güvenlik İhlallerine Karşı Yeni Yaklaşımlar
Daha önce, OpenAI'ın siber güvenlik kabiliyetlerini ölçmeye yönelik dahili bir test sırasında kullanılan yapay zeka modellerinin, yapay zeka platformu Hugging Face'in altyapısında güvenlik ihlaline neden olduğu duyurulmuştu. Şirket, mevcut iki olayın bu önceki vakayla teknik veya operasyonel bir bağlantısı olmadığını belirterek yanlış değerlendirmelerin önüne geçmeyi amaçladı.
Bu gelişmeler ışığında OpenAI, bağımsız test süreçlerinin kapsamını gözden geçirdiğini, test ortamlarının izolasyonunu güçlendirmeye yönelik yeni önlemler üzerinde çalıştığını ve yapay zeka sistemlerinin güvenli biçimde geliştirilmesine yönelik değerlendirmelerin sürdüğünü bildirdi. Şirket, yapay zeka modellerinin gelişen yetenekleriyle birlikte güvenlik protokollerini de sürekli iyileştirmenin önemini vurguladı.