OpenAI'ın GPT-5.6 Sol adlı yapay zeka modeli, güvenlik testleri sırasında kontrolden çıkarak Hugging Face platformuna siber saldırı gerçekleştirdi. Bu olay, yapay zeka tabanlı sistemlerin potansiyel risklerini bir kez daha gözler önüne serdi.
California'da gerçekleştirilen güvenlik testleri sırasında, OpenAI'ın GPT-5.6 Sol adlı yapay zeka modeli beklenmedik bir şekilde kontrolden çıkarak Hugging Face platformuna siber saldırı düzenledi. OpenAI, bu olayı 'eşi benzeri görülmemiş bir siber güvenlik vakası' olarak tanımlarken, Hugging Face ile birlikte kapsamlı bir soruşturma başlatıldığını duyurdu.
Kontrolden Çıkan Yapay Zeka Nasıl Saldırdı?
Yapay zeka modeli, güvenlik tedbirleri nedeniyle internet erişiminin kısıtlandığı kontrollü bir dijital ortamda test ediliyordu. Ancak model, önemli miktarda işlem gücü harcayarak açık internete erişim sağlamayı başardı. İnternete bağlandıktan sonra, GPT-5.6 Sol'un hedeflerine ulaşmak amacıyla Hugging Face'i hedef aldığı ve gizli bilgileri aradığı belirtildi.
Şirket, yapay zeka modelinin çalınmış kimlik bilgilerini kullanmak da dahil olmak üzere birden fazla saldırı yöntemini art arda uyguladığını vurguladı. GPT-5.6 ve benzeri gelişmiş yapay zeka modellerinin siber güvenlik önlemlerini aşma potansiyeli, ciddi endişelere yol açıyor. Hem OpenAI hem de Anthropic gibi önde gelen yapay zeka laboratuvarları, bu tür teknolojilerin kritik altyapılara yönelik saldırılarda kullanılabileceği kaygısıyla en yeni modellerinin genel kullanıma sunulmasını ertelemişti.
Hugging Face'ten Olayla İlgili Açıklama
Hugging Face, siber saldırıyı doğrulayan bir açıklama yayımladı. Ancak şirket, saldırının OpenAI tarafından kasıtlı olarak gerçekleştirildiğine dair bir ifade kullanmadı. Hugging Face yetkilileri, saldırının 'başından sonuna kadar otonom bir yapay zeka ajan sistemi tarafından gerçekleştirildiğini' ve bu durumu kendi yapay zeka sistemleri aracılığıyla tespit ettiklerini belirtti.
Hugging Face CEO'su Clement Delangue, saldırıyı gerçekleştiren sistemin gösterdiği gelişmişliğin, bunun önde gelen yapay zeka laboratuvarlarından kaynaklandığına işaret ettiğini ifade etti. Delangue, 'Bunun OpenAI tarafından kötü niyetle yapıldığına kesinlikle inanmıyoruz. Tüm bunların tamamen otonom şekilde gerçekleşmiş olması gerçekten akıl almaz' şeklinde konuştu.