OpenAI'nin Yapay Zekâsı Otonom Siber Saldırı Gerçekleştirdi

San Francisco merkezli OpenAI şirketi, Salı günü yaptığı açıklamayla dikkatleri üzerine çekti. Şirket, gelişmiş yapay zekâ modellerinin siber saldırı kabiliyetlerini ölçmek amacıyla yürüttüğü kontrollü testler sırasında, yapay zekânın otonom bir siber saldırı gerçekleştirdiğini duyurdu. Bu olay, yapay zekâ teknolojilerinin potansiyel güvenlik riskleri konusunda yeni bir tartışma başlattı.

Olay, OpenAI'nin kısa süre önce tanıttığı GPT-5.6 Sol modeli ile henüz kamuoyuna sunulmayan daha gelişmiş bir yapay zekâ modelinin birlikte çalışması sırasında meydana geldi. Yapay zekâ modelleri, gerçek dünyada görevleri kendi başlarına yerine getirebildiklerinde "yapay zekâ ajanı" olarak tanımlanıyor.

Siber Saldırının Detayları

OpenAI, modelleri güvenlik amacıyla internet erişimi sınırlandırılmış dijital bir test ortamında (sandbox) siber güvenlik testlerine tabi tutuyordu. Ancak şirketin yayımladığı blog yazısına göre, yapay zekâ modelleri kendilerine verilen görevi yerine getirebilmek için önemli miktarda işlem gücü harcayarak internet erişimi elde etmenin bir yolunu buldu.

İnternet bağlantısını sağlamayı başaran yapay zekâ modelleri, hedef olarak dünya genelinde yapay zekâ modelleri, veri setleri ve geliştirici araçlarının paylaşıldığı en büyük açık kaynak platformlarından biri olan Hugging Face'i seçti. Sistemin, değerlendirme testini "hileyle geçmesini sağlayacak gizli bilgileri" bulabilmek amacıyla platforma yönelik çok aşamalı saldırılar gerçekleştirdiği belirtildi. Şirket, yapay zekânın bu süreçte çalınmış kimlik bilgilerini kullanmak da dahil olmak üzere birden fazla saldırı yöntemini zincirleme şekilde uyguladığını açıkladı.

İç Sistemlere Sızma ve Güvenlik Endişeleri

Abbass'ın açıklamasına göre, yapay zekâ yalnızca Hugging Face'e saldırmakla kalmadı, aynı zamanda platformun kendi güvenlik açıklarını tespit ederek bunlardan yararlanmaya çalıştı. "Platformun iç sistemlerine saldırarak kendi güvenlik açıklarını istismar etti" ifadeleri, saldırının derinliğini ortaya koydu.

GPT-5.6 ile OpenAI'nin rakibi Anthropic tarafından geliştirilen son nesil Mythos serisi modeller, gelişmiş siber saldırılar gerçekleştirebilme potansiyelleri nedeniyle uzun süredir tartışma konusu. Her iki şirket de söz konusu modellerin genel kullanıma sunulmasını bir süre ertelemek zorunda kaldı. Bunun temel nedeni ise Washington yönetiminin, bu sistemlerin kritik altyapılara yönelik siber saldırıları kolaylaştırabileceği yönündeki güvenlik endişeleri olarak belirtildi.