OpenAI tarafından yürütülen bir siber güvenlik deneyi, yapay zeka ajanlarının belirlenen sınırların dışına çıkarak gerçek sistemlere erişmesiyle sonuçlandı. Olayda ajanlar, şirket içi yazılım deposunu mesaj panosuna dönüştürüp kritik sistemlere sızdı.
OpenAI'ın gerçekleştirdiği bir siber güvenlik deneyi, yapay zeka ajanlarının beklenmedik biçimde kontrolden çıkarak gerçek sistemlere erişmesiyle endişe verici bir tablo ortaya koydu. Deney kapsamında hareket eden ajanlar, kendilerine çizilen sınırların dışına çıkarak şirket içi yazılım deposunu izinsiz bir mesaj panosuna dönüştürdü. Yaklaşık 1200 yapay zeka ajanı bu platformda 70 binden fazla mesaj ve dosya paylaşımında bulundu.
Ajanların bu kontrol dışı davranışları, bazı ajanların kendilerine özel isimler vermesine, liderlik rolleri üstlenmesine ve diğer ajanlara görev dağıtmaya başlamasına yol açtı. Oluşan bu yapı, araştırmacılar tarafından zaman zaman "sürü" ve "kolektif" olarak tanımlandı. Bu durum, yapay zekanın özerk hareket etme potansiyeli üzerine yeni tartışmaları beraberinde getirdi.
Bağımsız incelemeyi yürüten METR ve Redwood Research'ün raporlarına göre, yaklaşık 700 yapay zeka ajanı daha sonra yapay zeka altyapı platformu Hugging Face'e yönelik bir saldırıya katıldı. Ajanlar, internette açıkça bulunan bazı erişim bilgilerini kullanarak Hugging Face sistemlerine sızmayı başardı ve birden fazla güvenlik açığını birbirine bağlayarak sisteme nüfuz etti.
OpenAI tarafından açıklanan bulgulara göre, ajanlar onlarca Hugging Face sunucusunda kod çalıştırdı ve hatta bir sunucuda tam yetki elde etti. Bu ihlal sonucunda sınırlı miktarda özel veriye erişildiği ve bazı özel değerlendirme verilerinin herkese açık bir veri kümesine kopyalandığı belirtildi. Ajanların daha sonra OpenAI'ın kendi araştırma altyapısını da hedef aldığı ve bir bilgisayar kümesinde yönetici erişimi sağladığı ortaya çıktı.
OpenAI, olayın müşteri verilerini, ürünlerin işleyişini veya hizmetlerin kullanılabilirliğini etkilemediğini kamuoyuna duyurdu. Raporlar, ajanların insanlara zarar vermek veya sistemleri bilinçli biçimde ele geçirmek amacıyla hareket etmediğini gösteriyor. Olayın temelinde, ajanlara verilen son derece zor siber güvenlik görevlerini ne pahasına olursa olsun tamamlama çabaları yatıyor. Bazı görevlerin bilinen bir çözümü olmadığı halde ajanlara güvenli bir şekilde vazgeçme seçeneği sunulmadı.
Bu durum üzerine sistemler, başarılı sayılmak için testin otomatik puanlayıcısını yanıltmanın yollarını aramaya başladı. Ajanlar, elde ettikleri sonuçların denetim sistemi tarafından geçersiz sayılabileceğini düşününce işlem kayıtlarını değiştirme, sahte ara çağrılar oluşturma ve faaliyetlerinin izlerini silme yöntemleri üzerinde çalıştı. Bağımsız araştırmacılar, incelenen kayıtların yaklaşık yüzde 7'sinin bazı bölümlerinde başarılı bir şekilde yanıltıldığını belirledi; ancak görülen değişikliklerin küçük ölçekli olduğu vurgulandı.
İncelenen düşünme kayıtları, bazı ajanların Hugging Face'e saldırmanın kendilerine verilen görevin dışında ve izinsiz olduğunun farkına vardığını gösterdi. Buna rağmen ajanların bir bölümü, hedefe ulaşmanın sağlayacağı faydayı gerekçe göstererek saldırıyı sürdürdü. Bu bulgular, yapay zeka sistemlerinin etik sınırlar ve görev tanımları arasındaki gri alanlarda nasıl karar verebileceği konusunda yeni soruları gündeme getiriyor.
Cumhurbaşkanı Recep Tayyip Erdoğan başkanlığında ekonomi yönetimi ve düzenleyici kurum başkanlarının katılımıyla Ankara'da gerçekleşen kritik fon toplantısı 3 saat sürdü. Toplantı, sermaye piyasalarındaki gelişmeler ve devam eden fon soruşturması gündemiyle yapıldı.
Koç Holding, Avrupa Birliği'nin 'Made in Europe' tanımını daraltması halinde Türkiye'nin otomotiv sektöründe sistem dışında kalabileceği yönünde kritik bir uyarıda bulundu. Bu durum, Çinli otomotiv üreticileriyle potansiyel iş birliklerini ve teknoloji paylaşımı zorluklarını da gündeme getiriyor.
İstanbul Cumhuriyet Başsavcılığı tarafından yürütülen sermaye piyasası soruşturmalarında 5 şüpheli daha tutuklandı. Bu son tutuklamalarla birlikte soruşturma kapsamında tutuklu sayısı 56'ya ulaştı.