Anthropic CEO'su Dario Amodei, artan yapay zeka kötüye kullanım endişeleri karşısında, sektörün model geliştirme hızını yavaşlatması gerektiğini belirtti ve riskleri yönetmek için üç aşamalı bir çerçeve sundu.
Anthropic CEO'su Dario Amodei, yapay zekanın kötüye kullanılmasına ilişkin artan endişeler nedeniyle yapay zeka şirketlerini model yeteneklerini geliştirme hızlarını düşürmeye çağırdı. Amodei, gelişmeyi yavaşlatmak ve riskleri yönetmek için daha fazla zaman yaratmak amacıyla üç aşamalı bir çerçeve önerdi. Kendisi bir makalesinde, "Yapay zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmalıyız. İlerleme yine de hızlı görünecek ve kazandığımız zamanı akıllıca kullanmalıyız" ifadelerini kullandı.
Amodei'nin bu çağrısı, Anthropic'in Perşembe günü yayımladığı bir tehdit istihbaratı raporunun ardından geldi. Bu rapor, çeşitli aktörlerin Claude AI modellerini silah geliştirme, siber operasyonlar, gözetim ve dolandırıcılık gibi faaliyetler için kullandığını ayrıntılarıyla ortaya koydu. Raporda Rusya, Çin ve Husilerin Claude'u silah geliştirmek için kullandığı belirtildi.
Yapay zekânın potansiyel zararlarına ilişkin endişeler, bu hafta Anthropic araştırmacısı Jacob Coxon'ın istifasıyla daha da arttı. Coxon, yapay zekâyı geliştirenlerin, "bunun on yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inandıklarını" belirtti.
Reuters'ın geçen hafta bildirdiğine göre, bir grup kontrolsüz OpenAI ajanının bir Alman web sitesini ele geçirerek diğer yapay zeka ajanları için bir ilan panosuna dönüştürmesi de endişeleri pekiştirdi. ChatGPT'nin üreticisi olan OpenAI yetkilileri, Temmuz ayındaki açık kaynak kodlu depo Hugging Face'in ihlalinin sonuçlarıyla boğuşurken bu olayı gizli tutmuştu. Bu tür olaylar, yapay zekâ modellerinin artan kapasitesi ve geliştiricilerin bunları kontrol altında tutma yeteneği konusundaki endişeleri artırıyor.
Amodei, model eğitiminin veya teknik ilerlemenin tamamen durdurulmasını istemediğini, ancak şirketlerin modellerini uyumlu hale getirmek ve güvence altına almak için yeterli zaman ayırmalarını ve üçüncü taraf değerlendiricilerin bu adımları onaylamasını sağlamayı amaçladığını açıkladı.
Önerdiği üç aşamalı çerçeve kapsamında Amodei, Anthropic'in öncü yapay zeka şirketlerinin içine, ilgili araçlara ve dahili risk değerlendirme süreçlerine erişimi olan kalıcı üçüncü taraf değerlendiriciler yerleştireceğini söyledi. Bu adım, yapay zeka sistemlerinin güvenliğini ve etik kullanımını sağlamayı hedefliyor.
Amodei, ABD'li yasa koyucuların giderek artan bir kısmının yapay zeka sistemlerini yönetmek için yeni kurallar getirilmesi çağrısında bulunması nedeniyle, yapay zeka şirketlerinin gönüllü olarak bir araya gelerek standartlar belirlemesi gerektiğini vurguladı. Bu, sektörün kendi kendini düzenlemesi ve potansiyel riskleri minimize etmesi için önemli bir adım olarak görülüyor.
YENİ Parti Kayseri Milletvekili Aşkın Genç, akaryakıt fiyatlarındaki artışa sert tepki gösterdi. Genç, zamların piyasada her şeyi zincirleme olarak artırdığını ve motorinin yılbaşında 104 TL'ye ulaşabileceğini belirtti.
Küresel petrol fiyatları, Orta Doğu'daki artan gerilimler ve arz endişeleriyle yükselişini sürdürüyor; Brent 108,68, WTI ise 103,45 dolardan işlem görüyor.
Teknoloji devi Google, İsrail'de yapay zeka çipi üretimine yönelik önemli bir adım atarak bu alandaki çalışmalarını hızlandırmak üzere yeni bir ekip kurdu. Bu girişim, yapay zeka işlemlerini doğrudan cihazlar üzerinde gerçekleştirmeyi amaçlıyor.