Microsoft, yapay zeka modellerinin güvenli çalışması ve insan kontrolünde kalması için 'Hümanist Yapay Zeka Davranış Kuralları' taslağını kamuoyuna sundu. Bu kurallar, yapay zekanın silah üretimi veya tehlikeli içerik oluşturma gibi alanlarda kullanılmasını yasaklıyor.
Teknoloji devi Microsoft, yapay zeka (YZ) modellerinin gelecekteki davranışlarına yönelik önemli sınırlar getiren bir taslak yayımladı. 'Hümanist Yapay Zeka Davranış Kuralları' başlığıyla duyurulan bu taslak, YZ sistemlerinin güvenli bir şekilde çalışmasını ve sürekli olarak insan kontrolü altında kalmasını merkeze alıyor. Microsoft'un bu adımı, yapay zekanın insanlığa tabi kalmasını ve anlamlı bir gözetim altında faaliyet göstermesini sağlamayı hedefliyor.
Şirketin belirlediği temel sınırlar arasında, yapay zekanın yanıt vermemesi veya yardımcı olmaması gereken kritik alanlar bulunuyor. Gelecekteki YZ modellerinin silah üretimine ilişkin taleplere destek vermemesi kararlaştırıldı. Ayrıca, tehlikeli maddelerin temin edilmesini kolaylaştırmayacak ve şiddet içeren veya cinsel açıdan açık içerikler üretmeyecek şekilde tasarlanmaları öngörülüyor.
Yapay Zeka Hangi Alanlarda Sınırlandırıldı?
Microsoft'un yeni kurallar taslağı, yalnızca yapay zekanın insan kontrolünde kalmasını sağlamakla kalmıyor, aynı zamanda modellerin oluşturabileceği içeriklere ve verebileceği desteğe de net sınırlar getiriyor. Bu kapsamda, yapay zeka sistemlerinin insan yaşamını veya güvenliğini riske atabilecek her türlü faaliyetten uzak durması amaçlanıyor. Şirket, bu kurallarla etik ve sorumlu yapay zeka gelişimine öncülük etmeyi hedefliyor.
Kuralların Geleceği ve Uygulama Takvimi
Yayımlanan kurallar taslağı henüz nihai halini almadı. Microsoft, kamuoyundan altı hafta boyunca görüş alacak ve bu süreçte gelen değerlendirmeleri dikkate alarak taslağı yeniden ele alacak. Şirket, kuralları yıl sonunda revize etmeyi planlıyor. Nihai hale gelecek olan bu kurallar, 2027 yılından itibaren Microsoft'un geliştireceği tüm yapay zeka modellerine rehberlik edecek temel prensipleri oluşturacak.
Sektördeki Tartışmalar ve Microsoft'un Adımı
Microsoft'un bu dikkat çekici adımı, yapay zeka sektöründe güvenlik tartışmalarının yoğunlaştığı bir döneme denk geldi. Anthropic Üst Yöneticisi Dario Amodei ve OpenAI Üst Yöneticisi Sam Altman gibi sektör liderleri, yapay zeka güvenliğinin sağlanması amacıyla modellerin geliştirilme hızının kontrollü biçimde yavaşlatılması yönünde çağrılarda bulunmuştu. Microsoft'un yeni taslağı da bu çağrıların ardından kamuoyuna açıklandı ve 2027'den itibaren uygulanacak bu yaklaşım, gelecekteki yapay zeka modellerinin davranışlarını doğrudan şekillendirecek önemli bir adım olarak değerlendiriliyor.