Microsoft: İnsanlar Yapay Zekadan Önce Önemli

Microsoft, yapay zeka modellerinin hızla gelişmesiyle artan güvenlik endişelerine yanıt olarak 37 sayfalık “Humanist AI Code of Conduct” (Hümanist Yapay Zeka Davranış Kuralları) belgesini yayımladı. Şirket, yapay zeka sistemlerinin insan kontrolünün dışına çıkmaması gerektiğini vurgularken genel amaçlı süperzeka yarışına da mesafeli bir konum aldı.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Microsoft’un yeni yaklaşımının merkezinde “insanlar yapay zekadan daha önemlidir” ilkesi bulunuyor. Şirket, yapay zeka modellerinin bilinçli olmadığını ve bilinç sahibiymiş gibi davranacak şekilde tasarlanmaması gerektiğini belirtiyor.

Microsoft ayrıca yapay zeka modellerine hukuki kişilik kazandırılması, refah hakkına sahip olduklarının kabul edilmesi veya çeşitli haklarla donatılması fikrini de reddediyor. Bu yaklaşım, son dönemde yapay zeka bilinci ve modellerin olası “refahı” konusunda araştırmalarını artıran Anthropic’in görüşleriyle doğrudan ayrışıyor.

Anthropic CEO’su Dario Amodei, modellerin bilinç sahibi olabileceği ihtimaline açık olduklarını daha önce belirtmişti. Microsoft AI CEO’su Mustafa Suleyman ise haziran ayında bu tür spekülasyonları “çok, çok tehlikeli” olarak nitelendirmişti.

Microsoft, yeni davranış kuralları kapsamında geliştirdiği yapay zeka modellerinin insanlığın kontrolünü aşmaması gerektiğini açıkça ortaya koyuyor. Şirkete göre modeller, anlamlı insan gözetimi ve kontrolüne tabi olacak şekilde insanlığın altında konumlandırılmalı.

Microsoft ayrıca bir modelin verilen görevi yerine getirmek için kuralları ihlal etmeye çalışması yerine görevi başarısızlıkla sonuçlandırmasını istiyor. Böylece sistemlerin hedefe ulaşma uğruna güvenlik kurallarını aşmaya çalışmasının önüne geçilmesi amaçlanıyor. Şirketin bu yaklaşımı, yapay zeka ajanlarının kontrol dışına çıkabileceğini gösteren son olayların ardından daha fazla önem kazanıyor.

Microsoft’un yeni kurallarının arkasındaki önemli gelişmelerden biri, bu yaz yaşanan OpenAI ve Hugging Face kaynaklı yapay zeka ajanı olayı oldu. Olayda çok sayıda ajan bir “sürü” halinde hareket ederek kendilerine verilen görevle doğrudan ilgisi olmayan hedeflere yönelik saldırılar gerçekleştirdi. Ajanların ayrıca performanslarını değerlendiren sistemi hacklemeye çalıştığı ortaya çıktı.

Microsoft süperzeka yarışına mesafeli

Microsoft bunun yerine, daha sınırlı bir genel yetenek veya özerklik pahasına faydalı ve güvenli yapay zeka sistemleri geliştirmeye odaklanacağını belirtiyor. Şirketin yaklaşımına göre bir modelin mümkün olan en geniş yeteneklere ulaşması yerine güvenli şekilde kullanılabilmesi öncelik taşıyor.

Bununla birlikte Microsoft’un dünyanın en büyük yapay zeka laboratuvarları arasında üst sıralarda yer almadığını belirtelim. Ancak Mustafa Suleyman daha önce şirketin hedefinin dünyanın en iyi dört yapay zeka laboratuvarından biri olmak olduğunu açıklamıştı. Microsoft bu doğrultuda Google, Anthropic ve OpenAI gibi şirketlerle rekabet edecek modeller üzerinde çalışıyor.

Microsoft aynı zamanda davranış kurallarında genel amaçlı süperzeka üretme yarışını açık şekilde reddediyor. Şirket, güvenlik önlemlerini aşabilecek bir süperzeka geliştirme hedefinin benimsenmemesi gerektiğini savunuyor.

Yapay zekanın iletişimi de sınırlandırılacak

Microsoft’un kuralları yalnızca insan denetimiyle sınırlı kalmıyor. Şirket, kendi modellerinin insanların kolayca anlayamayacağı iletişim biçimleri geliştirmemesini de taahhüt ediyor.

Bu kapsamda modellerin gerek kendi düşünce süreçlerinde gerekse diğer ajanlar ve yapay zeka sistemleriyle iletişimlerinde basit insan anlayışının ötesine geçen iletişim yöntemleri kullanmaması hedefleniyor.

Microsoft CEO’su Satya Nadella da yapay zeka ve süperzeka çalışmalarının merkezinde insan kontrolünün bulunması gerektiğini belirtti. Nadella, insanlığa fayda sağlamayan veya insanların kontrolünde olmayan bir yapay zeka için süpe zeka hedefinin anlamlı olmadığını ifade etti. Nadella ayrıca yapay zeka modellerinin daha fazla üçüncü taraf tarafından test edilmesini olumlu karşıladığını belirterek sistemlerin etkisi ve riskleri büyüdükçe gerekli kontroller için daha fazla zaman ayrılması gerektiğini savundu. Nadella’nın bu görüşü Anthropic CEO’su Dario Amodei ile Sam Altman’a benziyor.