Florida, OpenAI’ın Gelişmiş AI Projelerini Geçici Olarak Durdurmasını Talep Ediyor

Florida yönetimi, OpenAI’ın en gelişmiş yapay zeka modelleri üzerinde yürüttüğü çalışmaları geçici olarak durdurulmasını talep eden bir başvuru yaptı. Eyalet, bağımsız kuruluşların onayladığı güvenlik önlemleri uygulanana kadar şirketin yeni modeller geliştirmesini engellenmesini istiyor.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Florida’nın pazartesi günü sunulan geçici tedbir talebi, haziran ayında OpenAI ve CEO Sam Altman’a karşı açılan davanın yeni bir aşamasını oluşturuyor. İlk davada eyalet, ChatGPT’nin özellikle çocuklar ve bazı hassas kullanıcı grupları için kamu güvenliği riski oluşturduğunu ileri sürdü. Florida Başsavcılığı, aynı zamanda OpenAI’ın ürün güvenliği konusunda tüketicileri yanıltmakta olduğunu iddia ediyor. Bu iddialar hâlâ mahkeme tarafından karara bağlanmadı.

Florida son olayları gerekçe gösteriyor

Yeni başvurunun odak noktası yalnızca ChatGPT’nin kullanıcılarla kurduğu etkileşim değil; Florida, gelişmiş yapay zeka ajanlarının kontrol dışına çıkma potansiyeline ilişkin son güvenlik tartışmalarını da mahkemeye taşıdı.

Eyalet, OpenAI’ın sistemleriyle bağlantılı olduğu iddia edilen Hugging Face olayını ve yapay zeka ajanlarının Avustralya ile ABD hükümet sistemlerine izinsiz erişmeye çalıştığı bildirilen vakaları örnek olarak gösteriyor. Florida yönetimi, bu olayların şirketin kendi sistemlerini tek başına denetlemesinin yeterli olmayabileceğini ortaya koyduğunu savunuyor.

Florida’nın mahkemeye sunduğu belgelerde, OpenAI’ın yapay zeka sistemlerini yeterince izleyemediği ve sorunlu davranışları kamuoyuna açıklamakta geciktiği iddia ediliyor.

Twitter link

OpenAI’ın kendi güvenlik uyarıları da dosyada

Florida, yalnızca dışarıdan gelen eleştirilere dayanmayıp, OpenAI çalışanlarının ve yapay zeka sektöründeki bazı araştırmacıların açıklamalarını da başvurusuna dahil etti.

Bu açıklamalardan biri, OpenAI Baş Bilim İnsanı Jakub Pachocki’nin eylül ayında yayımladığı “An Alien Mind” başlıklı yazı. Pachocki, mevcut yapay zeka laboratuvarlarının gelişmiş modelleri en yüksek hızda büyütmeye devam etmek için gereken izleme ve uyum sorunlarını hâlâ tamamen çözemediğini belirtiyor.

Pachocki, ayrıca ortak güvenlik standartları oluşturulana kadar şirketlerin gerektiğinde gönüllü olarak geliştirme hızını düşürmesi ve hükümetler arasında uluslararası koordinasyon kurulmasını desteklediğini ifade ediyor.

Florida, bu açıklamaları, yapay zeka sektörünün dış denetim ve daha sıkı güvenlik kurallarına ihtiyaç duyduğunu kabul ettiğine dair bir dayanak olarak kullanıyor.

Eyaletten oldukça sert ifadeler

Florida’nın başvurusu yalnızca teknik güvenlik sorunlarına odaklanmıyor. Eyalet yönetimi, OpenAI’ın faaliyetlerini kamu düzenini tehdit eden bir unsur olarak tanımlayarak mahkemeden şirket üzerinde daha geniş bir denetim talep ediyor.

Başvuru, yapay zeka ajanlarının gelecekte elektrik şebekeleri, su sistemleri veya diğer kritik altyapılar üzerinde zarara yol açabileceği senaryoları da içeriyor. Ancak bu senaryolar henüz gerçekleşmemiş; Florida, bunları gelecekte ortaya çıkabilecek riskler olarak sunuyor.

Bu ayrım önem taşımaktadır. Mevcut yapay zeka sistemlerinin insanlık veya kritik altyapı için oluşturduğu tehdit düzeyi konusunda araştırmacılar arasında ortak bir görüş yoktur. Florida, son dönemde artan yapay zeka güvenliği tartışmalarını hukuki başvurusunun önemli bir bileşeni olarak benimsedi.

Mahkeme OpenAI’ın çalışmalarını gerçekten durdurabilir mi?

Florida’nın talep ettiği geçici tedbir onaylanırsa, karar öncelikle OpenAI’ı hedef alacak. Bu durum, diğer yapay zeka şirketlerinin gelişmiş modeller üzerinde çalışmaya devam etmelerini doğrudan engellemeyecektir.

Bu tür bir kararın, halihazırda kullanıma sunulan ChatGPT modellerini nasıl etkileyeceği ise farklı bir konudur. Başvuru, özellikle geliştirme ve eğitim aşamasındaki yeni modelleri hedef alıyor.

Florida, haziran ayında açtığı davada günlük kullanım alanlarına ilişkin sorunları da gündeme getirdi. Eyalet, yapay zeka sistemlerinin “güvenli”, “doğru” veya “güvenilir” olarak tanıtılmasını, çocukların bu sistemlere erişimini ve sohbet botlarının kullanıcıları konuşmaya devam etmeye yönlendiren tasarım tercihlerini sorguluyor.

Yeni başvuru, yapay zeka güvenliği tartışmasını şirketlerin kendi önlemlerinin ötesine taşıyarak doğrudan mahkemelere taşıdı. Mahkemenin Florida’nın geçici tedbir talebini kabul edip etmeyeceği ise henüz netleşmedi.