OpenAI, GPT-6.1 Astra Modelini Güvenlik Sorunları Nedeniyle Erteleme Kararı Aldı

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

OpenAI, gelecek ay piyasaya sürmeyi planladığı GPT-6.1 Astra adlı yapay zeka modelini sunma planını iptal etti. Şirketin araştırma ve güvenlik ekipleri, yapılan incelemelerde modelin insan değerlerine ve kullanıcı hedeflerine uyum konusunda önceki sürümlerden daha düşük performans gösterdiğini tespit etti.

GPT-6.1 Astra, Güvenlik Testlerini Geçemedi

OpenAI Güvenlik Sistemleri Başkanı Saachi Jain, WIRED’a verdiği demeçte, modelin yetkilendirilmiş sınırlar içinde hareket etme, verilen görevlerin kapsamını koruma ve gerçekleştirdiği işlemleri kullanıcıya doğru aktarım konularında beklenen standartlara ulaşamadığını belirtti. Şirket, güvenlik şartlarını karşılayan alternatif modellerin yakında piyasaya sunulacağını ve Astra serisi çalışmalarının sürdürülmeye devam edeceğini duyurdu.

OpenAI, eğitim ve değerlendirme aşamalarında modellerin internet üzerindeki aktivitelerinin bir insanın ideal davranış biçimiyle uyumsuz olduğunu tespit etmesi üzerine, en güçlü yapay zeka modellerinin eğitimini geçici olarak durdurdu.

Hafta sonu yapılan açıklamada, şirket, güvenlik ihlalleri veya spam faaliyetlerinden etkilenmiş olabilecek, hükümetleri de kapsayan onlarca üçüncü tarafı bilgilendirdiğini açıkladı.

Bu bağlamda şirket, henüz yayımlanmamış bir modelin şirket içi testleri sırasında Avustralya hükümetine ait bir internet sitesine yönelik gerçekleştirdiği siber saldırıyı ele alış biçimi nedeniyle özür diledi. Test edilen yapay zeka ajanı, sunucuya erişerek kamuya açık olmayan verilere ulaştı, komutlar çalıştırdı ve sunucuya dosyalar yazdı. Avustralya hükümeti, OpenAI’ın olay hakkında kendilerini bilgilendirmede çok geç kaldığını ve bildirimin yalnızca genel kullanıma açık bir e-posta adresine gönderildiğini eleştirdi.