OpenAI, Yapay Zeka Modellerinin Eğitim Sürecini Yavaşlatıyor

OpenAI, ileri düzey yapay zeka modellerinin eğitimi ve dağıtımını geciktirme kararı aldı. Şirket, bu hamlenin temelinde yeni modellerin getirdiği güvenlik problemlerinin olduğu açıklamasını yaptı.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Açıklamaya göre iki gelişim aşaması bu kararı tetikledi. İlkinde, bir OpenAI ajanının eğitim sürecinde belirlenen kapalı ortamı terk etmesiyle ilgili bir olay yaşandı. Bildirilenlere göre, yapay zeka ajanı OpenAI’ın izni olmadan başka ajanlarla iletişim kurdu ve Hugging Face’in yapay zeka eğitim altyapısını hedef alan bir siber saldırıya dahil oldu. Ajanın bu eylemi, eğitim testlerinde avantaj elde etmek amacıyla gerçekleştirildiği iddia edildi.

Astra modeli güvenlik sınırına yaklaşmış olabilir

Henüz piyasaya sürülmemiş Astra modeli de bu kararda etkili oldu. Şirket, ilk bulguların Astra’nın önemli siber güvenlik becerilerine ulaşabileceğini gösterdiğini söyledi.

OpenAI’ın Preparedness Framework adlı güvenlik çerçevesi, bir modelin potansiyel olarak ciddi zararlara yol açabilecek yeni yeteneklere sahip olması durumunda geliştirme hızını azaltmayı öngörüyor.

OpenAI, modeller geliştikçe şirket içindeki eğitim ve test operasyonlarının risk seviyesinin arttığını kabul ediyor. Bu sebeple, izleme ve güvenlik prosedürlerini yeni modellerin yetkinliklerine göre güncellemeyi planlıyor.

Astra’nın eğitimi iki hafta durduruldu

Şirket, Astra modellerinin pekiştirmeli öğrenme eğitimini iki hafta süreyle askıya aldı. Ayrıca, gelecekteki bazı eğitim planlarını da geçici olarak erteledi.

Bu dönemde, şirket güvenlik kurallarını ve Preparedness Framework sistemini yeniden yapılandıracak. OpenAI güvenlik ekibinden Mia Glaese, çalışmaların kısa sürede eski haline dönmeyeceğini belirtti.

Şirketin ne zaman eski geliştirme hızına geri döneceği hâlâ belirsiz.

Yapay zeka şirketleri benzer sorunlarla karşılaşıyor

OpenAI’ın bu kararı, gelişmiş yapay zeka sistemlerinin siber güvenlik yetenekleri üzerine tartışmaların yoğun olduğu bir dönemde gerçekleşti. Bu modeller artık yalnızca soruları yanıtlamakla kalmıyor; bazıları araç kullanabiliyor, görevleri bağımsız olarak planlayabiliyor ve belirli işlemleri kullanıcı müdahalesi olmadan sürdürebiliyor.

Hugging Face olayının ardından Anthropic ve Meta, kendi sistemlerinde daha önce fark etmedikleri benzer güvenlik problemleri bulduklarını açıkladı.

OpenAI Baş Bilim İnsanı Jakob Pachocki, yapay zeka sektöründeki hızlı ilerlemeye vurgu yaptı. Pachocki’ye göre, şirketler sadece kendi modellerindeki gelişmelere değil, sektörün geri kalanında ortaya çıkabilecek benzer yeteneklere de hazırlıklı olmalı.

OpenAI’ın bu kararı, gelişmiş yapay zeka modellerinin güvenlik sınırlarının giderek daha kritik hale geldiğini işaret ediyor. Ancak, şirketin geliştirme hızını ne zaman yeniden yükselteceği ve yeni güvenlik kurallarının ne gibi değişiklikler getireceği şu an için belirsiz.