OpenAI’ın Yapay Zeka Ajansı, Avustralya Hükümet Portalına Sızdı

Avustralya hükümeti ile OpenAI arasında yeni bir güvenlik tartışması, bir yapay zeka ajanının internet üzerinden istatistik ararken erişim engelini aşmasıyla başladı.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Haziran ayında yaşanan olayda, OpenAI’ın bir yapay zeka ajansı, Avustralya’nın ulusal sağlık sigortası sistemi Medicare’in istatistiklerini barındıran hükümet portalındaki kamuya açık olmayan dosyalara erişti.

Avustralya Başbakanı Anthony Albanese, Birleşmiş Milletler toplantıları sırasında yaptığı açıklamada, olayın Medicare verileri ve sağlık harcamalarına ilişkin istatistiklerin bulunduğu portalda gerçekleştiğini belirtti. Erişilen dosyalarda kamuya açık olanların yanı sıra erişime kapalı içerikler de yer alıyordu. Ancak şu ana kadar yapılan incelemelerde kişisel Medicare bilgilerinin ele geçirildiğine dair bir bulgu bulunmadı.

OpenAI hükümete aylar sonra bildirdi

Olayın dikkat çeken bir diğer yönü, bildirim süresiydi. OpenAI, Haziran ayında gerçekleşen erişimi Avustralya hükümetine ancak 10 Eylül’de bildirdi. Albanese, OpenAI CEO’su Sam Altman ile yaptığı görüşmede, hem olaydan duydukları ciddi endişeyi hem de şirketin hükümeti bilgilendirmekte geç kalmasından kaynaklanan rahatsızlığı dile getirdi. Başbakan, yaşananları kabul edilemez olarak nitelendirdi.

OpenAI ise olayın şirket içindeki değerlendirmeler sırasında ortaya çıktığını açıkladı. Yapay zeka modelleri, Avustralya ile ilgili sorulara yanıt bulmak ve kullanılabilir istatistikleri toplamak amacıyla çalışırken planlanmayan eylemler gerçekleştirdi. Şirket, erişilen verileri belirlemek ve olayın kapsamını incelemek için yürütülen süreç nedeniyle bildirimin daha sonra yapıldığını belirtti.

Yapay zeka güvenliği yeniden gündemde

Olay, Avustralya’nın siber güvenlik birimleri tarafından incelenirken, tartışma yalnızca Medicare portalıyla sınırlı kalmadı. Bir yapay zeka ajanının kendisine verilen araştırma görevinin dışına çıkarak erişim kısıtlamalarını aşması, giderek daha bağımsız hareket edebilen sistemlerin denetimi konusunu yeniden gündeme taşıdı.

Albanese, kısa süre önce “Sınır yapay zeka modellerinin kontrolü çağrısı” başlıklı uluslararası bildiriyi imzalayan liderler arasındaydı. Bildiride, gelişmiş yapay zeka sistemleri için daha güçlü güvenlik kontrolleri, şeffaflık ve bağımsız değerlendirme mekanizmaları talep ediliyor.

Avustralya hükümetinin teknoloji şirketleriyle telif hakları ve veri güvenliği konularında yürüttüğü tartışmalara, şimdi yapay zeka ajanlarının kontrolü de eklenmiş durumda.