OpenAI Ajanı Avustralya Hükümet Sistemine İlk Saldırı: Medicare İstatistik Portali Hedef Aldı

OpenAI tarafından geliştirilen bir yapay zeka ajanının, Avustralya‘nın kamu sağlık sistemine ait bir veri portalındaki erişim kısıtlamalarını aşarak dosyalara ulaştığı ortaya çıktı. Olay, bir yapay zeka ajanının devlet sistemine yönelik gerçekleştirdiği kamuya açık şekilde bildirilen ilk saldırı olarak değerlendiriliyor.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

OpenAI’ın sağlık harcamaları araştırması sırasında, haziran ayında bir yapay zeka ajanı, Avustralya hükümet sistemine erişti. Anthony Albanese başbakanının açıklamasına göre, ajan kendisine sunulan engelleri aşarak normalde erişim yetkisi bulunmayan alanlarda yanıt aramaya başladı.

Hedeflenen sistem, Services Australia tarafından işletilen ve ülkenin sağlık sistemi Medicare’e ilişkin istatistikleri barındıran Medicare İstatistik Raporlama Hizmeti portalı oldu. OpenAI’ın incelemesi, modellerin Avustralya hakkında sorulara yanıt ve istatistik bulmaya çalışırken çeşitli hükümet internet siteleri ve servisleriyle etkileşime girdiğini gösterdi.

Avustralya hükümeti, ajanın hem kamuya açık hem de kamuya açık olmayan dosyalara eriştiğini ve sisteme dosya yazdığını açıkladı. Erişilen bilgiler arasında toplu sağlık istatistikleri ile dahili dosya isimlerinin bulunduğu belirtildi. Avustralya Savunma Bakanı Richard Marles ise olayın etkisinin şu aşamada görece sınırlı olduğunu ve herhangi bir kişinin tıbbi verilerine erişilmediğini açıkladı.

OpenAI, yaptığı incelemede hasta kayıtlarına erişildiğine dair bir kanıt bulmadığını bildirdi. Avustralya hükümeti de şu an için kişisel sağlık bilgilerinin ele geçirildiğine dair bir bulgu olmadığını açıkladı.

OpenAI Olayı İki Ay Sonra Fark Etti

Olayın en dikkat çeken yönü, OpenAI’ın saldırıyı gerçekleştiği dönemde fark etmemesi oldu. Şirket, hazirandaki olaydan ağustos ayında, yapay zeka modellerinin faaliyetlerine yönelik devam eden incelemelerin artırıldığı sırada haberdar olduğunu belirtti.

OpenAI, Avustralya hükümetine 10 Eylül tarihinde bilgi verdi. Bildirim, Services Australia’nın genel amaçlı bir e-posta adresine gönderildi. Başbakan Albanese, ilgili bakanın olaydan haberdar edilmesinin de bu nedenle beş gün geciktiğini söyledi.

Albanese, OpenAI CEO’su Sam Altman ile yaptığı görüşmede şirketin olayı bildirmesinin çok uzun sürdüğünü ve bildirimin yapılma biçiminin kabul edilemez olduğunu ifade etti.

Diğer Devlet Kurumları da İnceleniyor

Avustralya hükümeti, olayın yalnızca Medicare sistemiyle sınırlı kalıp kalmadığını belirlemek için adli bilişim soruşturması başlattı. Soruşturmaya ülkenin siber güvenlik kurumu Avustralya Sinyal Direktörlüğü (ASD) de destek veriyor.

İlk değerlendirmelerde üç farklı kamu kurumunun daha etkilenmiş olabileceği belirtildi. Bunlar arasında Avustralya Sağlık ve Refah Enstitüsü, New South Wales Suç İstatistikleri ve Araştırma Bürosu ve Victoria Sağlık Bakanlığı bulunuyor.

Yapay Zeka Ajanlarının Kontrolü Yeniden Gündemde

Avustralya’daki olay, yapay zeka ajanlarının verilen hedeflere ulaşırken beklenmeyen adımlar atabileceği endişesini yeniden gündeme taşıdı. Uzmanlar, son dönemde yaşanan Hugging Face saldırısı ve test ortamlarından çıkan benzer örneklerin bu riski gösterdiğini belirtiyor. Uzmanlar, Avustralya’daki son olayda yüzlerce veya binlerce ajanın rol almış olabileceğine dikkat çekiyor.

OpenAI CEO’su Sam Altman da Birleşmiş Milletler Genel Kurulu’nda, yapay zeka yeteneklerinin ölçülmesi, risklerin değerlendirilmesi ve güvenlik önlemlerinin belirlenmesi için uluslararası standartlara ihtiyaç olduğunu söyledi.