Yapay Zeka Can Alıyor: Rusya’nın Tragi İHA Saldırısı

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Ukrayna’nın Zaporijya kentinde 6 Temmuz’da gerçekleşen Rus İHA saldırısı, yapay zekanın insan kontrolünden ne kadar bağımsız hareket edebileceği konusundaki endişeleri yeniden gündeme getirdi. Tamamen yapay zeka tarafından yönlendirilen ve hedefini kendi belirleyen İHA, üç sivilin ölümüne yol açtı.

Yapay zeka hedefi kendi seçti

6 Temmuz’da küçük, model uçağa benzeyen bir Rus İHA’sı bir benzin istasyonuna yöneldi. İHA, istasyona ulaşmaya çalışırken yakındaki bir binanın çevresinden geçemedi ve duvara çarparak patladı. Üç sivil hayatını kaybetti.

Ukraynalı askeri yetkililer, İHA uzmanları ve enkazı inceleyen adli ekiplerin değerlendirmelerine göre, İHA deneysel bir yapay zeka sistemiyle otonom olarak yönlendiriliyordu.

Sistemin çalışma şekli, önceki İHA’lardan önemli ölçüde farklıydı. İnsan operatörler İHA’ya belirli bir bölgeye, yani benzin istasyonuna doğru ilerlemesi için talimat verdi. Ancak İHA hedef bölgeye yaklaştığında vuracağı kesin noktayı kendisi belirledi. Uzmanlar, sistemin eğitiminde tanımlanan nesneler arasında propan tüplerini hedef almış olabileceğini düşünüyor.

Enkazda Nvidia çipi bulundu

Saldırıdan ve diğer olaylardan geriye kalan İHA parçalarının incelenmesi, sistemin içinde Nvidia tarafından üretilen Jetson Orin mini bilgisayar modüllerinin bulunduğunu ortaya çıkardı.

Ukrayna hava savunma yetkilileri, İHA’larda anten bulunmamasının yanı sıra Nvidia modüllerinin tespit edilmesinin sistemlerin otonom yapay zeka kullandığı yönündeki şüpheleri güçlendirdiğini belirtti. Daha sonraki incelemeler de bu değerlendirmeyi destekledi.

Nvidia, incelenen parçaların Jetson Orin bilgisayarı olduğunu doğruladı. Birkaç yüz dolara satılan bu modüller, çeşitli Rus silahlarında da bulundu. Nvidia bu ürünü Rusya’da doğrudan satmıyor ancak bilgisayarın farklı ülkelerdeki satıcılar üzerinden temin edilebildiği belirtiliyor.

İHA neyi hedefleyeceğini görüntülerden öğrendi

Ukraynalı yetkililer, saldırıda kullanılan Nvidia modülünün şifrelenmemiş olduğunu ve bu sayede bilgisayara yüklenen arazi görüntülerini inceleyebildiklerini söyledi. Bu görüntüler, İHA’nın görsel işaretleri takip ederek rotasını koruyabildiğini ortaya koydu.

Yetkililer ayrıca sistemdeki kodları da inceledi. Kodlar, İHA’nın hangi nesneleri tanıyacak ve saldıracak şekilde eğitildiğine ilişkin bilgiler içeriyordu. Bunlar arasında propan tüpleri gibi belirli hedefler bulunuyordu.

Yapay zeka sistemleri, binlerce görüntü üzerinden belirli nesne kategorilerini tanımayı öğrenebiliyor. Kamerasından gelen görüntüleri analiz eden İHA, eğitim sırasında öğrendiği nesneleri arayarak hedef seçebiliyor.

Bu teknoloji, geleneksel yazılımlardan farklı çalışıyor. Klasik yazılımda bilgisayarın izleyeceği kurallar insanlar tarafından adım adım belirlenirken makine öğrenimi sistemleri büyük miktardaki veriden örüntüler çıkararak kendi karar kurallarını oluşturuyor. Bu, daha önce karşılaşılmamış senaryolara cevap verilebilmesini sağlıyor. Bununla birlikte sistemin her koşulda nasıl davranacağını önceden kesin olarak bilmek de mümkün olmuyor.

İnsan kontrolü devreden çıkıyor

Rusya ve Ukrayna, tamamen otonom sistemlerden önce de İHA’larda yapay zekadan yararlanıyordu. Her iki tarafın bu İHA’ları kullanarak çok sayıda sivil ve askeri zafer elde etti. Bu sistemlerde yapay zeka genellikle saldırının “son aşamasında” kullanılıyordu. Hedef ise uzaktaki insan operatör tarafından belirleniyordu.

Yeni sistemlerde ise bu son karar da yapay zekaya bırakılıyor. Böylece İHA’nın hedefi belirlemesi için saldırının son aşamasında insan operatöre ihtiyaç kalmıyor.

Bu durum, yapay zekanın savaşta kullanımına ilişkin tartışmaları gündeme getiriyor. Uluslararası insan hakları kuruluşları, insan müdahalesi olmadan çalışan silah sistemlerine karşı çıkıyor. Eleştirilerin temelinde, yapay zekanın sivillerle savaşanları ayırt edememesi veya uluslararası savaş hukukuna uygun olmayan kararlar verebilmesi bulunuyor.

Buna karşılık bazı uzmanlar, yapay zekanın silah sistemlerini daha güvenli hale getirebileceğini savunuyor. Bu görüşe göre hedefi görerek saldırıdan önce karar verebilen bir sistem, hedefi görmeden ilerleyen güdümsüz bombalara veya klasik top mermilerine kıyasla daha kontrollü olabilir.

Bu alandaki görüşler, savaşın hangi tarafında ve üretimin hangi aşamasında olduğunuza göre değişiyor.

Rusya otonom İHA’ları test ediyor

Ukraynalı hava savunma uzmanlarına göre Rusya, yapay zeka destekli İHA’larını farklı modeller üzerinde test ediyor. Sabit kanatlı Molniya İHA’larının yapay zeka yönlendirmesiyle yapılan testleri Mayıs ayında başladı. V2U adı verilen başka bir sabit kanatlı İHA’da ise otonom hedef belirleme sistemleri test edildi.

Zaporijya’daki ölümcül saldırıda kullanılan İHA’nın yaklaşık altı araçtan oluşan bir grubun parçası olduğu bildirildi. Bölgesel askeri yönetim, kent hava savunma komutanlığı ve o sırada görev yapan hava savunma ekibine göre İHA’ların hiçbiri radyo sinyali yaymıyordu. Dronların dalgalar halinde fırlatılması da Rusya’nın otonom yapay zeka testlerinde görülen özelliklerle örtüşüyordu.

Ukrayna da benzer teknolojiyi deniyor

Otonom hedefleme teknolojisini yalnızca Rusya test etmiyor. Eski Ukrayna Savunma Bakanı Mykhailo Fedorov, Ukrayna’nın son aylarda Rus işgali altındaki Kırım’da tamamen otonom yapay zeka sistemi denediğini açıkladı.

Fedorov’a göre bu sistemler yakıt depolarını ve askeri ekipmanları hedef aldı. Testlerde herhangi bir sivilin hayatını kaybetmediği belirtildi.

Zaporijya’daki saldırı ise Rusya’nın otonom yapay zeka kullanan bir İHA ile sivilleri öldürdüğü ilk belgelenmiş olay olarak değerlendiriliyor.

Cephe hattına yaklaşık 14,5 kilometre uzaklıktaki Zaporijya’da otonom İHA tehdidine karşı farklı savunma yöntemleri uygulanıyor. İnsanlar tarafından kontrol edilen önleyici İHA’lar aktif olarak kullanılıyor. Ayrıca kent ve çevresindeki yolların yaklaşık 386 kilometrelik bölümünde İHA önleme ağları bulunuyor.

Yapay zeka sistemlerini yanıltmak için kamuflaj da kullanılıyor. Benzin istasyonlarındaki propan tüplerinin çevresine farklı açılarla yerleştirilen plastik örtüler, görüntü tanıma sistemlerinin bu hedefleri doğru şekilde tespit etmesini zorlaştırmayı amaçlıyor.