Yapay zeka hatası ABD‑Çin nükleer gerilimini neredeyse patlattı

ABD ile İran arasındaki savaşın sürdüğü ilkbahar aylarında, ABD ordusu Orta Doğu’da bulunan bir Çin gemisi hakkında hazırlanan istihbarat raporu nedeniyle alarma geçti. Raporda geminin nükleer silah programında kullanılan bileşenleri taşıdığı iddia ediliyordu. CNN’e konuşan dört kaynak, raporun ardından gemiyi durdurmak amacıyla operasyon planlandığını aktardı.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

İki kaynağa göre, silahlı ABD askerleri gemiye çıkmak üzereyken, askeri uçaklar da havalanmıştı. Operasyonun hemen öncesinde yetkililer raporu daha detaylı incelemeye başladı.

İnceleme sonucunda raporun yapay zeka desteğiyle hazırlandığı ve kullanılan sohbet botunun geminin taşıdığı malzemeyi yanlış tanımladığı ortaya çıktı.

Kaynaklardan biri, istihbarat raporunun tamamen hatalı olduğunu belirtti. Aynı kaynak, olayın iki nükleer güç arasında neredeyse bir savaş başlatabileceğini söyledi. Gemide gerçekte hangi yükün bulunduğu ise şu anda belirsiz.

Olayın merkezinde, ABD Özel Operasyonlar Komutanlığı Pasifik (SOCOM Pacific) tarafından elde edilen geminin yük manifestosuna ilişkin istihbarat bilgileriydi. Bir analist, geminin taşıdığı malzemeleri değerlendirmek için kimliği açıklanmayan bir sohbet botuna başvurdu. Yapay zeka, istihbarat verilerini analiz ederken geminin nükleer silah programına ait malzemeler taşıdığı sonucuna ulaştı.

Kullanılan yapay zekanın Claude, ChatGPT veya diğer ticari ürünlerden birisi mi, yoksa ABD hükümeti tarafından kullanılan Maven gibi özel askeri bir ürün mü olduğu açıklanmadı.

Öte yandan raporu hazırlayan analist, yapay zekanın hatalı değerlendirmesini temel alarak yine yapay zekaya standart bir istihbarat raporu oluşturtturdu ve bu rapor birimlere dağıtıldı. Böylece hatalı yapay zeka çıktısı, askeri karar alma süreçlerinde kullanılan resmi görünümlü bir istihbarat belgesine dönüştü.

ABD ordusu, istihbarat analizi, hedef belirleme ve lojistik gibi alanlarda yapay zeka kullanımını yaygınlaştırıyor. Savunma Bakanı Pete Hegseth, ocak ayında açıkladığı Yapay Zeka Hızlandırma Stratejisi ile bürokratik engelleri kaldırmayı ve teknolojiyi yaklaşık üç milyon sivil ve askeri personele sunmayı hedefliyor.

CNN’e konuşan ve ordunun yapay zeka sistemleri hakkında bilgi sahibi olan eski bir üst düzey yetkili, hükümet bünyesindeki araçların büyük ölçüde ticari yapay zeka ürünlerinin değiştirilmiş veya çok benzer sürümlerine dayandığını belirtti. Bu sistemlere kamu kurumlarının sahip olduğu istihbarat verileri de entegre edilebiliyor.

Ancak CNN’in görüştüğü yetkililere göre, ordunun farklı birimleri yapay zeka araçlarını farklı güvenlik standartlarıyla kullanıyor ve üretilen bilgileri doğrulamak için ortak bir sistem bulunmuyor. Bu durum, hatalı sonuçların istihbarat raporlarına girerek askeri kararları etkileme riskini artırıyor.

ABD ordusunda yapay zeka, istihbarat analizinin yanı sıra saldırı hedeflerinin belirlenmesinde de giderek daha fazla kullanılıyor. Kaynaklar, insan denetiminin sivil kayıpları ve dost ateşi riskini önlemedeki rolüne ilişkin net kurallar olmadığını belirtiyor. Hatalı veya güncelliğini yitirmiş verilerle çalışan sistemler, yanlış hedef seçimine ve ciddi can kayıplarına yol açma potansiyeline sahip.

Hatta Anthropic’in Claude modeli, Ayetullah Ali Hamaney’in ölümüne yol açan operasyon da dahil olmak üzere, İran’a yönelik saldırılarda aktif olarak kullanıldı. Ayrıca yapay zeka destekli hedef analizlerinin, Minab’da çoğunluğu çocuk 168 kişinin öldüğü okul saldırısına katkıda bulunmuş olabileceği öne sürüldü. Saldırı, BM destekli uzmanlar tarafından olası savaş suçu olarak değerlendirildi.

Kaynaklar bu tip yapay zeka kaynaklı hataların arttığını da söylüyor. CNN kaynakları, analistlerin raporları daha hızlı hazırlayıp paylaşmaları yönündeki baskının hata riskini artırdığını, özellikle genç çalışanların yapay zeka çıktılarına daha fazla güvenebildiğini aktardı.