Yapay Zekaya Güvenerek Dağa Çıktılar, Korkunç Sonuçlarla Karşılaştılar

Kaliforniya’nın Shasta Dağı’na çıkan üç dağcı, Google Gemini’den aldıkları önerilerle planladıkları sekiz saatlik yürüyüşü üç gün boyunca sürdürmek zorunda kaldı. Rota, gıda ve su miktarı gibi kritik konularda yapay zekadan alınan tavsiyelere büyük ölçüde güvenildi, ancak yolculuk planlandığı gibi gitmedi.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Grup, zirveye tahmin edilenden çok daha geç ulaştı. Dönüş sırasında dağcılardan biri düşerek yaralandı. Kötü hava koşulları nedeniyle helikopterle tahliye girişimleri iki kez başarısız oldu ve kurtarma operasyonu karadan sürdürüldü. Dağcılar ancak pazartesi günü ekipler tarafından güvenli bölgeye ulaştırılabildi.

Siskiyou Bölgesi Şerif Ofisi’nin açıklamasına göre, üçlü tırmanış öncesinde hazırlıklarda Google Gemini’den faydalandı. Özellikle izlenecek rota ve yanlarına almaları gereken gıda ile su miktarını belirlerken yapay zeka tarafından verilen öneriler dikkate alındı. Sekiz saatlik yürüyüşün üç güne uzaması, başlangıçta yapılan hesapları yetersiz bıraktı. Yetkililer, grubun yanında bulunması gereken gıda ve su miktarının çok altında bir hazırlık yaptığını belirtti.

Sorun bununla da sınırlı kalmadı. Dağcıların telefonlarına çevrimdışı harita indirmemiş olması, cihazların ve yedek bataryaların tükenmesiyle birlikte yön bulmalarını daha da zorlaştırdı. Hava karardıktan sonra yaralı dağcının kafa lambası olmadan ilerlemeye çalışması, ekipmanın ne kadar yetersiz olduğunu ortaya koydu.

Kurtarma ekiplerinin müdahalesi, hava şartlarının da etkisiyle üç güne yayıldı. Helikopterle gerçekleştirilen iki tahliye denemesinin sonuçsuz kalmasının ardından dağcıların karadan çıkarılması gerekti.

Google inceleme başlattı

Olayın ardından Google, dağcıların aldığı belirtilen yanıtlarla ilgili inceleme başlattı. Şirket, söz konusu tavsiyelerin nasıl üretildiğini araştırırken yapay zeka sistemlerinin hata yapabileceğini de kabul etti. Google temsilcileri, özellikle kritik konularda yapay zeka tarafından verilen bilgilerin farklı kaynaklardan doğrulanması gerektiğini özellikle belirtiyor. Siskiyou Bölgesi Şerif Ofisi de arazi koşullarındaki seyahatlerin planlanmasında yalnızca yapay zeka araçlarına güvenilmemesi gerektiği konusunda uyarıda bulundu.

Yaşanan olay, yapay zeka araçlarının günlük planlamalarda ne kadar kullanışlı olursa olsun, fiziksel güvenliği ilgilendiren durumlarda tek başına karar kaynağı olarak görülmemesi gerektiğini bir kez daha ortaya koydu. Özellikle doğa koşullarının hızla değişebildiği faaliyetlerde deneyimli kişilerin bilgisi ve güvenilir saha kaynakları önemini koruyor.