Yapay Zeka Hedeflemenin İnsan Gözüne İhtiyacı Var

ABD-İsrail'in İran'a karşı savaşında, İran'daki bir ilkokula düzenlenen hava saldırılarında çoğu çocuk olmak üzere en az 175 kişi öldü. göre Pentagon'un ön raporuABD sorumludur. Bu, ABD kuvvetlerinin yanlışlıkla tamamen sivil bir hedefi vurup masumları öldürdüğü ilk olay değil. Ancak önceki savaşlardaki hatalı sivil cinayetlerinden farklı olarak bu seferki yapay zekayla ilgili olabilir; bu da neyin yanlış gittiğinin anlaşılmasını çok daha zorlaştırıyor.

Terörle mücadelenin en kötü olaylarından birinde bir drone saldırısı gerçekleşti. 2013'te Yemen'de düğün alayıen az 12 kişinin ölümüne yol açtı. Bir diğerinde ise saldırı sırasında bir grev gerçekleşti. 2021'de Afganistan'dan çekilme Çoğu çocuk 10 sivili öldürdü. Daha sonraki analizler, drone operatörlerinin askeri hedeflere ateş ettiklerine inandıkları sonucuna vardı.

ABD-İsrail'in İran'a karşı savaşında, İran'daki bir ilkokula düzenlenen hava saldırılarında çoğu çocuk olmak üzere en az 175 kişi öldü. göre Pentagon'un ön raporuABD sorumludur. Bu, ABD kuvvetlerinin yanlışlıkla tamamen sivil bir hedefi vurup masumları öldürdüğü ilk olay değil. Ancak önceki savaşlardaki hatalı sivil cinayetlerinden farklı olarak bu seferki yapay zekayla ilgili olabilir; bu da neyin yanlış gittiğinin anlaşılmasını çok daha zorlaştırıyor.

Terörle mücadelenin en kötü olaylarından birinde bir drone saldırısı gerçekleşti. 2013'te Yemen'de düğün alayıen az 12 kişinin ölümüne yol açtı. Bir diğerinde ise saldırı sırasında bir grev gerçekleşti. 2021'de Afganistan'dan çekilme Çoğu çocuk 10 sivili öldürdü. Daha sonraki analizler, drone operatörlerinin askeri hedeflere ateş ettiklerine inandıkları sonucuna vardı.

Bu saldırılar gibi İran'daki okulun bombalanması da muhtemelen bir hataydı. Füzeler isabetli ve rotadan saptıklarına dair hiçbir belirti yok ancak bu, ABD'nin askeri değeri olmayan bir hedefi vurmaya başladığı anlamına gelmiyor. Masumların yüksek profilli cinayetleri savaş çabalarına verilen desteği azaltabileceğinden, hiçbir stratejik kazanç ve önemli bir stratejik risk söz konusu değildir. ABD güçleri hedeflediklerini vurdu ancak muhtemelen sivilleri hedef aldıklarını düşünmüyorlardı.

Bu sefer Yapay zeka bir rol oynamış olabilirbelki de eski bilgilere dayanarak. Okul, İran donanma tesislerinin bitişiğindeydi ve bir zamanlar onların bir parçasıydı. Claude veya ChatGPT gibi büyük bir dil modeli, eski bilgileri daha yüksek bir hacimde tüketerek ve ona daha güncel bilgilerden daha fazla ağırlık vererek veya belki de bir okul tabelası veya oynayan çocuklar gibi bir insanın yakalayabileceği bir şeyi fark edemeyerek bu tür bir hata yapabilir.

Cevap ne olursa olsun bilemeyeceğiz. Yapay zeka sistemleri büyük ölçüde bir kara kutudur. Bu modelleri oluşturan ve sürdüren insanlar bile neden belirli bir anda belirli bir yanıt ürettiklerini bilmiyorlar. Bunun aksine, insanlar hedefleri seçtiğinde ordu hataları gözden geçirebilir, nedenini anlayabilir, sorumluluğu belirleyebilir ve eğitim veya prosedürleri iyileştirebilir.

Hatalı hava saldırılarında insan hataları genellikle doğrulama yanlılığını içerir. Afganistan'da, IŞİD'in Horasan Eyaleti'nde Kabil'in uluslararası havaalanına düzenlenen intihar saldırısında 13'ü ABD personeli olmak üzere 182 kişi öldükten sonra ABD yüksek alarma geçti. Drone operatörleri şüpheli olduğunu düşündükleri bir aktiviteyi tespit etti, bir arabayı saatlerce takip etti, ardından bir adamın durup konteynerleri yüklediğini gördü. Yanlışlıkla bunun bir araba bombası için benzin olduğunu, yani su olduğunu düşünerek bombayı fırlatmaya karar verdiler.

Bunu biliyoruz çünkü müfettişler operatörlerle görüştü, ancak yapay zeka sivil bir hedef seçerse bunun nedenini açıklayamaz. Bir insan kullanıcı sorabilir ve sistem yanıt verecektir, ancak yanıt, altta yatan hesabın güvenilir bir açıklaması değil, bu tür bir soruya makul bir yanıt gibi görünen bir kelime koleksiyonu olacaktır. Büyük dil modelleri, sonuçta, geçmiş cevapların birleşimine dayalı olarak bir insanın genel olarak ne söyleyeceğini belirlemek için devam eden bir makine öğrenme süreciyle ilgilenen, temelde güçlendirilmiş otomatik tamamlama olan kelime tahmin motorlarıdır. Bu nedenle, bir insan drone operatöründen farklı olarak makine, "Bu kapların bir arabaya bomba koymak için yakıt tuttuğunu sanıyordum" veya "üstüm bana en kötüsünü varsaymam için baskı yaptı" veya "Yıllar öncesinden kalma bu belgeye güvenmiştim" şeklinde dürüstçe cevap veremez.

Halk yapay zekanın İran okulunu seçip seçmediğini bilmiyor ancak ABD ordusunun yapay zeka destekli bir sistem kullandığını biliyoruz. Maven hedeflerin belirlenmesine yardımcı olmak için İran'da. Benzer şekilde İsrail ordusu da şu adı taşıyan bir sistem kullandı: Lavanta Gazze'deki hedefleri belirleyecek. Her iki savaşta da rekor düzeyde hassas vuruş oranı önceki hava kampanyalarıyla karşılaştırıldığında.

Bu hız, hedef seçmeye yardımcı olmak için yapay zekayı kullanmalarının ve olası hatalara rağmen bunu yapmaya devam etmelerinin nedenidir. Yapay zekanın hem abartı hem de eleştirilerinin çoğu, yapay zekanın insanların zaten iyi yaptığı bir şeyi yaparak işlerin yerini nasıl alabileceğine odaklanıyor. Buna karşılık Maven ve Lavender insan kapasitesinin ötesinde bir şey yapıyorlar: birçok bilgi akışını hızla sentezliyorlar.

Bunu 2018 kitabımda öngörmüştüm, Drone'lar ve Terörizm (ve ilk kez yaptım 2013 yılında yazılı olarak). ABD, Afganistan'da ve özellikle Irak'ta çok büyük miktarda bilgi topladı ancak bunu verimli bir şekilde kullanamadı. Örneğin, insansız hava aracına monte edilen kameralar, potansiyel isyancıların yerlerinin daha fazla görsel olarak gözetlenmesine olanak sağladı, ancak çoğu zaman hiçbir şey olmadı. O zamanki ABD Genelkurmay Başkan Yardımcısı Orgeneral James E. Cartwright, 2011'de bundan yakınıyordu "bir analist orada oturuyor ve saatlerce Death TV'ye bakıyor, tek hedefi bulmaya ya da bir şeyin hareket ettiğini görmeye çalışıyor. Bu sadece insan gücü kaybı."

Bilgi işleme böyle bir darboğaz olmasaydı, uyduların, insansız hava araçlarının, yere konuşlu araçların ve siber gözetlemenin, savaş alanının sürekli güncellenen, gerçek zamanlı anlaşılması için yeterli veri toplayabileceğini, askeri komutanların savaş sisini ortadan kaldırma hayaline daha da yaklaşabilecek bir şey olabileceğini savundum. On yıldan fazla bir süre önce, sinir ağları yoluyla makine öğrenimindeki gelişmelerin, nesne ve yüz tanıma, video analizi ve 3 boyutlu haritalamadaki ilgili gelişmelerle birlikte, çok da uzak olmayan bir gelecekte gerçek olanı makul hale getirdiğini yazmıştım.

O gelecek burada. Sistemler hâlâ savaş alanını mükemmel bir şekilde anlama konusunda yetersiz, ancak ordunun her zamankinden daha hızlı bir şekilde daha fazla bilgi işlemesini, daha fazla insanı takip etmesini ve daha fazla hedefi belirlemesini sağlıyor. Ve zamanla gelişecekler. Saldırıya uğramış trafik kameralarından, ele geçirilen iletişimlerden, hava gözetiminden ve daha fazlasından elde edilen verileri kullanma, Yapay zeka yerinin belirlenmesine yardımcı oldu ABD güçlerinin İran'a yönelik ilk saldırı dalgasında öldürdüğü Dini Lider Ayetullah Ali Hamaney.

Ancak sistemler, özellikle hesap verme sorumluluğu söz konusu olduğunda tehlikeli derecede kusurlu olmaya devam ediyor. Kötü girdiler (yeniden kullanılan binalar hakkındaki güncel olmayan bilgiler gibi), hatalı bilgiler ne kadar verimli bir şekilde işlenirse işlensin, genellikle kötü sonuçlara yol açar. Yapay zeka bilgiyi halüsinasyona uğratabilir ve bunu neden yaptığını anlayamaz. Ve algoritmalar insan muhakemesinden, içgüdüsel "bekle, bu doğru görünmüyor, hadi tekrar kontrol edelim"den yoksundur. Soğuk Savaş'ta yakın çağrılarda, makinelerin önüne geçen insan yargısı dünyayı kurtardı; örneğin 1983'te Sovyet subayı Stanislav Petrov'un Amerikan nükleer fırlatma raporlarının yanlış alarm olduğunu belirlemesi gibi.

Bu yüzden askeri ve robotik etikçiler uzun zamandır aradılar "insanları döngünün içinde tutmak" için. Savaş, makinelerin tam özerklikle öldürmesine izin vermeyecek kadar sonuçsaldır. Bu kararların bilgisayarlara devredilmesi, insanların daha az sorumluluk üstlendiği veya en azından öyleymiş gibi hissettikleri anlamına gelir ve bu da ahlak dışı veya yasa dışı eylemleri teşvik edebilir. Algoritmalar taktiksel olarak faydalı olabilir ancak stratejik olarak ters etki yapabilir, çünkü İran'daki okul bombalaması gibi kamuoyunun dikkatini çeken sivillere yönelik saldırılar muhalefeti harekete geçirir.

Ancak döngüdeki insanlar, eğer insanlar umursamıyorsa, pek bir fark yaratmaz. Gazze'de lavanta kullanan İsrailli subay söylenmiş the Gardiyan: "Bu aşamada her hedef için 20 saniye ayırırdım ve her gün onlarcasını yapardım. Onay damgası olmanın dışında insan olarak sıfır katma değerim vardı. Çok zaman kazandırdı." Bir diğeri, hedefleme kararlarını dış kaynaklardan sağlamanın kendisini ahlaki kaygıdan kurtardığını, çünkü "makinenin bunu soğukkanlılıkla yaptığını" söyledi.

Robotik, yapay zeka destekli savaş hayal ettiğimde bunun sivilleri militanlardan ayırmaya, silahları uzaktan tespit etmeye ve pusu riskini azaltmaya yardımcı olarak hayat kurtarabileceğini düşündüm. Hala olumlu etkiler yaratma potansiyeline sahip olduğunu düşünüyorum ve ABD ve İsrail ordularının onsuz nasıl savaşacağına kıyasla İran'daki sivil kayıplarını azaltma şansı var (ancak bir grup küçük çocuğu öldürmek gibi korkunç eylemlerden kaçınmak için yeterli değil). Verimlilik kazanımları, yapay zeka sistemlerinin askeri kullanımını kaçınılmaz hale getiriyor ancak kullanımların daha etik ve stratejik açıdan faydalı hale getirilmesi, hükümet düzenlemeleri de dahil olmak üzere ciddi çalışmalar gerektiriyor.

Karşı mücadele ederek Antropiğin ısrarı Claude'un otonom silahlar ya da ülke içi gözetleme amacıyla kullanılmaması yönündeki iddialara rağmen Trump yönetimi ters yöne doğru baskı yapıyor. Ancak algoritmik korumalar ve ateş etme kararlarında insan rolünü garanti eden yapay zeka, orduları yalnızca öldürmede değil, potansiyel olarak yaşamı korumada da daha verimli hale getiren bir araç olabilir.