"Hemen Harekete Geçmeliyiz": Kongre, Yapay Zekanın Ölüm-Kalım Askeri Kararlarını Vermesini Yasaklamaya Yönelik Yeni Çabada Potansiyel Tehdit Konusunda Uyardı

Önerilen yeni bir Senato tasarısı, ABD ordusunun silah kullanımı için net bariyerler oluşturmayı amaçlıyor. yapay zeka (AI), modern savaşın en önemli sorularından birine kesin bir çizgi çiziyor: Ölümcül güç kullanıldığında son söz kimin elinde?

8 Haziran'da Senatör Adam Schiff (D-Calif.), Savaş Bakanlığı'na (DoW) kapsamlı gereklilikler uygulayacak olan 2026 Ölümcül Operasyonlarda İnsan Otoritesi Yasasını veya "HALO Yasasını" sundu. özerk Ve yarı özerk Silah sistemleri anlamlı insan kontrolü altında kalıyor.

Mevzuat, hedefleri belirlemek, tavsiye etmek, önceliklendirmek veya bunlara saldırmak için yapay zeka kullanan askeri sistemler için yeni tasarım standartları, test gereksinimleri, gözetim prosedürleri ve yasal güvenceler oluşturacak.

Tasarı, savaş alanı kararlarının sorumluluğunun algoritmalara geçmek yerine insan komutanlarda kalmasını sağlamayı amaçlıyor. Mevzuat, Pentagon'un yapay zeka destekli otonom veya yarı otonom silahları içeren herhangi bir çatışma için sorumlu komutanlar atamasını gerektirecek ve bu komutanların "güç kullanımı konusunda nihai takdir yetkisine, muhakemeye ve kontrole" sahip olmalarını zorunlu kılacak.

Senatör Schiff, "Geçtiğimiz birkaç ay bize, Savunma Bakanlığı'nın yapay zeka kullanımının Amerikalıların ulusal güvenlik ve mahremiyet öncelikleriyle uyumlu olmasını sağlamak için sağduyulu korkuluklara acil ihtiyaç olduğunu gösterdi" dedi. basın bülteni. "Ulusal güvenliğimizi geliştirmek için yapay zeka teknolojisini kullanmak için iyi nedenler var" ancak diğer araçlarda olduğu gibi yapay zekanın da "özellikle zarar riskleri ölümcül olduğunda" yalnızca insan şirketlerine rehberlik etmesine izin verilmemesi gerektiğini vurguladı.

Teklif, politika yapıcılar, askeri planlamacılar ve teknoloji uzmanları arasında yapay zekanın muharebe operasyonlarında artan rolüne ilişkin endişelerin arttığı bir dönemde geldi.

Önemli olan bu endişelerin artık teorik olmamasıdır. Gibi Bilgilendirme Daha önce İsrail'in yapay zeka hedefleme sistemini kullandığı bildirilmişti.LavantaGazze'deki bu soru, özellikle sivillerin hayatının risk altında olabileceği durumlarda, askerlerin algoritmik hedef seçimine ne kadar güvenmesi gerektiği konusunda yeniden tartışmayı tetikledi.

Yapay zeka modellerinin şunları yapabileceğini gösteren çalışmalar da dahil olmak üzere diğer yeni örnekler de endişeyi artırdı: simüle edilmiş savaş oyunlarında tehlikeli bir şekilde tırmanıyorPentagon'un devam eden çabalarının yanı sıra otonom dronlarAI kontrollü uçaklar ve robotik savaş alanı sistemleri.

Papa Leo XIV bile yakın zamanda konuya ağırlık verdi. Magnifica Humanitasotonom silahların savaşı daha uygulanabilir hale getirebileceği ve insan kontrolüne daha az tabi tutabileceği konusunda uyarıda bulunan ve ölümcül kararların şeffaf olmayan veya otomatik süreçlere devredilmemesi gerektiğini savunan ilk genelge veya resmi papalık öğretim mektubu.

Pentagon defalarca bağlılığını vurguladı HALO Yasası, sorumlu yapay zeka gelişimine yönelik bu ilkelerin çoğunu yasa haline getirecek ve nasıl yapay zekanın nasıl geliştirileceğini belirleyen yeni yasal gereklilikler oluşturacaktır. askeri yapay zeka sistemleri tasarlanmıştır, test edildionaylanır ve izlenir.

Tasarının en önemli hükümleri arasında, otonom silah sistemlerinin önceden tanımlanmış coğrafi alanlar, hedef kümeleri ve zaman dilimleri dahilinde faaliyet göstermesi gereklilikleri yer alıyor. Bir sistemin bir çatışmayı bu izin verilen parametreler dahilinde tamamlayamaması durumunda, ilave insan operatör ve komutan incelemesi tamamlanana kadar çatışmanın sona erdirilmesi gerekecektir.

Mevzuat ayrıca, istenmeyen müdahalelere ve düşmanca manipülasyonlara karşı korunmak için kapsamlı kayıt tutma, siber güvenlik korumaları ve sürekli gözetim çağrısında bulunuyor.

Tasarı ayrıca şunu da gerektirecek üst düzey Pentagon yetkilileri Yapay zeka destekli silahlar geliştirilmeye başlamadan önce ve tekrar sahaya çıkmadan önce resmi incelemeler yapmak. Bu incelemeler yasal uygunluğu, operasyonel güvenliği, güvenilirliği, siber güvenlikSilahlı Çatışma Yasası kapsamında sivillere ve korunan altyapıya yönelik riskler.

Mevzuat, savaş alanı özerkliğinin ötesinde, ulusal güvenlikte yapay zekanın çeşitli tartışmalı kullanımlarını hedef alıyor. Bu, Savunma Bakanlığı'nın kapsam dahilindeki yapay zeka yeteneklerinin bir kişinin dini, ırkı, siyasi kimliği, cinsel yönelimi veya duygusal durumu hakkında çıkarımda bulunmasını yasaklayacaktır. Ayrıca, Amerikalıların kişisel verilerinin, veri komisyoncularından veya diğer üçüncü taraf kaynaklardan, tasarının kurallarını ihlal edecek şekilde elde edilmesi durumunda satın alınmasını veya alınmasını da kısıtlayacak.

Belki de en önemlisi, önerilen HALO Yasası, nükleer silahlarla ilgili başkanlık eylemlerini içeren karar alma süreçlerinden insanların çıkarılmasını açıkça yasaklıyor.

Önerilen yasa tasarısında, "Kapsanan hiçbir yapay zeka yeteneği, nükleer silah kullanımının başlatılması veya sonlandırılması da dahil olmak üzere, Başkanın kararlarının bilgilendirilmesi ve uygulanması açısından kritik olan eylemler için karar verme zincirinden bir insanı çıkarmak amacıyla kullanılamaz." ifadesi yer alıyor.

Tedbir aynı zamanda askeri AI sistemlerinde çalışan personel için ihbarcı korumasını da içeriyor, Kongre'ye düzenli raporlama yapılmasını zorunlu kılıyor ve Pentagon'un yasanın gerekliliklerini karşılamayan sahadaki sistemleri belirlemesini ve düzeltmesini gerektiriyor.

Mevcut otonom sistemler kapsamlı bir incelemeye tabi tutulacak ve uyumlu olmadığı tespit edilen herhangi bir sistem, düzeltici eyleme kadar kullanımdan kaldırılma, değiştirilme veya askıya alınma tehlikesiyle karşı karşıya kalabilir.

Tasarı belirli savunma sistemleri, siber yetenekler, mayınlar ve diğer askeri teknoloji kategorileri için muafiyetler içerse de, daha geniş mesajı, yapay zekanın ulusal savunmaya daha derinlemesine entegre olmasıyla birlikte Kongre'nin yüksek riskli kararlardan makinelerin değil insanların sorumlu kalmasını istediği yönünde.

HALO Yasası, Capitol Hill'de askeri yapay zekanın etrafına korkuluklar kurmaya yönelik yürütülen tek çaba değil.

Mart ayında Senatör Elissa Slotkin (D-MI) şunları tanıttı: Yapay Zeka Korkulukları Yasası. Geçen hafta Senatör Kirsten Gillibrand (DN.Y.) ayrı mevzuat çıkardı Bu da benzer şekilde Pentagon'un nükleer silah fırlatmak için yapay zekayı kullanmasını, Amerikalıları izinsiz gözetlemesini veya tamamen otonom silahlar konuşlandırmasını yasaklayacak.

Senatör Gillibrand, "Şu anda Pentagon, sağduyulu korkuluklar olmadan inanılmaz derecede güçlü yapay zeka teknolojisini konuşlandırmaya doğru ilerliyor ve bu, hepimizi daha az güvende kılacak felaket sonuçlara yol açabilir" dedi. ifade. "Hemen harekete geçmeliyiz; teknolojik ilerlemeyi engellemek için değil, insanları kontrolü elinde tutacak ve yapay zekanın savaşta kullanımını akıllı ve güvenli tutacak net kurallar oluşturmak için."

Birbiriyle yarışan teklifler, özellikle yasa koyucuların yapay zekayı 2027 Mali Yılı Ulusal Savunma Yetki Yasası'na (NDAA) dahil etmek istemeleri durumunda, yapay zekanın gelecekteki askeri operasyonlardaki rolü konusunda daha geniş bir kongre tartışmasına zemin hazırlayabilir.

Ancak bunun gerçekleşebilmesi için HALO Yasası ve benzer tekliflerin yasama sürecine yön vermesi gerekiyor. Tasarılar ilk olarak ilgili Senato komitesi tarafından değerlendirilecek ve burada milletvekilleri duruşmalar düzenleyebilir, hükümlerini tartışabilir, metni değiştirebilir veya teklif etmeyi reddedebilir. Onaylanması halinde, bağımsız bir önlem olarak veya daha büyük bir NDAA'nın parçası olarak imza için başkana gönderilmeden önce hem Senato'dan hem de Meclis'ten geçmesi gerekecek.

Senatör Schiff, yaptığı bir açıklamada, "Benim mevzuatım, Amerikalıları yasa dışı iç gözetimden koruyacak, emir komuta zincirindeki insanların her türlü ölümcül teknolojinin kullanımında sorumluluk almasını sağlayacak ve otonom ve yarı otonom silahların konuşlandırılmasında güçlü etik korumaları sürdürecektir" dedi.

Tim McMillan emekli bir kolluk kuvveti yöneticisi, araştırmacı muhabir ve The Debrief'in kurucu ortağıdır. Yazıları genellikle savunma, ulusal güvenlik, İstihbarat Topluluğu ve psikoloji ile ilgili konulara odaklanmaktadır. Tim'i Twitter'da takip edebilirsiniz: @LtTimMcMillan. Tim'e e-posta yoluyla ulaşılabilir: [email protected] veya şifreli e-posta yoluyla: [email protected]