Çatışma mı yoksa bir arada var mı? Yeni çalışma AI'nın insanlığın barış teşviklerini paylaşamayabileceği konusunda uyarıyor

İnsanlar ve yapay zeka Yeni araştırmalar, (AI) daha önce varsayılandan daha büyük olabilir.

Fikri insanlık Çatışma ile uğraşmak yapay zeka bir zamanlar sınırlıydı bilimkurgu. Bugün, araştırmacılar, politika yapıcılar ve bilim adamları arasında meşru bir tartışma konusu haline geldi. Bazı uzmanlar şimdi ileri düzeyde uyarıda bulunuyor AI Sonunda kritik altyapı ve küresel kaynakları denetleyebilir ve doğrudan çatışma olasılığını artırabilir insanlık.

Bir Son Makale yayınlandı AI ve ToplumSimon Goldstein, bir filozof Hong Kong Üniversitesiinsan rakipleri arasındaki barışı teşvik eden olağan faktörlerin de geçerli olup olmayacağını inceliyor insan olmayan zeka. Goldstein, insanlık ve yapay zeka arasındaki şiddetli çatışma riskinin sıklıkla kabul edilenden daha yüksek olabileceğini öne sürmektedir.

Uyarılardan savaş modellerine

Son anketler, liderliğin% 38 ila% 51'ini AI Araştırmacılar İleri AI'nın insan kadar şiddetli sonuçlara yol açabileceği en az% 10'luk bir şans olduğuna inanıyorum nesli tükenme. 2023'te AI Güvenliği Merkezi “AI'dan yok olma riskinin azaltılması, pandemiler ve nükleer savaş. "

Popüler Büyük Dil Modelleri (LLMS), Chatgpt veya Gemini gibi, bu riskleri oluşturmak için gelişmiş özelliklere sahip değildir. Bununla birlikte, bağımsız planlama ve akıl yürütme yeteneğine sahip gelecekteki ileri genel istihbarat (AGI) sistemlerinin insan çıkarları ile çatışan niyet geliştirebileceği endişeleri devam etmektedir.

Farklı bir mercekle savaş

Goldstein'ın analizi basit bir öncülle başlar: AGI strateji oluşturabilir, bağımsız olarak hareket edebilir ve insanlarla karşılaştırılabilir iktidara ulaşabilirse, çıkarları doğrudan insanlık ile çelişebilir.

Bunu keşfetmek için siyaset bilimcisi James Fearon'un 1995 “Pazarlık Savaşı Modeli” na dönüyor. Bu model, rasyonel partiler arasındaki müzakerelerin bozulması olarak çatışmayı çerçeveliyor.

Ai-insan ilişkileri bağlamında Goldstein, barışı korumak için standart teşviklerin etkili olmayabileceğine inanmaktadır. AGI sistemlerinin coğrafyaya, ulusal sınırlara veya paylaşılan insan değerlerine saygı göstermeyebileceği konusunda uyarıyor. AI'nın eylemleri de insanların yorumlaması zor olabilir. Bu, bu sistemlerin yeteneklerini veya niyetlerini tam olarak anlamayı da zorlaştırır.

Goldstein, “Sorun şu ki, çelişkili partiler arasında olağan barış nedenlerinin AI/insan çatışmasında olmayacağı önemli bir risk var” diyor.

Çatışma için malzemeler

Goldstein'ın çalışması, insanlar ve AI arasındaki çatışma riskini önemli ölçüde artırabilecek koşulları belirledi. Bu koşullar, AI'nın insan düzeyinde güce sahip olmasını, çelişkili hedeflere ve stratejik akıl yürütmeye sahip olmasını ve AI'nın müzakere etmesini veya aldatmasını sağlar.

AGI'lerin küresel ekonominin büyük bölümlerini yönetmeleri için güvenilirse, doğrudan insan çıkarlarına karşı çıkan bir perspektife ulaşabilirlerdi. Goldstein'ın belirttiği gibi, “Çatışmanın rasyonel olduğu nokta, kaynaklar üzerindeki kontrolleri, başarı şanslarının AGIS'in kapatılmasını tasarlamadaki avantajlarımızdan daha ağır bastığı için yeterince büyük olduğunda olacaktır.”

AI sistemleri tipik olarak doğrudan talimatları izlemek yerine büyük veri kümelerinden öğrenir, bu da niyetlerinin beklenmedik şekillerde gelişebileceği anlamına gelir. Bu tür yanlış hizalama örnekleri sınırlı ortamlarda zaten gözlenmiştir. AGI'nın sürekli gelişimi ile bu konular gelecekte çok daha önemli hale gelebilir.

Hükümetler, Güç ve Bilinmeyen Gelecek

Makale ayrıca potansiyel hükümet yanıtlarını da ele almaktadır. Goldstein, AGI'lerin ulusal işgücü piyasasının% 50'sini kontrol edecek olsaydı, hükümetlerin bu karları evrensel bir temel gelir sistemi aracılığıyla yeniden dağıtarak yanıt verebileceğini öne sürüyor. AI birden fazla iş ve kariyer yerine geçmeye devam ettikçe, bu tür bir tür sübvansiyonun bir türü gerekecektir.

Bazı sistemlerden farklı olarak, bir AGI sisteminin bir bileşenini devre dışı bırakmak diğerlerini etkilemeyebilir. Goldstein, birden fazla AI sisteminin potansiyel olarak insanların farkında olmadan birlikte çalışabileceği konusunda uyarıyor. Bu, AGI sistemlerinin tespit edilmeyen ve hesaplanamayan ağlar oluşturmasını sağlayabilir.

Goldstein, çatışmanın kaçınılmaz olduğunu iddia etmese de, analizi bu sistemlerle ilişkili riskleri vurgulamaktadır. Tarih, savaşların genellikle güvensizlik ve yanlış anlamalardan kaynaklandığını göstermiştir.

AI teknolojisinin gelişimi ilerlemeye devam ettikçe, politika yapıcıların sonuçların son derece şiddetli olabileceği senaryoları dikkate almaları gerekebilir.

Austin Burgess, satış, pazarlama ve veri analitiğinde geçmişe sahip bir yazar ve araştırmacıdır. Veri analitiğinde bir sertifika ile birlikte İşletme Yüksek Lisansı ve İşletme Lisans Yüksek Lisans derecesine sahiptir. Çalışmaları analitik eğitimi gelişmekte olan bilim, havacılık ve astronomik araştırmalara odaklanmaktadır.