AI'yı bitirmek için açlık grevi

Guido Reichstadter'ın 17. gününde yemeden, iyi hissettiğini söyledi - biraz daha yavaş hareket ediyor, ama tamam.

2 Eylül'den bu yana her gün Reichstadtler, AI Startup Antropic'in San Francisco merkezinin dışında saat 11: 00-17: 00 saatleri arasında duruyor. Kara tahtası işareti, 31 Ağustos'ta yemek yemeyi bırakmasına rağmen “Açlık Grev: 15 Gün” diyor. İşaret, Antropik'in “yapay genel zeka yarışı durdurması” veya AGI: insan bilişsel yeteneklerine eşit veya aşan bir AI sistemi kavramı.

AGI, önce öznel kilometre taşını elde etmek için büyük şirketler ve girişimler yarışları ile birlikte teknoloji CEO'larının favori bir toplanma çığlığıdır. Reichstadler'e göre, bu şirketlerin ciddiye almadığı varoluşsal bir risk. “AGI-insan seviyesi veya ötesi, sistemler, süper-süperlik-bu, tüm bu sınır şirketlerinin amacıdır” dedi. Verge. “Ve bence deli. Bu riskli. İnanılmaz derecede riskli. Ve bence şimdi durmalı.” Açlık grevi, AI liderlerinin dikkatini çekmeyi en açık şekilde görmesinin en açık yoludur - ve şu anda tek kişi o değil.

Reichstadter referans 2023 röportajı Antropik CEO Dario Amodei'nin AI endüstrisinin pervasızlığını örneklediği yer. Amodei, “İnsan uygarlığı ölçeğinde bir şeylerin felaketle yanlış gitmesi şansım yüzde 10 ila 25 arasında bir yerde olabilir” dedi. Amodei ve diğerleri AGI'nin gelişiminin kaçınılmaz olduğu sonucuna varmış ve hedeflerinin mümkün olan en sorumlu velayetler olmak olduğunu söylüyor-Reichstadtler'in “efsane” ve “kendi kendine hizmet” dediği bir şey.

Reichstadter'ın görüşüne göre, şirketler insanlara büyük ölçekte zarar verecek teknoloji geliştirmeme sorumluluğuna sahiptir ve riski anlayan herkes de bazı sorumluluk taşır.

“Yapmaya çalıştığım şey bu, sadece vatandaşlarımın, diğer vatandaşlarımın hayatlarına ve refahına saygı duyan sıradan bir vatandaş olarak sorumluluğumu yerine getiriyor” dedi. "Ben de iki çocuğum var."

Antropik bir yorum talebine hemen yanıt vermedi.

Reichstadter her gün Antropic'in ofisindeki güvenlik görevlilerine kurduğunu söyledi ve antropik çalışanların yanından geçerken gözlerini önlediğini izliyor. En az bir çalışanın benzer bir felaket korkularını paylaştığını ve AI şirket çalışanlarına şirketlerinin “araç olarak değil, insan olarak değil, insan olarak değil” cesaretine sahip olmaları için ilham vermeyi umduğunu, çünkü “Dünya'daki en tehlikeli teknolojiyi geliştirdikleri” için daha derin bir sorumluluğa sahip olduklarını söyledi.

Korkuları AI güvenlik dünyasında sayısız başkaları tarafından paylaşılıyor. AI'nın uzun vadede ortaya koyduğu belirli tehlikeler ve bunları en iyi nasıl durduracağınız-“AI Güvenliği” terimi bile doludur. Bununla birlikte, çoğunun kabul edebileceği bir şey, mevcut yolunun insanlık için hasta olmasıdır.

Reichstadter, ilk kez yaklaşık 25 yıl önce kolej yıllarında “insan düzeyinde” AI potansiyelinin farkına vardığını ve o zamanlar çok uzak göründüğünü-ancak 2022'de Chatgpt'in serbest bırakılmasıyla oturdu ve dikkat çekti. Özellikle AI'nın ABD'de otoriterliğin arttırılmasında rol oynadığına nasıl inandığıyla ilgilendiğini söylüyor.

“Toplumumdan endişeliyim” dedi. “Ailemden, geleceği konusunda endişeliyim. AI ile onları etkilemek için neler olduğu konusunda endişeliyim. Etik olarak kullanılmadığından endişeliyim. Ayrıca, katastrofik riskler ve hatta onunla ilişkili varoluşsal riskler olduğuna inanmak için gerçekçi gerekçeler yarattığından da endişeliyim.”

Son aylarda Reichstadter, teknoloji liderlerinin dikkatini hayati olduğuna inandığı bir konuya almanın giderek daha fazla kamu yöntemlerini denedi. Geçmişte, “insan yok olmasını, kitlesel iş kaybını ve diğer birçok sorunu önlemek için” süper -yapay zeka sistemlerini kalıcı olarak yasaklamayı amaçlayan “Stop AI” adlı bir grupla çalıştı. Şubat ayında, o ve diğer üyeler Zincirin kapıları kapatmasına yardımcı oldu Openai'nin San Francisco'daki ofislerine, Reichstadter da dahil olmak üzere birkaçı engelleme nedeniyle tutuklandı.

Reichstadter, 2 Eylül'de Antropik Güvenlik Masası aracılığıyla Amodei'ye elle yazılmış bir mektup verdi ve birkaç gün sonra çevrimiçi olarak yayınladı. Mektup, Amodei'nin kontrol edemediği bir teknoloji geliştirmeye çalışmayı bırakmasını ve yapay zeka yarışını küresel olarak durdurmak için elinden gelen her şeyi yapmasını ve bunu yapmaya istekli değilse, neden olmayacağını söylemesini istiyor. Mektupta Reichstadter, “Çocuklarım uğruna ve kalbimdeki durumumuzun aciliyeti ve ağırlığı ile antropik ofislerin dışında bir açlık grevi başlattım… cevabınızı beklerken.”

Reichstadter, “Umarım bu talebi cevaplamak için temel nezakete sahip” dedi. “Hiçbirinin kişisel olarak gerçekten zorlandığını düşünmüyorum. Anonim olarak, soyut bir şekilde, yaptığınız işin birçok insanı öldürebileceğini düşünün. Gelecekteki potansiyel kurbanlarınızdan birine yüz yüze sahip olmak ve onlara bir insan olarak neden (neden) açıklamak başka bir şey.”

Reichstadter barışçıl protestosuna başladıktan kısa bir süre sonra, ilham alan iki kişi de Londra'da benzer bir protesto başlattı ve Google Deepmind'in ofisinin dışında bir varlığı sürdürdü. Ve biri ona katıldı Hindistan'dacanlı akışta oruç.

Michael Trazzi, iki yakın planlama ve doktor danışmanlığı nedeniyle durmayı seçmeden önce yedi gün boyunca Londra Açlık Grevine katıldı, ancak yine de devam eden diğer katılımcı Denys Sheremet'i destekliyor. 10. Gün. Trazzi ve Reichstadter, kendilerini belirli bir topluluğun veya grubun bir parçası olarak tanımlamakta isteksiz olmalarına rağmen, AI'nın devam eden ilerlemesi altında insanlığın geleceği hakkında benzer korkuları paylaşıyorlar.

Trazzi, 2017'den beri AI risklerini düşündüğünü söyledi. DeepMind CEO'su Demis Hassabis'e bir mektup yazdı ve kamuya açık bir şekilde yayınladı ve bir aracı aracılığıyla geçti.

Mektupta Trazzi, Hassabis'in “bugün, Batı ve Çin'deki diğer tüm büyük AI şirketlerinin aynı şeyi yapması durumunda, DeepMind'in sınır AI modellerinin gelişimini durdurmayı kabul edeceğini açıkça belirterek, bugün bir geleceğin duruşunu koordine etmek için ilk adımı attı.

Trazzi anlattı Eşek“AI'nın çok tehlikeli olması için olmasaydı,… süper pro-düzenleme olacağımı sanmıyorum, ama sanırım… dünyada, varsayılan olarak teşviklerin yanlış yöne gittiği (in) bazı şeyler var. Sanırım AI için düzenlemeye ihtiyacımız var.”

Google DeepMind iletişim direktörü Amanda Carl Pratt, “AI hızla gelişen bir alandır ve bu teknoloji hakkında farklı görüşler olacaktır. AI'nın bilimi ilerletme ve milyarlarca insanın yaşamını iyileştirme potansiyeline inanıyoruz. Güvenlik, güvenlik ve sorumlu yönetişim, insanların riskten korunurken teknolojimizden fayda sağladığı bir gelecek oluşturduğumuzda, her zaman önceliklidir.”

Bir X'e GönderinTrazzi, açlık grevinin teknoloji işçileriyle çok fazla tartışmaya yol açtığını yazdı ve bir meta çalışanın ona “Neden sadece Google adamları? Biz de harika iş yapıyoruz. Biz de yarıştayız” diye sordu.

Ayrıca, bir DeepMind çalışanının AI şirketlerinin fırsat maliyeti nedeniyle felaket zararlarına neden olabilecek modelleri yayınlamayacağını söylese de, bir diğeri ise, “AI'dan yok olmanın daha olası olduğuna inandığını, ancak hala en güvenlik bilincine sahip şirketlerden biri olduğu için DeepMind için çalışmayı seçtiğini” söyledi.

Ne Reichstadter ne de Trazzi, mektuplarından Hassabis ve Amodei'ye henüz bir yanıt almadı. (Google ayrıca bir soruyu cevaplamayı reddetti. Eşek Hassabis'in neden mektuba cevap vermediği hakkında.) Bununla birlikte, eylemlerinin bir onay, bir toplantı veya ideal olarak CEO'lardan yörüngelerini değiştirme taahhüdü ile sonuçlandıklarına inanıyorlar.

Reichstadter'a, “Kontrolsüz, küresel bir felaket yarışındayız” dedi. “Bir çıkış yolu varsa, gerçeği söylemeye ve 'Kontrolde değiliz' demeye istekli insanlara güvenecek. Yardım isteyin. "