Bazen yapay zeka dünyasında iki büyük ayrım olduğunu düşünüyorum. Birincisi, elbette, tıptan bilime kadar her alanda gelişmiş yapay zeka sistemleri üzerinde çalışan araştırmacıların bir felakete yol açıp açmayacağı.
Ancak diğeri – ki bu daha önemli olabilir – yapay zekanın önemli olup olmadığıdır. ya da bir şekilde toplumsal bir saplantı geliştirdiğimiz, nihayetinde önemsiz başka bir teknoloji parçası. Şüpheci bakış açısına göre, bazı gelişmiş sohbet robotlarımız var. Bu, dünyamızın sonunu getirmeyecek – ama onu büyük ölçüde iyileştirmeyecek.
Bir karşılaştırma ben bazen görmek kripto para birimidir. Birkaç yıl önce, teknoloji dünyasında merkezi olmayan para birimlerinin yaşadığımız dünyayı kökten değiştireceğine inanan pek çok insan vardı. kullanım kolaylığı, aslında kriptonun parçalara ayırması amaçlanan merkezileştirmeye bağlıdır.
Genel olarak, Silikon Vadisi, günlük konu başlığının Dünya Tarihinin En Büyük Anlaşması olduğunu ilan ettiğinde, doğru yanıt, sağlıklı bir şüpheciliktir. Bu saplantı, sonunda bazı harika yeni şirketlerin temeli olabilir, çalışma ve yaşama biçimimizde değişikliklere katkıda bulunabilir ve neredeyse kesin olarak bazı insanları çok zengin yapacaktır. Ancak yeni teknolojilerin çoğu, savunucularının iddia ettiği gibi dünya üzerinde dönüştürücü etkilere sahip değil.
AI’nın bir sonraki kripto para birimi olacağını düşünmüyorum. ChatGPT gibi büyük dil modeli tabanlı teknolojiler çok şey gördü çok daha hızlı benimseme kripto para biriminin şimdiye kadar yaptığından daha fazla. Değiştiriyorlar ve dönüştürüyorlar çılgınca daha fazla iş. Bu alanda son beş yıldaki ilerleme hızı şok edici. Ama yine de buradaki şüpheci bakış açısının hakkını vermek istiyorum; çoğu zaman, bize bir şeyin çok önemli olduğu söylendiğinde, aslında öyle değildir.
AI hakkında düşünmenin dört çeyreği
Bunu temel alarak, yapay zeka hakkındaki tutum yelpazesini dört geniş kategoriye ayırarak görselleştirebilirsiniz.
Ufukta son derece güçlü yapay zekanın olduğunu ve dünyamızı değiştireceğini düşünen insanlar var. Bazıları bunun olacağını düşünüyor ve bunun çok ama çok iyi bir şey olacağına inanıyor.
Marc Andreessen, “Her çocuğun sonsuz sabırlı, sonsuz şefkatli, sonsuz bilgili, sonsuz yardımcı bir yapay zeka öğretmeni olacak” diye yazmıştı. son blog gönderisi.
Her bilim insanının, bilimsel araştırma ve başarı kapsamını büyük ölçüde genişletecek bir yapay zeka asistanı/işbirlikçisi/ortağı olacaktır. Her sanatçı, her mühendis, her iş adamı, her doktor, her hasta bakıcının dünyasında aynısı olacaktır. …
Yapay zeka, büyük olasılıkla medeniyetimizin şimdiye kadar yarattığı en önemli ve en iyi şeydir, kesinlikle elektrik ve mikroçiplerle eşit düzeyde ve muhtemelen bunların ötesinde. …
Yapay zekanın gelişimi ve yaygınlaşması – korkmamız gereken bir risk olmaktan uzak – kendimize, çocuklarımıza ve geleceğimize karşı sahip olduğumuz ahlaki bir yükümlülüktür.
Yapay zeka ile çok daha iyi bir dünyada yaşıyor olmalıyız ve şimdi bunu yapabiliriz.
Buna yelpazenin “büyük ve iyi olacak” köşesi deyin. Bunu, örneğin, son anketinde makine öğrenimi araştırmacılarının yarısının yapay zekanın insan soyunun tükenmesine yol açma olasılığının yüksek olduğunu söylediğini ortaya çıkaran AI Impacts’ten Katja Grace ile karşılaştırın. “Yapay zekadaki ilerleme, insanlığın çıkarlarıyla çelişen hedefleri olan ve bunları özerk bir şekilde takip etme becerisine sahip, insanüstü derecede akıllı yapay ‘insanların’ yaratılmasına yol açabilir.” Zaman’da yazdı.
(Ortaya, belki de yapay zeka öncüsü Yoshua Bengio’yu yerleştirirsiniz. savundu “Yapay zeka hizalama araştırmasında bir ilerleme sağlanmadıkça … güçlü güvenlik garantilerimiz yok. Bilinmeyen şey, bir yanlış hizalamadan kaynaklanabilecek zararın ciddiyetidir (ve bu, yanlış hizalamanın özelliklerine bağlı olacaktır).”)
Sonra “AI dünyamızı büyük ölçüde değiştirmeyecek – tüm bu süper zeka saçmalıkları – ama yine de kötü olacak” çeyreği var. Birkaç yapay zeka etik araştırmacısı, “Gelişmekte olan” veya “potansiyel olarak felaket” bir gelecek vaat eden yapay zekanın etkin olduğu hayal ürünü bir ütopya veya kıyametle dikkatimizi dağıtmak tehlikelidir. yanıt olarak yazdı yakın tarihli Future of Life Enstitüsü’ne mektup son derece güçlü sistemlerin eğitimine ara verilmesi çağrısında bulunuyor. Bu süper zeka şüphecileri, yapay zekanın en aşırı, varoluşsal sonuçlarına odaklanmanın bizi işçi sömürüsünden ve günümüz teknolojisinin mümkün kıldığı önyargıdan uzaklaştıracağını savundu.
Ve son olarak, programcılar için yapay zeka araçları oluşturmak üzerinde çalışan birçok insanı içeren “Yapay zeka dünyamızı büyük ölçüde değiştirmeyecek – tüm bu süper zeka saçmalıkları – ama iyi olacak” çeyreği var. Bu köşede bulunan konuştuğum birçok kişi, süper zeka endişelerinin ve önyargı veya işçi sömürü endişelerinin abartıldığından endişe ediyor. Yapay zeka diğer teknolojilerin çoğu gibi olacak: onu iyi şeyler için kullanırsak iyi olur, ki bunu çoğunlukla kullanırız.
Birbiri ardına konuşmak
Yapay zeka hakkındaki konuşmalarda genellikle birbirimizin yanından konuşuyormuşuz gibi geliyor ve bence yukarıda önerdiğim dört kadran resmi bunun nedenini daha açık hale getiriyor. Yapay zekanın potansiyel olarak dünyayı sarsan büyük bir anlaşma olacağını düşünen insanların birbirleriyle tartışacak çok şeyi var.
Yapay Zeka gerçekten de, insanın güçlerini artırmak ve yaşam tarzımızın her alanında büyük iyileştirmeler yapmak için büyük bir güç olacaksa, o zaman güvenlik endişelerini ele almak için onu aşırı derecede geciktirmek, onun ilerlemelerinden yararlanabilecek milyonlarca insanın zarar görmesine neden olma riskleri taşır. ve gereksiz yere ölmek. Yapay zeka gelişiminin dünyayı değiştiren büyük riskler oluşturduğunu düşünen insanlar, iyimserlere bu risklerin böylesine güçlü bir teknolojinin gelişimini yavaşlatmanın gerçekten muazzam maliyetlerini haklı çıkaracak kadar ciddi olduğunu kanıtlamalıdır. Yapay zeka dünyayı değiştiren büyük bir olaysa, yapmak istediğimiz üst düzey toplumsal konuşma, dünyayı daha iyiye doğru değiştirdiği aşamaya güvenli bir şekilde ulaşmanın en iyi yolu.
Ancak birçok insan, yapay zekanın büyük bir anlaşma olacağına ikna olmadı ve şaşkınlığı hızlandırmak veya yavaşlatmak konusunda bir konuşma buluyor. Onların bakış açısına göre, ufukta dünyayı değiştirecek yeni bir şey yok ve mevcut AI sistemlerini agresif bir şekilde düzenlemeli (eğer çoğunlukla kötülerse ve dağıtımlarını çoğunlukla sınırlamak istiyorsak) veya mevcut AI sistemlerini (eğer onlar çoğunlukla iyidir ve biz çoğunlukla bunların konuşlandırılmasını teşvik etmek istiyoruz).
Her iki durumda da, insanlar süper zeki sistemleri güvenli bir şekilde yönlendirmeyi amaçlayan önlemlerle yanıt verdiğinde şaşırıyorlar. Andreessen’in AI’nın muazzam potansiyeli hakkındaki iddiaları, Grace’in hepimizin ölümüne yol açabilecek bir AI silahlanma yarışından uzaklaşmamız gerektiği şeklindeki endişeleri kadar ilgisiz.
AI hakkındaki toplumsal sohbetin iyi gitmesi için, herkesin biraz daha belirsizliği eğlendirebileceğini düşünüyorum. Yapay zekanın bu kadar hızlı hareket etmesiyle, herhangi bir şeyi içeri veya dışarı güvenle hükmetmek gerçekten zor. Mevcut tekniklerimizin şimdiye kadar neden bu kadar iyi çalıştığı ve ne kadar süreyle iyileştirmeler görmeye devam edeceğimiz konusunda derinden kafamız karıştı. Ufukta hangi atılımların olduğu tamamen tahmin. Andreessen’in görkemli ütopyası bana gerçek bir olasılık gibi görünüyor. Mutlak felaket de öyle. Ve büyük yeni atılımlar olmadan geçen nispeten tekdüze bir on yıl da öyle.
AI’da girdiğimiz bölgenin belirsiz olduğu kadar kafa karıştırıcı olduğunu biraz daha kabul edersek, herkes birbirimizi biraz daha az konuştuğumuzu görebilir.