Yeni çalışma: Sayısız yapay zeka uzmanı yapay zeka riski konusunda ne düşüneceğini bilmiyor

İçinde 2016araştırmacılar Yapay Zeka Etkileriileri düzey anlayışı geliştirmeyi amaçlayan bir projedir. yapay zeka geliştirme, bir yayınladı makine öğrenimi araştırmacılarının anketi. Onlara birçok açıdan insanlarla karşılaştırılabilecek yapay zeka sistemlerinin gelişimini ne zaman bekledikleri ve böyle bir başarıdan iyi mi yoksa kötü sonuçlar mı bekleyecekleri soruldu.

Başlık bulgusu: Ortalama katılımcı, insan düzeyinde yapay zekanın “son derece kötü, örneğin insanlığın yok olmasına” yol açacağı ihtimalinin yüzde 5 olduğunu söyledi. Bu, araştırmacıların yarısının yüzde 5’ten daha yüksek bir tahmin verdiği, güçlü yapay zekanın insanlığın yok olmasına yol açacağının çok muhtemel olduğunu düşündüklerini, diğer yarısının ise daha düşük bir tahmin verdiği anlamına geliyor. (Diğer yarısı ise şansın ihmal edilebilir olduğuna inanıyordu.)

Eğer doğruysa bu eşi benzeri görülmemiş bir olay olurdu. Başka hangi alanda ılımlı, orta yol araştırmacıları, doğrudan üzerinde çalıştıkları daha güçlü bir teknolojinin geliştirilmesinin, Dünya’daki insan yaşamını sonsuza kadar sona erdirme şansının yüzde 5 olduğunu iddia ediyor?

2016’da – ChatGPT ve AlphaFold’dan önce – sonuç her şeyden çok tesadüfi görünüyordu. Ancak o zamandan bu yana geçen sekiz yıl içinde, yapay zeka sistemleri üniversite düzeyinde makale yazma konusunda neredeyse işe yaramaz olmaktan rahatsız edici derecede iyi hale geldikçe ve şirketler gerçek bir süper akıllı yapay zeka sistemi oluşturma çabalarına milyarlarca dolar akıttıkça, bu bir zamanlar çok uzak görünen bir şeydi. – Getirilen olasılık artık ufukta görünüyor.

AI Impacts ürünlerini yayınladığında bu haftaki takip anketi, manşet sonucu – “yanıt verenlerin %37,8 ila %51,4’ü, insanlığın yok olması kadar kötü sonuçlara yol açacak gelişmiş yapay zekaya en az %10 şans verdi” – bana bir şans ya da araştırma hatası gibi gelmedi. Muhtemelen alanın nerede olduğunun doğru bir yansımasıdır.

Elde edilen sonuçlar, yapay zekanın yok olma riskiyle ilgili yaygın söylemlerin çoğuna meydan okuyor. Ankete katılan araştırmacılar, felaket tellallığı yapan kötümserler ve ısrarcı iyimserler olarak düzgün bir şekilde alt bölümlere ayrılmıyor. Anket şunu ortaya çıkardı: “Kötü sonuç alma olasılığı yüksek olan birçok insan, aynı zamanda iyi sonuç alma olasılığı da yüksek.” Ve insanların yok olması, çoğu araştırmacının ciddiye aldığı bir olasılık gibi görünüyor: Ankete katılanların yüzde 57,8’i, insanların yok olması gibi son derece kötü sonuçların en az yüzde 5 muhtemel olduğunu düşündüğünü söyledi.

Makaledeki bu çarpıcı görsel rakam, katılımcıların yüksek seviyeli makine zekası geliştirildiğinde ne beklemeleri gerektiği konusunda nasıl düşündüklerini gösteriyor: Çoğu, hem son derece iyi sonuçların hem de son derece kötü sonuçların olası olduğunu düşünüyor.

Bu konuda ne yapılacağına gelince, uzmanlar ilk etapta bir sorun olup olmadığı konusunda olduğundan daha fazla anlaşamıyor gibi görünüyor.

Bu sonuçlar gerçek mi?

2016 Yapay Zeka etkileri araştırması hemen tartışmalıydı. 2016’da neredeyse hiç kimse güçlü yapay zekanın yol açacağı felaket riskinden bahsetmiyordu. Gerçekten ana akım araştırmacılar bunu makul olarak değerlendirmiş olabilir mi? Yapay zeka nedeniyle insan neslinin tükenmesinden endişe duyan anketi yürüten araştırmacılar, sonuçlarında bir şekilde ön yargı mı kullandılar?

Anket yazarları sistematik olarak “2015 NIPS ve ICML konferanslarında (makine öğreniminde hakemli araştırmaların önde gelen mekanlarından ikisi) yayın yapan tüm araştırmacılara” ulaşmış ve yaklaşık beşte birinden yanıt almayı başarmışlardı. Makine öğrenimindeki ilerlemeyle ilgili çok çeşitli sorular soruldu ve çok çeşitli yanıtlar alındı: Gerçekten, göz kamaştırıcı “insanlığın yok olması” yanıtları bir yana, en dikkat çekici sonuç, makine öğrenimi uzmanlarının birbirleriyle ne kadar fikir ayrılığına düştükleriydi. pek alışılmadık bilimlerde.)

Ancak makul bir şekilde şüpheci olmak mümkündür. Belki de “insanlığın neslinin tükenmesi” cevabı hakkında pek fazla düşünmemiş uzmanlar vardı. Ve belki de yapay zeka konusunda en iyimser olanlar anketi yanıtlama zahmetine girmemişlerdi.

Yapay Zeka Etkilendiğinde Anketi 2022’de yeniden düzenleyinYine en iyi makine öğrenimi konferanslarında yayın yapan binlerce araştırmacıyla iletişime geçtiğimde sonuçları hemen hemen aynıydı. “Son derece kötü, örneğin insanlığın yok olması” sonucunun medyan olasılığı yüzde 5’ti.

Bu medyan bazı şiddetli anlaşmazlıkları gizlemektedir. Aslında, yanıt verenlerin yüzde 48’i son derece kötü bir sonuç için en az yüzde 10’luk bir şans verirken, yüzde 25’i yüzde 0’lık bir şans verdi. 2016 anketine yönelik eleştirilere yanıt veren ekip, daha fazla ayrıntı istedi: Yanıt verenler, yapay zekanın “insanlığın yok olmasına veya benzer şekilde insan türünün kalıcı ve ciddi şekilde yetkisizleştirilmesine” yol açacağını düşünme ihtimali ne kadardı? Soruyu nasıl sorduklarına bağlı olarak yüzde 5 ila yüzde 10 arasında sonuç alındı.

etkisini azaltmak ve ölçmek amacıyla 2023 yılında çerçeveleme efektleri (sorunun nasıl ifade edildiğine bağlı olarak farklı cevaplar), anketteki temel soruların çoğu farklı çerçevelerle farklı katılımcılara soruldu. Ancak yine de, soru nasıl sorulursa sorulsun, insanın neslinin tükenmesiyle ilgili soruya verilen yanıtlar genel olarak tutarlıydı (yüzde 5-10 aralığında).

2022 ve 2023 anketlerinin 2016 sonuçlarına bu kadar benzer sonuçlar bulması, 2016 sonucunun tesadüfi olduğuna inanmayı zorlaştırıyor. Ve 2016’da eleştirmenler haklı olarak çoğu makine öğrenimi araştırmacısının varoluşsal risk konusunu ciddi olarak düşünmediğinden şikayet edebilirken, 2023 yılına kadar güçlü yapay zeka sistemlerinin hepimizi öldürüp öldürmeyeceği sorusu ana akım haline gelmişti. Pek çok hakemli makine öğrenimi araştırmacısının daha önce hiç düşünmedikleri bir soruyu yanıtladıklarını hayal etmek zor.

Peki… yapay zeka bizi öldürecek mi?

Bence bu anketin en mantıklı yorumu, geri kalanımız gibi makine öğrenimi araştırmacılarının da güçlü yapay zeka sistemlerinin geliştirilmesinin dünya için harika bir şey mi, yoksa felaket mi olacağını beklemek konusunda tamamen emin olmadıklarıdır.

Bu konuda ne yapacakları konusunda da anlaşamıyorlar. Yapay zekanın yavaşlatılmasının insanlık için iyi sonuçlar doğurup doğurmayacağına ilişkin sorulara verilen yanıtlar büyük ölçüde farklılık gösteriyordu. Yanıt verenlerin büyük çoğunluğu yapay zeka güvenliği araştırmasına daha fazla kaynak ve ilgi gösterilmesini isterken, aynı katılımcıların çoğu yapay zeka hizalaması üzerinde çalışmanın, makine öğrenimindeki diğer açık sorunlar üzerinde çalışmaya kıyasla alışılmadık derecede değerli olduğunu düşünmüyordu.

Henüz var olmayan süper akıllı yapay zeka gibi bir teknolojinin sonuçları gibi pek çok belirsizliğin olduğu bir durumda, yanıtlar için uzmanlara bakmak yönünde doğal bir eğilim var. Bu makul. Ancak yapay zeka gibi bir durumda, en saygın makine öğrenimi araştırmacılarının bile birbirleriyle aynı fikirde olmadıklarını ve hepimizin nereye gittiği konusunda tamamen kararsız olduklarını akılda tutmak önemlidir.

Bu hikayenin bir versiyonu ilk olarak Gelecek Mükemmel bülten. Buradan kaydolun!