Yapay Zeka Sistemleri Gerçekten Bilinçli mi? Bu Araştırmacı İnsanlığın Asla Bilemeyeceğini Söylüyor ve Bunun Neden Önemli Olduğunu Açıklıyor

Daha akıllı makineler üretme yarışında bir filozof rahatsız edici bir soru soruyor: Ya yapay zekanın bilinçli olup olmadığını bilemezsek ve ya asıl tehlike bu belirsizliğin kendisiyse?​

Onlarca yıldır "bilinçli yapay zeka" hakkındaki tartışmalar iki kampa bölündü: Yeterince gelişmiş bir makinenin bir gün bizimkine benzer deneyimler yaşayabileceğini düşünen iyimserler ve bilincin tamamen biyolojik bir olgu olduğunda ısrar eden şüpheciler.

İçinde yeni bir makale Cambridge Üniversitesi'nden filozof Tom McClelland, "Yapay Bilinç Hakkında Agnostisizm" başlıklı makalesinde her iki tarafın da kendine aşırı güvendiğini savunuyor. Kendisi şu anda verilebilecek tek dürüst cevabın muhtemelen bunu yakın zamanda bilemeyeceğimiz olduğunu söylüyor.​

ChatGPT gibi büyük dil modellerinin pek çok kullanıcısı konuştukları makinenin gerçek bir insan gibi göründüğüne ikna olmuş. Son hikayeler kullanıcıları detaylandırıyor chatbotlarına aşık olmakSağlayabildiği insan benzeri etkileşimler nedeniyle, bu yapay zeka araçları giderek daha fazla bir şey olarak görülüyor. gerçek insan bağlantılarının yerine geçecek 21. yüzyılda.

McClelland'ın ana fikri, birçok insanın yüksek lisans ile uğraşırken hissettiği kafa karışıklığıyla ilgilidir. Bilinçli olmak ne anlama gelir ve tüm bu sıfırlar ve birler bunu gerçekten başarabilir mi?

Bilim adamlarının şu anda anladığı her şey bilinç insanlar gibi biyolojik yaratıkların ve daha az ölçüde ahtapot ve maymun gibi hayvanların incelenmesinden gelir. Bu bulguları nöronlar yerine silikon çiplerden yapılmış bilgisayar sistemlerine uygulamaya çalıştığımızda, kendisinin "epistemik duvar" dediği şeye çarptığımızı savunuyor. Yani bilgimizin tükendiği ve elimizdeki delillerle daha ileri gidemeyeceğimiz bir nokta.​​ 'Bilmek' yerine 'tahmin ediyoruz'.

McClelland, yapay zeka bilincine ilişkin iddiaların "kanıtsalcılık" adını verdiği bir ilkeye uyması gerektiğinde ısrar ediyor. Yani, eğer bir yapay zekanın bilinçli olduğunu veya olmadığını söylüyorsanız, iddianız titreşimlere değil, sağlam bilimsel kanıtlara dayandırılmalıdır. bilim kurgu hikayeleriveya metafizik inanç. Ve bunun tam da mevcut tartışmanın başarısız olduğu nokta olduğunu söylüyor.

İnsanlarda bilinç bilimi, beyin taramaları, davranış deneyleri ve belirli bilgi işleme türlerini bilinçsiz işleme yerine farkındalıkla ilişkilendiren Küresel Çalışma Alanı Teorisi gibi modeller gibi karmaşık ama işe yarar araçlara dayanır. Bu araçlar, örneğin komadaki bir hastanın farkındalık belirtileri gösterip göstermediği ya da komadaki bir hastanın ahtapot acı hissetmesi muhtemeldir.

Ancak bu araçların hiçbiri, sözde zor bilinç sorununun temelindeki "neden"i açıklamıyor.

McClelland makalesinde "Bilincin derin bir açıklamasına sahip değiliz" diye açıklıyor. "Bilincin doğru hesaplama yapısıyla ortaya çıkabileceğini veya aslında bilincin esasen biyolojik olduğunu öne süren hiçbir kanıt yok."

McClelland, bilincin ardındaki temel ayrıntıları anlamadığımız için, gelecekle ilgili bilinçli "evet veya hayır" yanıtlarının kendinden emin olduğunu öne sürüyor. Yapay zeka sistemleri bilimsel olarak sorumlu değildir. Başka bir deyişle, "bu şey gerçekten bilinçli" ile "bu şey mükemmel bir bilinç dışı taklit" arasında kayboluyoruz.

İlk bakışta bu, fildişi kulelerindeki filozoflar arasında teknik bir tartışma gibi görünebilir, ancak McClelland'ın agnostisizminin geri kalanımız için doğrudan sonuçları vardır, çünkü yasalar, politikalar ve sosyal normlar, yakında makine bilincine yönelik testlere sahip olacağımız varsayımıyla zaten yazılmaktadır.

Yakın gelecekte, büyük teknoloji şirketleri halihazırda yapay zeka araçlarının aşamalarına ilişkin söylemleri ortaya koyuyor ve teknolojideki bir sonraki atılımları pazarlıyor. Yapay zeka geliştirme.

"Bilincin kanıtlanamamasının yapay zeka endüstrisi tarafından teknolojileri hakkında tuhaf iddialarda bulunmak için istismar edilmesi riski var" diye yazıyor. "Bu, heyecanın bir parçası haline geliyor, böylece şirketler bir sonraki seviyedeki yapay zeka zekası fikrini satabiliyor."

Buna karşılık McClelland, araştırma ödeneklerinin ve finansmanın, gerçekte bu fonların daha etkili bir şekilde kullanılabileceği halde yapay zeka bilinci çalışmalarına yönlendirileceğinden endişe ediyor.

"Giderek artan sayıda kanıt, karideslerin acı çekebileceğini gösteriyor, ancak yine de her yıl yaklaşık yarım trilyon karides öldürüyoruz. Karideslerde bilinç testi yapmak zordur, ancak hiçbir şey yapay zekada bilinç testi kadar zor değildir" diye açıklıyor.

Teknoloji firmalarının ve yatırımcılarının mali çıkarlarının ötesinde, bariz sosyal, kültürel ve hatta kişisel çıkarımlar zaten açıkça gördüğümüz şey.

Eğer gelişmiş yapay zekaların bilinçli olmadıklarını yanlış bir şekilde varsayarsak, acı çekebilen varlıklar yaratıyor ve onları sömürüyor olabiliriz. Ancak bilinçli olmadıkları halde yanlış bir şekilde bilinçli olduklarını varsayarsak, gerçekte hiçbir şey hissetmeyen sistemlere, potansiyel olarak hisseden insanların ve hayvanların zararına, özeni, yasal hakları ve empatiyi akıtma riskiyle karşı karşıya kalırız. Ve bu felsefi bir sorundur.

McClelland, bildiğimizden daha fazlasını biliyormuş gibi davranırsak her iki hatanın da daha olası hale geldiğini söylüyor. Şuna dikkat çekiyor insanlar zaten chatbotlara sanki bilinçli yoldaşlarmış gibi davranıyorlarAnketler, insanların üçte birinden fazlasının bir sistemin duygularını "gerçekten anladığını" veya bilinçli göründüğünü hissettiğini ortaya çıkardı. Bu arada yapay zeka şirketlerinin bu izlenimi canlandırmak için güçlü teşvikleri var. Kimin gerçekten bilinçli olduğuna karar verecek açık bir bilimsel temel olmadan, kamu inancı ve pazarlama gerçeklikten uzaklaşabilir.

Makaleye göre McClelland, etik odağı genel olarak bilinçten daha dar ve ahlaki açıdan daha acil bir kavrama kaydırmayı öneriyor: duyarlılık.

Basit bir ifadeyle duyarlılık, özne için iyi ya da kötü olan deneyimlere yönelik kapasitedir. İnsanlar için bu, zevk ya da acı hissetme yeteneğimizdir. Pek çok ahlaki teori, insanlarda, hayvanlarda ve hatta potansiyel olarak dijital zihinlerde halihazırda etik açıdan gerçekten önemli olan şeyin duyarlık olduğunu ele alıyor. McClelland, bir yapay zekanın bilinçli olup olmadığı konusunda agnostik kalsak bile yine de biraz farklı bir soru sorabileceğimizi savunuyor: Bu sistem bilinçli olsaydı ne tür deneyimler yaşardı?

Araştırmacılar ve düzenleyiciler, yapay zeka için bir "bilinç ölçer" oluşturmaya çalışmak yerine, iç durumları, anlayabildiğimiz kadarıyla, doğal olarak acıya, korkuya veya umutsuzluğa karşılık gelmeyen sistemler tasarlamaya odaklanabilirler. eğer bilinçliydiler.

Bu değişim, uygulandığı takdirde şirketlerin ve hükümetlerin gelişmiş yapay zeka hakkında konuşma ve tasarlama şeklini değiştirebilecek pratik bir yol açıyor. Daha fazlasını teşvik ederdi mimariler hakkında şeffaflıkduyarlılık ve duygu bilimi üzerine daha fazla disiplinlerarası çalışma ve ikna edici etki için insanın sıkıntısını veya öz farkındalığını taklit eden sistemlere temkinli bir yaklaşım.

Yapay zeka şirketleri önde kalma ve gelir elde etme yarışında daha da ileri giderek daha hızlı ilerlemeye devam ettikçe, inşa ettikleri şeylerin "canlı" olup olmadığı sorusu giderek daha önemli hale geliyor. Aynı şekilde, yapay zeka sistemleri daha yetenekli ve daha gerçekçi hale geldikçe, birincil risk yalnızca bilinçli hale gelip gelmemeleri değil, aynı zamanda onların zihinleri hakkındaki -doğru ya da yanlış- inançlarımızın birbirimize nasıl davrandığımızı, yasalarımızı nasıl yapılandırdığımızı ve davranışlarımızı yeniden şekillendirip şekillendirmediğidir. ahlakımızı paylaştıralım.

McClelland, inanç sıçramalarından kaçınarak ve şüpheci kalarak, gelecekteki yapay zekaya yönelik yarışın yavaşlatılabileceğini ve böylece daha iyi düzenleme ve şeffaflığa olanak sağlanabileceğini savunuyor.

McClelland, "Eğer ne sağduyu ne de inatçı araştırma bize bir cevap verebilirse, mantıksal konum agnostisizmdir" diye yazıyor.

"Bilemeyiz ve asla bilemeyebiliriz."