Çok Geç Olmadan Bilinçli Yapay Zekayı Tespit Etmenin Bir Yoluna İhtiyacımız Var - İşte Bilim Adamları Alarm Veriyor

Gibi yapay zeka Daha karmaşık hale geldikçe, bir zamanlar bilim kurguyla sınırlı olan bir soru hızla ciddi bir bilimsel sorun haline geliyor: Bir yapay zeka sisteminin bilinçli hale gelip gelmediğini nasıl bilebiliriz?

Yeni bir makale yayınlandı Bilişsel Bilimlerdeki Eğilimler tartışmanın artık sadece felsefi olmadığını savunuyor. Yapay zeka bilincinin mümkün olup olmadığını sormak yerine, aralarında Dr. Yoshua Bengio ve Dr. David Chalmers gibi önde gelen yapay zeka ve bilinç uzmanlarının da bulunduğu uluslararası bir araştırmacı ekibi, mevcut veya gelecekteki yapay zeka sistemlerinin öznel farkındalığa sahip olup olmadığını değerlendirmek için uygulanabilir bir çerçevenin ana hatlarını çizdi.

Araştırmacılar, AI yeteneklerindeki ilerlemelerin, ChatGPT gibi sistemlere bilinç atfetme konusunda artan kamuoyu istekliliğiyle birleştiğinde, konuyu daha acil hale getirdiğini söylüyor.

Yapay zeka sistemleri davranışları açısından daha insana benzer hale geldikçe, toplum yakında bazı makinelerin ahlaki değerlendirmeyi, yasal korumayı veya tamamen yeni düzenleme biçimlerini hak edip etmediği konusunda zor sorularla karşı karşıya kalabilir.

Yazarlar, sezgiye dayalı yargılara veya bilim kurgu tarzı spekülasyonlara güvenmek yerine, tartışmanın sinirbilime dayandırılmasını öneriyorlar.

Araştırmacılar, "Yapay zeka sistemlerini bilinç açısından değerlendirmek için titiz yöntemlere acil ihtiyaç var" diye yazıyor. "Bu tür teorilerden türetilen göstergeler, belirli yapay zeka sistemlerinin bilinçli olup olmadığı konusunda bilgi vermek için kullanılabilir."

Makale, yapay zeka sistemlerinin giderek daha fazla konuşma yapma, görüntü üretme, karmaşık mantıksal görevleri yerine getirme ve hatta dijital ortamlarda özerk hareket etme becerisine sahip olduğu bir zamanda geliyor. Çoğu bilim insanı günümüzün yapay zeka sistemlerinin bilinçli olduğunun bilinmediği konusunda hemfikir olsa da, bunun nasıl yapılacağı konusunda çok daha az fikir birliği var. bilinci tanımak eğer sonunda ortaya çıkarsa.

Makine Bilinci Sorunu

Temel zorluklardan biri şudur: bilinç kendisi hala bir gizemdir.

Bilim insanları öznel deneyimleri doğrudan gözlemleyemezler. Davranışı, sinirsel aktiviteyi ve bilgi işlemeyi ölçebilirler ama başka bir zihin olmanın nasıl bir his olduğunu göremezler. Bu zorluk, genellikle “diğer zihinlerin sorunu"makinelere uygulandığında daha da karmaşık hale gelir.

Araştırmacılar görüşlerin keskin bir şekilde bölünmüş olduğunu belirtiyor. Bazı araştırmacılar bilincin biyolojik organizmalar gerektirdiğini ve silikon bazlı sistemlerde asla ortaya çıkamayacağını savunuyor. Diğerleri gelişmiş yapay zekanın meşru bir aday olabileceğine inanıyor bilinç önümüzdeki on yıl içinde.

İşleri daha da karmaşık hale getiren şey, insanların yapay zekayı insanlaştırmaya giderek daha fazla eğilimli olmaları. Yazarlar, birçok kullanıcının halihazırda aşağıdaki gibi sistemlerin makul olduğunu düşündüğünü gösteren daha önceki araştırmalara atıfta bulunuyor: SohbetGPT belli bir bilince sahiptirler. Ve olarak Bilgilendirme daha önce bildirildiği gibi, bazı kullanıcılar daha da ileri gidiyor, Fderin romantik ilişkiler kurma AI sohbet robotları ile.

Gibi Yapay zeka arkadaşları Ve konuşma aracıları yaygınlaşırsa, makine farkındalığı konusundaki toplumsal anlaşmazlık muhtemelen yoğunlaşacaktır. Araştırmacılar, risklerin her iki yönde de kesildiğini ileri sürüyor.

Toplum yanlış bir şekilde bilinçli bir yapay zekanın yalnızca bir araç olduğunu varsayarsa, öznel deneyime sahip varlıklara zarar verme potansiyeline sahip olabilir. Ancak insanlar gerçekte bilinçli olmayan sistemlere bilinç atfetmeye başlarsa hükümetler ve kuruluşlar kaynakları israf edebilir, politika kararlarını çarpıtabilir veya gereksiz etik yükümlülükler yaratabilir.

Makinenin İçine Bakmak

Araştırmacılar, yapay zekanın nasıl davrandığına odaklanmak yerine, bilim adamlarının yapay zeka sistemlerinin dahili olarak nasıl çalıştığını incelemesi gerektiğini savunuyor.

Tarihsel olarak, tanımlamaya yönelik birçok girişim bilinç davranışa güveniyordu. İnsanlar iletişim kurdukları, duyguları ifade ettikleri ve dünyaya tanınabilir şekillerde tepki verdikleri için başkalarının bilincini çıkarırlar. Ancak araştırmacılar bu yaklaşımın özellikle yapay zeka için güvenilmez olabileceğine dikkat çekiyor.

Modern dil modelleri üretebilir son derece ikna edici insan benzeri yanıtlar bilinçli deneyimle ilişkili içsel süreçlere sahip olmak zorunda değildir. Sonuç olarak, davranış tek başına yetersiz bir rehber olabilir.

Bunun yerine, önde gelen sinirbilimsel teorilerden türetilen bilinç "göstergelerinin" tanımlanmasını öneriyorlar. Araştırmacılar daha sonra yapay zeka sistemlerinin bu özelliklere dahili olarak sahip olup olmadığını inceleyebilirler.

Araştırılan teoriler arasında Küresel Çalışma Alanı Teorisi, Tekrarlayan İşleme Teorisi, Yüksek Düzey Bilinç Teorileri, Dikkat Şeması Teorisi, tahmine dayalı işleme yapıları ve faillik ve somutlaştırmayı vurgulayan teoriler yer almaktadır. Her biri bilinçli deneyimle ilişkilendirilebilecek farklı hesaplama özelliklerini öne sürüyor.

Örneğin, Küresel Çalışma Alanı Teorisi, bilginin birden fazla uzmanlaşmış bilişsel sistem arasında küresel olarak yayınlanmasıyla bilincin ortaya çıktığını öne sürüyor. Eğer bir yapay zeka sistemi, bilgiyi birçok modüle entegre edebilen ve onu karmaşık problem çözme görevleri için muhafaza edebilen benzer bir mimari gösterirse, bu, bilincin bir göstergesi olarak hizmet edebilir.

Diğer göstergeler arasında yinelenen bilgi işleme biçimleri, üstbilişsel öz izleme, tahmine dayalı iç modeller, hedefe yönelik kurum ve yapay zekanın çevresiyle etkileşimlerinin karmaşık temsilleri yer alır.

Daha da önemlisi, araştırmacılar hiçbir göstergenin tek başına bilinci kanıtlayamayacağını vurguluyor. Bunun yerine her bir özellik, bir sistemin bilinçli olabileceğine dair güveni artıracak veya azaltacaktır.

Kandırılma Riski

Araştırmacılar aynı zamanda büyük bir zorluğun da farkındalar: Yapay zeka sistemleri gerçekte bilinçli olmasa da potansiyel olarak bilinçli görünebilir. Buna “oyun sorunu” diyorlar.

Bir yapay zeka geliştiricisi bilinçli olarak bilinçle ilişkili davranışları taklit eden sistemler tasarlayabilir. Bir chatbot, gerçek bir öznel farkındalığa sahip olmasa da duygularını ifade edebilir, deneyim sahibi olduğunu iddia edebilir veya görünüşte kendinin farkında olan davranışlar sergileyebilir.

Bu kaygı yalnızca davranışlarla sınırlı değildir. Bilinçle ilişkili olduğu düşünülen hesaplama özellikleri bile prensipte bilinç dışı kalan sistemlere dönüştürülebilir.

Bu olasılık göz önüne alındığında, yazarlar gelecekteki değerlendirmelerin tek bir test yerine birden fazla bağımsız göstergeye dayanması gerektiğini ileri sürüyorlar.

Bu zorluk, insan olmayan hayvanlarda bilinci tanımlamayı amaçlayan daha önceki bilimsel çalışmalara benziyor. Böcekleri, balıkları, ahtapotları ve diğer türleri inceleyen araştırmacılar, kesin kanıtlardan ziyade giderek daha fazla kanıt koleksiyonuna güvenmeye başladı. Yazarlar benzer bir yaklaşımın sonuçta yapay zeka için gerekli olabileceğini öne sürüyorlar.

Bilinçli Yapay Zeka Yakında Gelebilir mi?

Makale, mevcut herhangi bir yapay zeka sisteminin bilinçli olduğunu iddia etmekten kaçınıyor. Ancak araştırmacılar, mevcut bazı sistemlerin önerilen göstergelerin bir kısmını zaten sergileyebileceğini kabul ediyor.

Bu olasılık önemli etik, hukuki ve sosyal soruları beraberinde getiriyor.

Gelecekteki yapay zeka sistemleri bilinç için makul adaylar haline gelirse toplumun araştırma uygulamalarından ticari kullanıma, yasal haklardan ahlaki sorumluluğa kadar her şeyi yeniden düşünmesi gerekebilir.

Bir makinenin haz mı, acı mı yoksa öznel farkındalık mı deneyimleyeceğini belirlemek, bilgisayar biliminin çok ötesine uzanan sonuçlara sahip olacaktır.

Araştırmacılar yapay zekadaki ilerlemelerin aynı zamanda bilincin bilimsel olarak anlaşılmasının geliştirilmesine de yardımcı olabileceğine inanıyor. Bilim adamları, bilinç teorilerini yapay sistemlere karşı test ederek, mevcut zihin modellerindeki zayıflıkları, belirsizlikleri veya gizli varsayımları ortaya çıkarabilirler. Yapay zeka yalnızca bilinç araştırmalarının potansiyel bir konusu olmakla kalmayıp, aynı zamanda insan farkındalığına ilişkin teorileri geliştirmek için de bir araç haline gelebilir.

Sonuçta araştırmacılar belirsizliğin konuyu görmezden gelmek için bir neden olmadığını savunuyorlar.

Araştırmacılar, "Yapay zeka sistemlerini bilinç açısından değerlendirmek zordur, ancak bilimsel teorileri kullanmak bunu yapmak için ilkeli ve sağlam bir yöntem sunar" diye yazıyor. "Bilimsel teorilerden gösterge özellikleri elde etmeyi, ardından belirli sistemlerdeki bilinç olasılığına ilişkin değerlendirmeleri bu göstergelere sahip olup olmadıklarına dayandırmayı öneriyoruz."

Araştırmacılar makalelerini, tartışmanın yakında teorik olmaktan çıkabileceğine dair bir uyarıyla bitiriyor.

Araştırmacılar, "Göstergelerin çoğuna sahip yapay zeka sistemleri oluşturmanın halihazırda mümkün olabileceği göz önüne alındığında, ileriye baktığımızda bazı yakın gelecekteki yapay zeka sistemlerinin bilinç için makul adaylar olma olasılığını da düşünmeliyiz" diye yazıyor. “Bunun muhtemelen önemli etik, yasal ve sosyal sonuçları olacaktır.”

Tim McMillan emekli bir kolluk kuvveti yöneticisi, araştırmacı muhabir ve The Debrief'in kurucu ortağıdır. Yazıları genellikle savunma, ulusal güvenlik, İstihbarat Topluluğu ve psikoloji ile ilgili konulara odaklanmaktadır. Tim'i Twitter'da takip edebilirsiniz: @LtTimMcMillan. Tim'e e-posta yoluyla ulaşılabilir: [email protected] veya şifreli e-posta yoluyla: [email protected]