Birisine en değerli anılarınız veya en derin zayıflıklarınız hakkında konuştuğunuzu ve daha sonra karşı taraftaki dikkatli dinleyicinin bir insan değil, bir makine olduğunu keşfettiğinizi hayal edin.
Yayınlanan yeni araştırmaya göre İletişim Psikolojisiyapay zeka teşvik etme konusunda şaşırtıcı derecede iyi olabilir duygusal bağlantılarve hatta bazı durumlarda insanlardan daha iyi performans gösteriyor.
Ancak bir sorun var: İnsanlar başka bir insanla konuştuklarına inandıklarında en iyi sonucu verir.
492 katılımcıyı içeren iki çift kör, randomize kontrollü çalışmada araştırmacılar şunları buldu: büyük dil modeli (LLM) tarafından oluşturulan tepkiler, insan tepkilerine kıyasla eşit ve bazen daha büyük kişilerarası yakınlık duygularını teşvik etti.
Etki özellikle duygusal açıdan yoğun “derin konuşma” konuşmaları sırasında belirgindi. Ancak katılımcılara bir yapay zeka ile etkileşime girdikleri söylendiğinde bu duygular azaldı ve araştırmacıların “yapay zeka karşıtı önyargı” olarak tanımladığı durum ortaya çıktı.
Bu bulgular, yapay zekanın yalnızca anlamlı sosyal etkileşimlerin temelini oluşturmakla kalmayıp, aynı zamanda belirli koşullar altında duygusal açıdan ilgi çekici alışverişler için de özellikle uygun olabileceğini ve psikoterapi, sağlık hizmetleri ve dijital arkadaşlığın geleceği için derin çıkarımlar sağlayabileceğini öne sürüyor.
Araştırmacılar, “Büyük dil modellerinin kamuoyuna erişiminin artmasıyla birlikte, yapay zeka (AI) ile sosyal-duygusal etkileşimlerin insan benzeri ilişkiler kurmaya yol açıp açamayacağı ve hangi koşullar altında yol açabileceği konusunda sorular ortaya çıkıyor” diye yazıyor. “Duygusal açıdan ilgi çekici etkileşimlerden sonra insanların yapay zekaya diğer insanlardan daha yakın hissettiklerini gördük.”
İnsanlar ve yapay zeka arasındaki ilişkilerin nasıl oluştuğunu incelemek için Freiburg Üniversitesi’ndeki araştırmacılar, köklü bir psikolojik araç olan “Hızlı Arkadaşlar Prosedürü”nü uyarladılar. Başlangıçta yabancılar arasında hızlı bir şekilde kişilerarası yakınlık oluşturmak için tasarlanan yöntem, yapılandırılmış sorular aracılığıyla karşılıklı kendini açmayı artırmaya dayanıyor.
Yaşları 18 ila 35 arasındaki Alman üniversite öğrencileri olan katılımcılar, 15 dakikalık metin tabanlı etkileşimlerde bulundular. Onların haberi olmadan, “ortak” yanıtları ya bir laboratuvardaki gerçek insan katılımcılar tarafından ya da minimum düzeyde harekete geçirilen büyük bir dil modeli (Google’ın PaLM 2’si, Bard aracılığıyla 2024’ün başlarında erişildi) tarafından önceden oluşturulmuştu. Bazı durumlarda katılımcılara bir insanla etkileşimde oldukları söylendi. Diğerlerinde ise bir yapay zeka ile konuştukları kendilerine bildirildi.
Araştırmacılar ayrıca duygusal yoğunluğu da manipüle etti. Bazı etkileşimler hafif küçük konuşmalar içeriyordu. Diğerleri, değerli yaşam anıları ve temel kişisel değerler de dahil olmak üzere daha derin açıklamalara ihtiyaç duyuyordu. İlişki kurmanın temel ölçüsü, yaygın olarak kullanılan bir psikolojik ölçek kullanılarak değerlendirilen algılanan kişilerarası yakınlıktı.
Sonuçlar, katılımcılar bir insanla etkileşime girdiklerine inandıklarında, yapay zeka tarafından oluşturulan tepkilerin aslında gerçek insan tepkilerinden daha fazla yakınlık duygusuna yol açtığını ortaya çıkardı; ancak yalnızca duygusal açıdan ilgi çekici derin konuşmalar sırasında.
Araştırmacılar, “Yapay zeka tarafından oluşturulan içerik, duygusal açıdan ilgi çekici derin konuşma etkileşimleri sırasında yakınlık duygusu oluşturma konusunda insan tarafından oluşturulan içerikten daha iyi performans gösterdi” diyor. “Ayrıca, katılımcılar yapay zeka ile etkileşimlerinde daha fazla bilgiyi kendileri açıkladılar ve her iki tarafın da kendini ifşa etme düzeyleri birbiriyle ilişkilendirildi.”
Daha da önemlisi, bunun nedeni yapay zeka daha uzun yanıtlar yazdı veya bariz üslup avantajları sergiledi. Yerine, dilsel analiz AI ortaklarının, kişisel duyguları, deneyimleri ve sosyal yansımaları paylaşarak önemli ölçüde daha yüksek düzeyde kendini ifşa etme sergilediğini ortaya çıkardı.
Bu artan kendini ifşa etme etkisi, etkiyi artırıyor gibi görünüyordu. Katılımcılar, kendileri hakkında daha fazla bilgi veren partnerlere kendilerini daha yakın hissettiklerini bildirdi. Buna karşılık, katılımcılar yapay zeka ile etkileşime girdiklerinde kendi hayatları hakkında daha fazla bilgi verdiler ve bu da karşılıklı bir dinamik olduğunu ortaya koydu.
Başka bir deyişle, yapay zekanın “açılma” isteği, insanları da aynısını yapmaya teşvik etti.
Bu bulgu, duygusal iletişimin yapay zekanın kaçınılmaz olarak yetersiz kaldığı benzersiz bir insan alanı olduğu yönündeki yaygın varsayıma meydan okuyor. Bunun yerine çalışma, Yüksek Lisans’ların (en azından metin tabanlı ortamlarda) hızlı yakınlaşmayı teşvik eden kırılganlığı ve duygusal şeffaflığı etkili bir şekilde simüle edebildiğini öne sürüyor.
Ancak illüzyon ortadan kaldırıldığında avantaj ortadan kalktı.
İkinci çalışmada katılımcılara etkileşim partnerlerinin insan mı yoksa yapay zeka mı olduğu açıkça söylendi. Aynı kişilerle etkileşimde bulunurken bile Yapay zeka tarafından oluşturulan Yanıtlara göre, bir yapay zeka ile konuştuklarına inanan katılımcılar daha düşük düzeyde yakınlık bildirdiler.
Bu etiket etkisi istatistiksel olarak anlamlıydı. Ortağa yapay zeka olduğu söylendiğinde, insan etiketli etkileşimlere kıyasla kişilerarası yakınlık dereceleri azaldı.
Daha da önemlisi, yakınlıktaki düşüş yapay zekanın tepkilerinin değişmesinden kaynaklanmıyordu. İçerik sabit kaldı. Değişen şey katılımcının zihniyetiydi.
Araştırmacılar, insanların yapay zeka ile etkileşime girdiklerine inandıklarında daha kısa yanıtlar yazdıklarını buldu; bu da duygusal etkileşimin azaldığını gösteriyor. Bu kısa yanıtlar daha düşük algılanan yakınlıkla ilişkilendirildi.
Kısacası insanlar, ilişkinin bir makine olduğunu bildiklerinde ilişkiye daha az yatırım yapıyorlardı.
Ancak bununla birlikte bile AI karşıtı önyargıilişki kurma hâlâ devam ediyordu. Yakınlık, yapay zeka etiketli koşullarda başlangıca göre önemli ölçüde arttı; bu da yapaylık farkındalığının duygusal bağlantı kapasitesini azalttığını, ancak ortadan kaldırmadığını gösteriyor.
Bulguların bir yorumu paradoksaldır: Yapay zekanın gerçek duygusal deneyimden yoksun olması, onu insanların hassas konuşmalar sırasında karşılaştığı sosyal risklerden kurtarabilir.
İnsanlar genellikle derin kişisel bilgileri, özellikle de yabancılara açıklamaktan çekinirler. Duygusal olarak kendini ifşa etmek, reddedilme, yargılama, kişisel ayrıntıların kötüye kullanılması gibi sosyal riskler taşır. Ancak bir yapay zeka utanmayı, reddedilmeyi veya ihaneti deneyimleyemez.
Araştırmacılar, bu duygusal risk eksikliğinin, yapay zekanın duygusal açıdan yüklü tartışmalarda sürekli olarak yüksek düzeyde açıklık sergilemesine izin verebileceğini öne sürüyor. Bu açıklık, insan ortakların karşılıklı kırılganlığına davetiye çıkarıyor.
Yine de araştırmacılar yapay zekanın duygusal iletişimde genel anlamda üstün olduğu sonucuna varmamak konusunda uyarıyor. Avantaj yalnızca maskelenmiş derin konuşma senaryolarında ortaya çıktı. Yapay Zeka olarak etiketlendikten sonra göreceli gücü azaldı.
Bununla birlikte, sözde “AI karşıtı önyargıya” karşı da önemli bir uyarı olabilir. Bu kontrollü deneydeki katılımcılar, bir makineyle etkileşimde olduklarını bildiklerinde daha düşük düzeyde yakınlık bildirmiş olsalar da, gerçek dünyadaki davranışlar, yapaylığın farkındalığının derin bağlılığı mutlaka engellemediğini öne sürüyor.
Daha önce bildirildiği üzere Bilgilendirmediğer yeni araştırmalar bireyleri belgeledi Yapay zeka sohbet robotlarıyla yoğun kişisel bağlar kurmaHatta bazıları romantik birliktelikleri veya “evliliklerini” ve dijital arkadaşlarıyla kurgusal “bebekler” sahibi olduklarını anlatıyor. Tüm bunlar olurken diğer taraftaki varlığın insan olmadığının tamamen farkındaydı.
Bu durumlarda “AI” etiketi duygusal yatırımı azaltmadı. Aksine, chatbotun tutarlılığı, kullanılabilirliği ve yargılamayan yapısı onu güçlendiriyor gibi görünüyordu.
Birlikte, bulgular, AI karşıtı önyargının büyük ölçüde bağlama bağlı olabileceğini, kısa deneysel karşılaşmalarda daha belirgin olduğunu, ancak duygusal güvenin derinleşmek için zamanının olduğu devam eden, sürükleyici etkileşimlerde potansiyel olarak azaldığını gösteriyor.
Sonuçta bu bulgular, yapay zekanın aşağıdakiler gibi aşırı gerilmiş sosyal sektörlerdeki potansiyeline işaret ediyor: akıl sağlığı bakım, yaşlı bakımıve hasta desteği. Araştırmacıların belirttiği gibi, konuşmaya dayalı yapay zeka, güvenlik önlemleri mevcut olduğu sürece ilişki kurmanın ve duygusal katılımın kritik olduğu ortamlarda yardımcı olabilir.
Öte yandan sonuçlar etik risklerin altını çiziyor.
Eğer yapay zeka gerçek yakınlık duygularını besleyebilirse (özellikle insan kılığına girdiğinde) kötüye kullanılabilir. manipülasyon, aldatmaveya sömürü. Duygusal güven güçlüdür. Yanlış ellere geçtiğinde sosyal mühendislik, dolandırıcılık ve psikolojik zarara yol açan bir vektör haline gelir.
Daha da önemlisi, üretken yapay zeka sistemleri halihazırda bu çalışmada kullanılan 2024 dönemi modelinin çok ötesine geçerek daha da gelişmiş hale geldi ve bu nedenle riskler daha da arttı.
Araştırmacılar, “Bu bulgular, yapay zekanın aşırı yüklü sosyal alanları hafifletme potansiyelini vurgularken, aldatıcı sosyal bağlantıları teşvik etmek amacıyla kötüye kullanılmasını önlemek için acil etik önlemlere duyulan ihtiyacın altını çiziyor” diye uyarıyor.
Araştırmacılar, bulguların makinelerin insanlardan üstün olduğu anlamına gelmediğini söylüyor. Aksine, daha incelikli bir şeyi ortaya çıkarıyor: İnsan algıları ve beklentileri, yapay zekanın duygusal gücünü şekillendiriyor.
Başka biriyle konuştuğumuza inandığımızda yapay zeka, duygusal bağlantının dinamiklerini yansıtabilir ve hatta güçlendirebilir. Onun bir makine olduğunu bildiğimizde, şüphecilik devreye giriyor ve katılım isteğimizi değiştiriyor.
Şimdilik insan ve yapay arkadaşlık arasındaki sınır psikolojik olarak anlamlı olmaya devam ediyor. Ancak bu çizgi bulanıklaşmaya başlıyor.
Sonuç olarak araştırmacılar, yapay zekanın hem güçlü bir toplumsal araç hem de potansiyel bir risk kaynağı olarak giderek daha tanıdık hale gelen ikili rolünü vurguluyor.
Araştırmacılar şöyle yazıyor: “Bir yandan yapay zeka, psikoterapi, tıbbi bakım ve yaşlı bakımı gibi aşırı yüklü sosyal alanlardaki gerilimi hafifletme konusunda büyük umut vaat ediyor. Bu alanlarda kabulü teşvik etmek için, insan-Yapay Zeka Etkileşimlerinin şeffaf bir şekilde insan liderliğinde tanıtılmasını, sürekli izlenmesini ve sistematik olarak değerlendirilmesini öneriyoruz.” “Öte yandan, sonuçlarımız yapay zekanın aldatıcı duygusal bağlantıları teşvik ederek manipülasyon amacıyla kötüye kullanılma riskinin altını çiziyor.”
Tim McMillan emekli bir kolluk kuvveti yöneticisi, araştırmacı muhabir ve The Debrief’in kurucu ortağıdır. Yazıları genellikle savunma, ulusal güvenlik, İstihbarat Topluluğu ve psikoloji ile ilgili konulara odaklanmaktadır. Tim’i Twitter’da takip edebilirsiniz: @LtTimMcMillan. Tim’e e-posta yoluyla ulaşılabilir: [email protected] veya şifreli e-posta yoluyla: [email protected]
