Uzmanlar, "Kötü Amaçlı Yapay Zeka Sürülerinin" Demokrasiyi Ele Geçirebileceğini, Hatta Fark Edilmeden Gidebileceğini Söyledi

Yapay zeka tarafından kontrol edilen yeni bir kişilik türü, benzeri görülmemiş tehdit Uzmanlar yakın zamanda demokratik toplumlara yönelik uyarıda bulundu.

Geleneksel siber saldırılardan farklı olarak bu sistemler daha sinsice çalışır, sızan çevrimiçi topluluklar ve anlatıların şekillendirilmesi.

Uyarı yakın zamanda düzenlenen bir politika forumunda sunuldu. Sbilim, Bu, yapay zeka kişiliklerinin sürülerinin insan davranışını o kadar ikna edici bir şekilde taklit edebileceğini, böylece konuşmaları etkileyebileceğini, fikirleri etkileyebileceğini ve hatta seçimleri değiştirebileceğini savunuyor. Geçmişteki botnet'lerin hantal ve tespit edilebilir yetenekleriyle karşılaştırıldığında, bunlar yeni yapay zeka ajanları gerçek zamanlı olarak koordinasyon sağlayabilir, geri bildirimlere yanıt verebilir ve binlerce çevrimiçi hesap ve konuşma arasında anlatıları ilerletebilir.

Yapay Zeka Kontrollü Personalar Nasıl Çalışır?

Yapay zeka modelleri, çok aracılı sistemlerle birlikte özgün, yerelleştirilmiş ve insana çok benzeyen binlerce yapay zeka "sesini" yaymak için tek bir operatör kullanabilir. Bu tür sistemler, mesajlaşmayı desteklemek ve geliştirmek için milyonlarca mikro test çalıştırabilir. Uzmanlar, sonuçların, tabandan yönlendirilmiş gibi görünse de aslında yüzde 100 yapay zeka tarafından üretilmiş, çevrimiçi olarak üretilmiş bir kamuoyu oluşturacağı konusunda uyarıyor.

Bu yeni yapay zeka yeteneği bildiğimiz şekliyle klasik propagandanın ötesine geçiyor. Yapay zeka tarafından kontrol edilen kişilerle, yanıtlar analiz edilebilir, ton ayarlamaları yapılabilir ve ağlar arasındaki faaliyetler koordine edilebilir; bu da sürülerin potansiyel olarak nefret söylemini ve kutuplaşmayı güçlendirmek, muhalif bakış açılarını bastırmak ve çevrimiçi tartışmaları belirli siyasi veya bireysel çıkarlara uygun yönlerde yönlendirmek için kullanılmasına olanak tanır.

Başka bir deyişle, bu tür bir teknoloji potansiyel olarak çok sayıda insanın, katılmasa bile bir konuda hemfikir olduğu yanılsamasını yaratma gücüne sahip olabilir.

Erken Uyarı İşaretleri

Şu an itibariyle, tam ölçekli yapay zeka sürüleri teorik bir sorun olmaya devam ediyor, ancak bu tür yeteneklerin potansiyel kullanımını içeren ilk göstergeler uluslararası alanda endişeleri artırıyor. British Columbia Üniversitesi'nden bilgisayar bilimcisi Dr. Kevin Leyton-Brown'a göre, yapay zeka tarafından üretilen deepfake'ler ve hatta tamamen uydurma haber kaynakları, Amerika Birleşik Devletleri'ndeki ve Tayvan, Endonezya ve Hindistan gibi diğer ülkelerdeki son seçim tartışmalarını etkileme yeteneğini zaten gösterdi.

Dr. Leyton-Brown, temelde yapay zeka sürülerinin demokrasilerdeki güç dengesini bozabileceğini söyledi. “Bu sistemler ortaya çıktıkça toplumun değişmeden kalacağını düşünmemeliyiz” diyor. "Muhtemel bir sonuç, sosyal medyadaki bilinmeyen seslere duyulan güvenin azalmasıdır; bu da ünlüleri güçlendirebilir ve tabandan gelen mesajların iletilmesini zorlaştırabilir."

Leyton-Brown ve diğerleri, yapay zeka sürülerinin demokrasilerdeki güç dengesini ustaca değiştirebileceği ve seçmen algılarını kimse onların bu şekilde manipüle edildiğini fark etmeden şekillendirebileceği konusunda uyarıyor. Araştırmacılar, bir sonraki büyük seçimin bu teknolojiler için gerçek bir kanıtlama alanı olarak hizmet edecek bir odak noktası olabileceği konusunda uyarıyorlar.

Bir Substack makalesinde, “Yapay zeka bot sürüleri demokrasiyi baltalamakla tehdit ediyor,” Dr. Leyton-Brown ve ortak yazarı yakın zamanda bu tür yeteneklerin temsil ettiği tehlikeleri açıkladılar.

"Hiçbir demokrasi mükemmel gerçeği garanti edemez, ancak demokratik müzakere daha kırılgan bir şeye bağlıdır: seslerin bağımsızlığına" diye yazıyorlar. “'Kalabalığın bilgeliği' ancak kalabalık farklı gruplardan oluştuğunda işe yarar. bireyler. Bir operatör binlerce maskenin ardından konuşabildiğinde bu bağımsızlık çöker.”

Yazarlar, "Sentetik fikir birliğinin yükselişiyle karşı karşıyayız: sürüler halinde farklı nişlere anlatılar ekiyor ve onları tabandan anlaşma yanılsaması yaratacak şekilde güçlendiriyor" diye yazıyor.

Son zamanların yazarları, insanın sosyal dinamiklerinin uyarlanabilir taklidi yoluyla Bilim Politika Forumu, yapay zekanın hafifletilmezse demokratik toplumlar için potansiyel olarak önemli bir tehdit oluşturabileceğini ileri sürüyor.

Yazarlar, "birden fazla kaldıraç noktasında müdahaleler" öneriyor ve bu tür potansiyel endişelerin üstesinden gelmek için "gönüllü uyum yerine pragmatik mekanizmalara" odaklanmanın gerekli olabileceğini ve bunun yanı sıra geliştirme çabalarının da gerekli olabileceğini ekliyor. daha güvenli yapay zeka sistemleri etraflı.

"Kötü niyetli yapay zeka sürüleri demokrasiyi nasıl tehdit edebilir" ortaya çıktı Bilim 22 Ocak 2026'da.

Chrissy Newton bir halkla ilişkiler uzmanı ve VOCAB Communications'ın kurucusudur. Şu anda The Discovery Channel ve Max'te yer alıyor ve sunuculuk yapıyor Asi Meraklı podcast, üzerinde bulunabilir YouTube ve tüm sesli podcast yayın platformlarında. Onu X'te takip edin: @ChrissyNewton, Instagram'da: @BeingChrissyNewtonVe chrissynewton.com. Bir hikaye ile Chrissy ile iletişime geçmek için lütfen chrissy @ thedebrief.org adresine e-posta gönderin.