'AI Kırmızı çizgiler için küresel çağrı', uluslararası AI politikasının eksikliğine ilişkin alarm veriyor

Pazartesi günü, 200'den fazla eski devlet başkanı, diplomatlar, Nobel Ödüller, AI liderleri, bilim adamları ve diğerleri bir şey üzerinde anlaştılar: AI'nın asla geçmesi gereken uluslararası bir anlaşma olmalı-örneğin, AI'nın bir insanı taklit etmesine veya kendini reddetmesine izin vermemek.

AI'ya hitap eden 70'den fazla kuruluşla birlikte, AI kırmızı çizgileri için küresel çağrıyı imzaladılar girişim, Hükümetlerin 2026 sonuna kadar AI için 'Kırmızı Çizgiler' konusunda uluslararası bir siyasi anlaşmaya varma çağrısı. İmzacılar arasında İngiliz Kanadalı bilgisayar bilimcisi Geoffrey Hinton, Openai kurucu ortağı Wojciech Zaremba, antropik Ciso Jason Clinton, Google DeepMind araştırma bilimcisi Ian Goodfellow ve diğerleri yer alıyor.

Pazartesi günü gazetecilerle yapılan bir brifing sırasında, “Amaç, büyük bir olay gerçekleştikten sonra tepki vermek değil, büyük bir olay gerçekleştikten sonra tepki vermek değil… ama büyük bir olay gerçekleşmeden önce potansiyel olarak geri döndürülemez riskleri önlemektir” dedi.

“Milletler AI ile ne yapmak istediklerini henüz kabul edemezlerse, en azından AI'nın asla ne yapmaması gerektiği konusunda hemfikir olmalılar.”

Duyuru, New York'taki 80. Birleşmiş Milletler Genel Kurulu Yüksek Seviye Haftası'nın önünde ve girişimin Cesia, Gelecek Topluluğu ve UC Berkeley'in İnsan Uyumlu Yapay Zeka Merkezi tarafından yönetildi.

Nobel Barış Ödülü Ödülü sahibi Maria Ressa, inisiyatiften onun sırasında bahsetti Açılış Sözleri Meclis'te “küresel hesap verebilirlik yoluyla büyük teknoloji cezasını sona erdirme” çabaları çağrısında bulunur.

Bazı bölgesel yapay zeka kırmızı çizgileri mevcuttur. Örneğin, Avrupa Birliği'nin AI'nın bazı kullanımlarını yasaklayan AI Yasası, AB içinde “kabul edilemez” olarak kabul edildi. ABD ve Çin arasında nükleer silah Yapay zeka değil, insan altında kalmalı, kontrol. Ancak henüz küresel bir fikir birliği yok.

Pazartesi günü gazetecilere verilen gazetecilere verdiği demeçte, uzun vadede, “gönüllü taahhütlerden” daha fazlasına ihtiyaç duyuluyor. Yapay zeka şirketleri içinde yapılan sorumlu ölçeklendirme politikaları “gerçek icra için yetersiz kalır”. Sonunda, kırmızı çizgileri tanımlamak, izlemek ve uygulamak için “dişlerle” bağımsız bir küresel kuruma ihtiyaç olduğunu söyledi.

UC Berkeley'de bilgisayar bilimi profesörü ve önde gelen AI araştırmacısı Stuart Russell, brifing sırasında “Nasıl güvende hale getirileceğini bilene kadar AGI inşa etmeyebilirler” dedi. “Tıpkı nükleer enerji geliştiricilerinin patlamalarını nasıl engelleyecekleri hakkında bir fikir sahibi olana kadar nükleer santraller inşa etmedikleri gibi, AI endüstrisi başlangıçtan itibaren güvenlikte inşa edilen farklı bir teknoloji yolu seçmeli ve bunu yaptıklarını bilmeliyiz.”

Russell, bazı AI düzenlemelerinin eleştirmenlerinin tartıştığı gibi, kırmızı çizgiler ekonomik kalkınmayı veya yeniliği engellemiyor. “Nasıl kontrol edeceğimizi bilmediğimiz AGI'ya sahip olmadan ekonomik kalkınma için yapay zeka sahibi olabilirsiniz” dedi. “Bu varsayılan ikilik, tıbbi teşhis istiyorsanız, o zaman dünyayı yok eden AGI'yi kabul etmelisiniz-bence bunun saçmalık olduğunu düşünüyorum.”