Hey orada ve hoş geldiniz Kod çözücü! Ben Hayden Field, kıdemli AI repoter Eşek – ve Perşembe bölüm konuk ev sahibiniz. Nilay ebeveyn iznine girerken sizin için birkaç şov daha var ve üretken AI patlamasının öngörülemeyen bazı sonuçlarına daha fazla zaman harcayacağız.
Bugün, AI Now Enstitüsü’nde AI bilim adamı olan Heidy Khlaaf ile ve otonom silah sistemlerinde AI’nın güvenliğinde önde gelen uzmanlardan biri olan Heidy Khlaaf ile konuşuyorum. Heidy aslında geçmişte Openai ile çalıştı; 2020’nin sonlarından 2011’in ortalarına kadar, şirketin kodeks kodlama aracı için güvenlik ve risk değerlendirme çerçeveleri geliştirdiği kritik bir süre boyunca şirket için Kıdemli Sistem Güvenlik Mühendisiydi.
Şimdi, daha önce görev ifadelerinde güvenlik ve etik şampiyon gibi görünen aynı şirketler artık askeri uygulamalar için aktif olarak yeni teknoloji satıyor ve geliştiriyor.
2024’te Openai kaldırıldı “Askeri ve savaş” yasağı, hizmet şartlarından davaları kullanır. O zamandan beri şirket, otonom silah üreticisi Anduril ve bu Haziran ayında bir anlaşma imzaladı. imzalı 200 milyon dolarlık Savunma Bakanlığı sözleşmesi.
Openai yalnız değil. En güvenlik odaklı AI laboratuvarlarından biri olarak üne sahip olan Antropic, modellerinin ABD savunma ve istihbarat amaçları için kullanılmasına izin vermek için Palantir ile ortaklık kurdu ve ayrıca kendi 200 milyon dolarlık DOD sözleşmesini yaptı. Ve Hükümet ile uzun zamandır çalışan Amazon, Google ve Microsoft gibi büyük teknoloji oyuncuları, şimdi de AI ürünlerini savunma ve istihbarat için zorluyor. Eleştirmenlerden ve çalışan aktivist gruplarından büyüyen.
Bu yüzden Heidy’nin AI endüstrisindeki bu büyük değişimden, neyin motive ettiğini ve önde gelen AI şirketlerinin neden yüksek riskli senaryolarda üretken AI kullanma konusunda çok daha cavali olduğunu düşündüğünü düşündüğüm şovda yer almak istedim. Ayrıca, askeri sınıf AI’yı dağıtma zorlamasının kimyasal, biyolojik, radyolojik ve nükleer silahlar geliştirmek için AI sistemlerini kullanmak isteyebilecek kötü aktörler için ne anlama geldiğini bilmek istedim-AI şirketlerinin kendilerinin giderek endişe duyduklarını söyledikleri bir risk.
Tamam, işte orduda AI’da Heidi Khlaaf. İşte başlıyoruz.
Bu bölümde ne hakkında konuştuğumuz hakkında daha fazla bilgi edinmek isterseniz, aşağıdaki bağlantılara göz atın:
Bu bölüm hakkında sorular veya yorumlar? [email protected] adresinden bize vur. Gerçekten her e -postayı okuyoruz!
Source link
