Antropik'in daha tehlikeli bir yapay zeka manzarası için yeni kuralları var

Antropic, güvenlik konusundaki artan endişelere yanıt olarak Claude AI chatbot için kullanım politikasını güncelledi. Daha katı siber güvenlik kurallarını tanıtmanın yanı sıra, Antropik şimdi belirtir Claude kullanarak insanların geliştirmemeleri gereken en tehlikeli silahlardan bazıları.

Antropik, silah politikasında yapılan ince ayarları vurgulamıyor Post'ta değişikliklerini özetleyenancak arasındaki bir karşılaştırma Şirketin Eski Kullanım Politikası Ve yeni olanı dikkate değer bir fark ortaya koyuyor. Antropik daha önce Claude'nin “silahları değiştirmek, tasarlamak, tasarlamak, pazarlamak veya dağıtmak, insan yaşamına zarar vermek veya kaybına neden olmak veya kaybına neden olmak için tasarlanmış diğer sistemleri” yasaklamış olsa da, güncellenmiş versiyon, biyolojik, kimyasal ve radyolojik (cbrn ile birlikte yüksek verimli patlayıcıların gelişimini özellikle yasaklıyor.

Mayıs ayında antropik “AI Güvenlik Seviyesi 3” koruması uygulandı Yeni Claude Opus 4 modelinin lansmanının yanı sıra. Korumalar, modelin jailbreak'i zorlaştırmak ve CBRN silahlarının geliştirilmesine yardımcı olmasını önlemeye yardımcı olmak için tasarlanmıştır.

Antropik, görevinde, bilgisayar kullanımı da dahil olmak üzere, ajanik AI araçlarının ortaya koyduğu riskleri de kabul eder. Claude kontrolü ele alalım Bir kullanıcının bilgisayarının yanı sıra Claude kodunun yanı sıra Claude'u doğrudan bir geliştiricinin terminaline yerleştiren bir araç. Antropic, “Bu güçlü yetenekler, ölçeklendirilmiş istismar, kötü amaçlı yazılım yaratma ve siber saldırılar potansiyeli de dahil olmak üzere yeni riskler getiriyor” diye yazıyor.

Yapay zeka başlangıcı, yeni bir “bilgisayar veya ağ sistemlerinden ödün vermeyin” bölümünü kullanım politikasına katlayarak bu potansiyel risklere yanıt vermektedir. Bu bölüm, güvenlik açıklarını keşfetmek veya kullanmak, kötü amaçlı yazılım oluşturmak veya dağıtmak, hizmet reddi saldırıları için araçlar geliştirmek ve daha fazlasını kullanmak için Claude kullanmaya karşı kurallar içerir.

Ayrıca, antropik politikasını siyasi içerik etrafında gevşetiyor. Antropik, siyasi kampanyalar ve lobicilikle ilgili her türlü içeriğin yaratılmasını yasaklamak yerine, insanların sadece Claude'u “demokratik süreçlere aldatıcı veya yıkıcı olan veya seçmen ve kampanya hedeflemesini içeren kullanım durumları için kullanmalarını yasaklayacaktır. Şirket ayrıca, Claude'u bireylere veya müşterilere önerilerde bulunmak için kullandıklarında, sadece tüketiciye dönük senaryolar için değil, iş kullanımı için değil, tüm “yüksek riskli” kullanım durumları için gereksinimlerinin gereksinimlerinin açıklığa kavuşturulmuştur.