Anthropic Kendini Geliştiren Yapay Zekaya Karşı Uyarıyor, Küresel Gelişimi Yavaşlatma Çağrısı Yapıyor

Yapay zeka şirketi Anthropic, yapay zeka modellerinin "özyinelemeli kendi kendine optimizasyon" geçirme potansiyeli hakkında bir uyarıda bulundu ve bu durum kendi haleflerini geliştirebilen sistemlere yol açabilir. Mevcut sistemlerin henüz bu aşamada olmadığını kabul etmekle birlikte, Anthropic bunun birçok kuruluşun hazır olduğundan daha erken gerçekleşebileceğine inanıyor. Şirket, bilim ve sağlık gibi alanlardaki potansiyel faydalarına rağmen, giderek daha yetenekli yapay zeka sistemleri üzerindeki insan kontrolünü kaybetme riskini azaltmak için küresel bir yavaşlama veya yapay zeka geliştirmenin geçici olarak durdurulmasının gerekli olduğunu öne sürüyor.