Anthropic avverte sull'IA auto-migliorante e chiede un rallentamento globale dello sviluppo

La società di IA Anthropic ha lanciato un avvertimento sul potenziale dei modelli di intelligenza artificiale di subire un'"auto-ottimizzazione ricorsiva", portando a sistemi in grado di sviluppare i propri successori. Pur riconoscendo che i sistemi attuali non sono ancora a questo punto, Anthropic ritiene che ciò potrebbe accadere prima di quanto molte organizzazioni siano preparate. L'azienda suggerisce che un rallentamento globale o una pausa temporanea nello sviluppo dell'IA sia necessaria per mitigare il rischio di perdere il controllo umano su sistemi di IA sempre più capaci, nonostante i potenziali benefici in campi come la scienza e la salute.