Anthropic met en garde contre l'IA auto-améliorante et appelle à un ralentissement mondial du développement

La société d'IA Anthropic a lancé un avertissement sur le potentiel des modèles d'intelligence artificielle à subir une « auto-optimisation récursive », conduisant à des systèmes capables de développer leurs propres successeurs. Tout en reconnaissant que les systèmes actuels n'en sont pas encore là, Anthropic estime que cela pourrait se produire plus tôt que de nombreuses organisations ne le sont préparées. L'entreprise suggère qu'un ralentissement mondial ou un arrêt temporaire du développement de l'IA est nécessaire pour atténuer le risque de perdre le contrôle humain sur des systèmes d'IA de plus en plus performants, malgré les avantages potentiels dans des domaines tels que la science et la santé.