Anthropic advierte sobre IA que se auto-mejora y pide una desaceleración global del desarrollo

La empresa de IA Anthropic ha emitido una advertencia sobre el potencial de los modelos de inteligencia artificial para someterse a una "auto-optimización recursiva", lo que llevaría a sistemas que pueden desarrollar sus propios sucesores. Si bien reconoce que los sistemas actuales aún no están en esta etapa, Anthropic cree que podría suceder antes de lo que muchas organizaciones están preparadas. La compañía sugiere que una desaceleración global o una pausa temporal en el desarrollo de la IA es necesaria para mitigar el riesgo de perder el control humano sobre sistemas de IA cada vez más capaces, a pesar de los beneficios potenciales en campos como la ciencia y la salud.