Anthropic warnt vor sich selbst verbessernder KI und fordert globale Entwicklungsverlangsamung

Das KI-Unternehmen Anthropic hat vor dem Potenzial künstlicher Intelligenzmodelle gewarnt, eine „rekursive Selbstoptimierung“ durchzuführen, was zu Systemen führen könnte, die ihre eigenen Nachfolger entwickeln. Obwohl eingeräumt wird, dass aktuelle Systeme noch nicht so weit sind, glaubt Anthropic, dass dies früher geschehen könnte, als viele Organisationen vorbereitet sind. Das Unternehmen schlägt vor, dass eine globale Verlangsamung oder ein vorübergehender Stopp der KI-Entwicklung notwendig ist, um das Risiko des Verlusts der menschlichen Kontrolle über immer leistungsfähigere KI-Systeme zu mindern, trotz der potenziellen Vorteile in Bereichen wie Wissenschaft und Gesundheit.