Anthropic waarschuwt voor zelfverbeterende AI en roept op tot wereldwijde ontwikkelingsvertraging
AI-bedrijf Anthropic heeft een waarschuwing uitgegeven over het potentieel van kunstmatige intelligentiemodellen om "recursieve zelfoptimalisatie" te ondergaan, wat leidt tot systemen die hun eigen opvolgers kunnen ontwikkelen. Hoewel wordt erkend dat huidige systemen nog niet zover zijn, gelooft Anthropic dat dit eerder kan gebeuren dan veel organisaties voorbereid zijn. Het bedrijf suggereert dat een wereldwijde vertraging of een tijdelijke stop in de ontwikkeling van AI noodzakelijk is om het risico van het verlies van menselijke controle over steeds capabelere AI-systemen te beperken, ondanks de potentiële voordelen op gebieden als wetenschap en gezondheid.



