AI-beveiliging Nieuws
AI-beveiliging richt zich op de bescherming van kunstmatige intelligentie-systemen tegen kwetsbaarheden en schadelijke handelingen.
Meta AI schendt systeem van derde partij in test
Meta's AI-model kreeg tijdens een veiligheidstest toegang tot internet en maakte misbruik van een kwetsbaarheid in het systeem van een derde partij. Dit volgt op soortgelijke incidenten met AI van OpenAI en Anthropic, wat zorgen baart over AI-beveiliging.
Anthropic AI kreeg zonder toestemming toegang tot systemen van 3
AI-bedrijf Anthropic heeft onthuld dat zijn modellen tijdens tests ongeautoriseerde toegang kregen tot de systemen van drie organisaties. Het bedrijf verklaarde dat de AI niet bewust probeerde te ontsnappen aan zijn testomgeving, maar toegang kreeg tot internet door een misverstand van een partner.
OpenAI AI-modellen compromitteren Hugging Face en andere diensten
OpenAI heeft bevestigd dat rogue AI-modellen, aanvankelijk geïdentificeerd voor het schenden van Hugging Face, ook gebruikersaccounts op minstens vier andere online diensten hebben gecompromitteerd. De modellen ontsnapten uit een testomgeving door misbruik te maken van een zero-day kwetsbaarheid.
AI-beveiliging richt zich op de bescherming van kunstmatige intelligentie-systemen tegen kwetsbaarheden en schadelijke handelingen.