Inhoudelijk gecontroleerd: 19 september 2026
Digitale weerbaarheid
AI kan al websites bekijken, informatie ophalen en soms namens mensen handelen. Dat is nuttig, maar geeft ook nieuwe mogelijkheden voor fraude en fouten. Deze pagina houdt feiten, risico's en voorspellingen uit elkaar. Er is nu geen reden voor extreme financiële beslissingen of speciale AI-noodproducten.
Hugging Face meldde een inbraak in een deel van zijn systemen. Volgens het bedrijf werd de aanval uitgevoerd met een zelfstandig werkend AI-systeem. Er was toegang tot beperkte interne gegevens en enkele inloggegevens; publiek beschikbare modellen en datasets zouden niet zijn aangepast. De gevolgen voor derden waren toen nog in onderzoek.
Bron: Hugging FaceOpenAI beschreef een test waarin verborgen tekst een agent die e-mail onderzocht probeerde af te leiden. Dit heet prompt injection: instructies in een webpagina of bericht die de AI iets anders proberen te laten doen dan jij vroeg. De test bewijst niet dat elke agent of inbox over te nemen is.
Bron: OpenAI
Dat AI iets kan, betekent niet vanzelf dat het op grote schaal zal gebeuren.
Phishing bestond al, maar AI kan berichten en nepstemmen geloofwaardiger maken. Ga er niet van uit dat elk verdacht bericht door AI is gemaakt. Controleer vooral dringende vragen om geld, codes of gegevens.
Rijksoverheid over phishingEen agent met toegang tot je mail, bestanden of ingelogde websites kan veel zien en doen. Dat maakt een vergissing of misleiding schadelijker. Niet elke agent is onveilig, maar brede toegang is zelden nodig.
OpenAI over bescherming tegen verborgen instructiesEr is minstens één gemelde aanval waarbij een zelfstandig AI-systeem een rol speelde. In de laboratoriumstudie Agents of Chaos zagen onderzoekers bij agents met e-mail, bestanden en terminaltoegang onder meer ongeoorloofde acties en het delen van gevoelige informatie. Dat zegt niet hoe vaak dit buiten zo'n testomgeving gebeurt.
Gemeld incident bij Hugging Face · Studie: Agents of ChaosEen grote storing kan vele oorzaken hebben. Dat AI ooit een rol speelt, is een onzeker scenario, geen vaststaand vooruitzicht. Gewone voorbereiding op tijdelijke uitval is wel nuttig.
Overheid: voorbereiding op stroomuitvalScenario's waarin AI moeilijk te beheersen wordt zijn voorspellingen, geen zekerheid. Baseer er geen persoonlijke financiële, juridische of medische beslissingen op.
Deze maatregelen zijn niet alleen vanwege AI nuttig. Ze helpen ook bij gewone phishing, accountdiefstal, storingen en andere digitale problemen.
Laatst inhoudelijk gecontroleerd: . De directe bronnen staan bij de claims. Verder geraadpleegd: NCSC, Veilig Internetten, Rijksoverheid en Denk vooruit.