Waarom AI-fouten zelden aan de techniek liggen

Kort antwoord: bij de bekendste AI-incidenten deed de techniek meestal gewoon wat hij doet. ChatGPT verwerkte wat erin werd gezet, een chatbot gaf een antwoord, een taalmodel schreef een tekst. Het ging mis in wat eromheen ontbrak: duidelijke afspraken, controle en kennis. Dat is goed nieuws, want precies dat kun je regelen.

Na een AI-incident is de eerste vraag vaak: welke tool was het, en hoe kunnen we die blokkeren? Maar als je de bekende voorbeelden naast elkaar legt, zie je een ander patroon.

Drie bekende voorbeelden

Samsung: gevoelige code in ChatGPT

In 2023 zetten medewerkers van de chipdivisie van Samsung onder meer broncode en vergadernotulen in ChatGPT, om hun werk sneller te doen. ChatGPT werkte precies zoals het werkt: het verwerkte wat het kreeg. Wat ontbrak, was een duidelijke grens over welke informatie niet in een externe AI-tool mag.

Air Canada: een chatbot die iets beloofde

In 2022 vertelde de chatbot van Air Canada een klant dat hij achteraf een korting kon aanvragen. Dat klopte niet met het beleid. Het taalmodel deed wat taalmodellen doen: een overtuigend antwoord geven. Wat ontbrak, was een afbakening van waar de chatbot over mocht praten, en een eigenaar die de antwoorden controleerde. Lees het hele verhaal in wist je dat je vastzit aan wat je chatbot belooft.

Deloitte: een rapport met verzonnen bronnen

In 2025 moest Deloitte Australië een deel van zijn vergoeding terugbetalen voor een overheidsrapport met verzonnen verwijzingen en een niet-bestaand citaat. In de herziene versie werd vermeld dat er generatieve AI was gebruikt. Wat ontbrak, was een controle die verzonnen bronnen had opgevangen.

Het patroon

In elk geval werkte de technologie zoals verwacht, inclusief de bekende zwakke plekken. De fout zat in:

Geen grens. Niemand had duidelijk gemaakt wat wel en niet in een AI-tool mag.
Geen eigenaar. Niemand was aanspreekbaar op wat de AI produceerde.
Geen controle. De output ging de deur uit zonder dat iemand de feiten naliep.
Geen kennis. De mensen die het gebruikten, wisten niet waar AI misgaat.

Dat zegt niets over hoe slim of zorgvuldig die mensen waren. Het zegt dat ze niet wisten wat ze moesten weten.

Waarom dit goed nieuws is

Als het probleem in de techniek zat, kon je weinig doen behalve wachten op betere tools. Maar grenzen, eigenaarschap, controle en kennis kun je zelf regelen. En dat kost minder dan je denkt:

Eén grens op papier. Welke gegevens gaan nooit in een AI-tool. Lees wat wel en niet in ChatGPT mag.
Eén eigenaar per toepassing. Wie is verantwoordelijk voor de chatbot, het rapport, de klantmail?
Eén controlestap. Feiten, cijfers, namen en bronnen worden nagelopen voordat iets de deur uitgaat. Lees waarom mensen dat vaak overslaan.
Eén basis voor iedereen. Een praktische training, zodat iedereen weet hoe AI werkt en waar het misgaat.

Wat je niet moet doen

Een tool verbieden na een incident voelt daadkrachtig. Maar als de grens, de eigenaar en de kennis ontbreken, gebeurt hetzelfde gewoon in een andere tool. Lees waarom een AI-verbod averechts werkt.

Veelgestelde vragen

Waardoor gaan de meeste AI-incidenten mis?

Bij de bekende voorbeelden lag het zelden aan een technische storing. Het ging mis doordat afspraken, controle en kennis ontbraken.

Is het dan de schuld van de medewerker?

Nee. Mensen kunnen alleen goede keuzes maken als ze weten waar de grens ligt en waarom. Dat is een taak van de organisatie.

Helpt een betere AI-tool niet?

Een zakelijke tool met goede afspraken helpt zeker. Maar ook de beste tool kan een verzonnen bron opleveren of verwerken wat je erin zet. Kennis en controle blijven nodig.

Wat is de belangrijkste les uit deze incidenten?

Dat je AI-risico's vooral verkleint met duidelijke afspraken, een eigenaar per toepassing, een controlestap en kennis bij iedereen die AI gebruikt.