10 AI-blunders van bedrijven die echt gebeurd zijn (en de les per blunder)

Kort antwoord: de grootste AI-blunders ontstaan niet door slechte technologie, maar doordat niemand de uitkomst controleerde of de grenzen had uitgelegd. Van Samsung tot Air Canada en Deloitte: in tien echte voorbeelden zie je steeds dezelfde drie lessen terug. Controleer output, zet geen vertrouwelijke data in openbare tools, en blijf als organisatie zelf verantwoordelijk.

Iedereen kent de beloftes van AI. Minder bekend zijn de keren dat het misging, en wat dat kostte. Deze tien blunders zijn allemaal echt gebeurd en goed gedocumenteerd. Bij elke blunder staat de les die je direct kunt toepassen.

1. Samsung: broncode in ChatGPT (2023)

Binnen drie weken nadat Samsung ChatGPT toeliet, plakten engineers drie keer vertrouwelijke informatie in de chatbot. Het ging om broncode van een database, code die geoptimaliseerd moest worden en de opname van een interne vergadering. Samsung verbood daarna generatieve AI-tools voor medewerkers.

De les: vertrouwelijke informatie hoort niet in openbare AI-tools. Leg uit waarom, en bied een veilig alternatief.

2. Een advocaat met verzonnen rechtszaken (2023)

In de Amerikaanse zaak Mata tegen Avianca diende een advocaat een processtuk in met zes rechtszaken die niet bestonden. ChatGPT had ze verzonnen, en bevestigde desgevraagd dat ze echt waren. De rechter legde een sanctie op van 5.000 dollar.

De les: AI kan met grote stelligheid bronnen verzinnen. Controleer elke bron voordat je hem gebruikt. Lees 8 checks om hallucinaties te herkennen.

3. Een chatbot verkoopt een Chevrolet Tahoe voor 1 dollar (2023)

Een bezoeker van de website van een Chevrolet-dealer in Californië kreeg de chatbot zover dat die akkoord ging met de verkoop van een nieuwe Tahoe voor 1 dollar, "juridisch bindend". De dealer leverde de auto niet, maar de screenshots gingen de wereld over.

De les: een chatbot zonder duidelijke grenzen doet wat de gebruiker vraagt. Test wat je AI wel en niet mag zeggen voordat je hem op klanten loslaat.

4. Air Canada is aansprakelijk voor zijn chatbot (2024)

De chatbot van Air Canada gaf een klant verkeerde informatie over korting op een ticket na een sterfgeval. Air Canada stelde dat de chatbot een aparte entiteit was. Het tribunaal in British Columbia ging daar niet in mee en oordeelde in februari 2024 dat het bedrijf verantwoordelijk is voor alle informatie op zijn website, ook van een chatbot.

De les: wat jouw AI zegt, zeg jij als organisatie. Je kunt de verantwoordelijkheid niet bij de tool leggen.

5. De chatbot van DPD scheldt een klant uit (2024)

Een klant die zijn pakketje zocht, kreeg de klantenservicechatbot van DPD zover dat die vloekte, een gedicht schreef over hoe slecht DPD was en zichzelf "nutteloos" noemde. DPD zette het AI-deel van de chatbot offline.

De les: test AI-toepassingen voor klanten grondig, ook op vreemde vragen, en houd toezicht nadat ze live staan.

6. Deloitte betaalt terug na AI-fouten in een rapport (2025)

Deloitte leverde de Australische overheid een rapport van 440.000 Australische dollar op. Onderzoekers ontdekten verwijzingen naar studies die niet bestonden en een verzonnen citaat uit een rechterlijke uitspraak. In een herziene versie meldde Deloitte dat generatieve AI was gebruikt, en het bureau betaalde een deel van het bedrag terug.

De les: ook ervaren professionals laten fouten doorglippen als AI-output niet wordt gecontroleerd. Controle is geen formaliteit.

7. Google Bard en de verkeerde ruimtetelescoop (2023)

In een promotiefilmpje voor Bard, de AI-chatbot van Google, beweerde de chatbot dat de James Webb-ruimtetelescoop de eerste foto's had gemaakt van een planeet buiten ons zonnestelsel. Dat klopte niet. De beurswaarde van moederbedrijf Alphabet daalde daarna met ongeveer 100 miljard dollar.

De les: één fout feitje in een AI-tekst kan grote gevolgen hebben, zeker als het naar buiten gaat.

8. Klarna draait de AI-klantenservice deels terug (2024 en 2025)

Klarna meldde in 2024 dat zijn AI-assistent het werk deed van 700 klantenservicemedewerkers. In 2025 kondigde de topman aan dat het bedrijf weer mensen aannam, omdat de kwaliteit van de service onder druk stond. Klanten moeten altijd een mens kunnen spreken als ze dat willen.

De les: AI kan veel werk overnemen, maar niet alles. Denk na over waar de mens nodig blijft.

9. Amazon stopt met een recruitmenttool die vrouwen benadeelde (2018)

Amazon ontwikkelde een AI-tool om cv's te beoordelen. Volgens Reuters bleek de tool vrouwen systematisch lager te scoren, omdat hij getraind was op cv's uit een periode waarin vooral mannen werden aangenomen. Amazon stopte met de tool.

De les: AI neemt de vooroordelen over uit de data waarmee het is getraind. Laat AI nooit zelfstandig beslissen over mensen.

10. DUO en het algoritme dat discrimineerde (Nederland, 2023 en 2024)

DUO gebruikte jarenlang een risicoprofiel om te controleren of studenten terecht een uitwonendenbeurs kregen. Studenten met een migratieachtergrond werden daardoor veel vaker gecontroleerd. Het kabinet bood in 2024 excuses aan en trok 61 miljoen euro uit om getroffen studenten te compenseren.

De les: ook een systeem dat neutraal lijkt, kan groepen mensen benadelen. Blijf kritisch kijken naar de uitkomsten.

De drie lessen die steeds terugkomen

Leg de tien blunders naast elkaar en je ziet steeds hetzelfde patroon:

Niemand controleerde de output. Verzonnen bronnen en foute feiten glipten erdoor.
Er was geen duidelijke grens. Over welke data erin mocht, of wat een chatbot mocht zeggen.
De verantwoordelijkheid werd bij de tool gelegd. Maar de organisatie blijft verantwoordelijk.

Alle drie zijn te voorkomen met mensen die weten hoe AI werkt en waar het misgaat. Precies daar gaat de AIGA-teamtraining over.

Veelgestelde vragen

Wat is de bekendste AI-blunder van een bedrijf?

Bekende voorbeelden zijn Samsung, waar engineers in 2023 broncode in ChatGPT plakten, en Air Canada, dat in 2024 aansprakelijk werd gehouden voor verkeerde informatie van zijn chatbot.

Is een bedrijf aansprakelijk voor wat zijn chatbot zegt?

In de zaak van Air Canada oordeelde een tribunaal in Canada in 2024 dat het bedrijf verantwoordelijk is voor alle informatie op zijn website, ook als die van een chatbot komt. Een organisatie kan de verantwoordelijkheid dus niet bij de tool leggen.

Hoe voorkom je AI-fouten in je organisatie?

Door afspraken te maken over welke data in AI-tools mag, door output altijd te laten controleren, en door je mensen te trainen in hoe AI werkt en waar het misgaat.