De 5 grootste AI-blunders en waarom je altijd scherp moet blijven

In mijn sessies laat ik altijd een paar flinke AI-blunders zien. Behalve dat het grappig is, heeft het ook een serieuze ondertoon. Je ziet namelijk steeds vaker dat bedrijven besluiten om mensen te vervangen door AI. Maar als je AI niet goed inzet, kan dit flink misgaan.

De onderstaande vijf verhalen gebruik ik vaak in mijn lezingen en ze zijn echt gebeurd.

1. McDonald's en de kipnugget-drive-thru

McDonald's testte een tijdje een systeem dat automatisch bestellingen opnam bij de drive-thru. Het idee was dat een AI-robot sneller en efficiënter bestellingen zou kunnen verwerken. Maar dit ging enorm mis. Op TikTok verschenen filmpjes van klanten waarin de AI-robot oneindig veel kipnuggets aan een bestelling bleef toevoegen zonder dat er iemand ingreep. Na drie jaar testen besloot McDonald’s in 2024 de stekker eruit te trekken en weer over te gaan op menselijke medewerkers.

2. Een nieuwe Chevrolet voor één dollar

Een autodealer dacht slim te zijn door een chatbot op de website te gebruiken. Deze chatbot maakte gebruik van ChatGPT, maar was niet helemaal goed afgesteld. Een handige klant kwam erachter en vroeg de chatbot om akkoord te gaan met de koop van een auto van 60.000 dollar voor maar 1 dollar. De chatbot ging akkoord en deze hack ging viraal op het internet.

3. Air Canada en de korting die niet bestond

Een reiziger moest naar de begrafenis van een familielid. Hij vroeg de chatbot van Air Canada of hier speciale, goedkopere tickets voor beschikbaar waren. De chatbot gaf aan dat je eerst het volledige bedrag moest betalen en dit later kon indienen om een deel van het geld terug te krijgen. Toen de reiziger dit probeerde, weigerde Air Canada uit te betalen. De reden: de chatbot had onjuiste informatie gegeven. De rechter maakte hier echter korte metten mee, waardoor de reiziger zijn geld alsnog terugkreeg.

4. Advocaten met onjuiste informatie

In New York had een advocaat ChatGPT gebruikt om onderzoek te doen naar eerdere rechtszaken. Hieruit rolde een lijst met namen, data en citaten. De advocaat gebruikte dit als bewijs in een rechtszaak, maar de rechter kwam erachter dat de informatie niet juist was. Dit was een enorme blunder voor deze advocaat.

5. Google adviseert om stenen te eten

Ook de grootste zoekmachine ter wereld maakt weleens fouten. Toen Google de AI-modus uitrolde, kregen gebruikers bizarre adviezen. De AI-modus raadde gebruikers aan om elke dag een steen te eten voor extra vitamines. Of om bijvoorbeeld lijm door de pizzasaus te doen, zodat de kaas beter bleef plakken. De informatie werd gehaald van Reddit, waarbij Google het verschil niet zag tussen satire en serieuze informatie.

Wat we hiervan kunnen leren

Het is van belang dat je als gebruiker nooit blindelings op nieuwe technologie vaart. Dit vertel ik altijd in mijn sessies. Blijf dus nadenken.