In deze aflevering van de AI-Almanak gaat Amir in gesprek met Hendrik van Zwol. Ze duiken in de wereld van deepfakes en ontkrachten de mythe dat deze nog altijd makkelijk te herkennen zijn. Een gesprek over governance, social engineering en de vraag wie er verantwoordelijk is als het misgaat.
Waarom is de gedachte dat deepfakes nog wel te herkennen zijn zo gevaarlijk
Het is een gevaarlijke geruststelling. Mensen denken vaak dat ze een nepvideo wel herkennen aan een vreemd accent of een foutje in het beeld, maar die tijd is voorbij. Het risico zit hem niet in de perfecte kopie, maar in een resultaat dat 'goed genoeg' is op het juiste moment bij de juiste persoon. In een organisatie is 'goed genoeg' vaak al voldoende om geld te laten overmaken of beleid te laten kantelen. Herkennen is bovendien geen controle; je ontdekt het vaak pas achteraf, als de schade al is aangericht.
Wat doet een AI Magician precies volgens jouw eigen definitie
Ik noem mezelf zo omdat ik mensen wil verwonderen en inspireren met wat AI kan. Ik laat de mooie kanten zien, maar zeker ook de schaduwkanten. Een expert bouwt aan de fundamenten van de techniek, maar ik zit meer op de kant van de verbeelding, creatie en de menselijke impact. Mijn expertise ligt echt bij het beeld: van stilstaand beeld tot video en de manipulatie daarvan.
In welke fase zitten we nu als het gaat om de kwaliteit van AI beelden
We zijn de fase van de zes vingers en de drie rijen tanden inmiddels wel voorbij. Dat waren de kinderziektes waar we vorig jaar nog om lachten. Nu zitten we in de fase van modellen zoals Imagen 3 van Google. Deze maken beelden die zo goed zijn dat zelfs de meest geavanceerde AI-detectors beginnen te twijfelen. Ze geven vaak een kans van 50/50 of iets echt is of nep. Als de software het al niet meer weet, kun je als mens niet meer op je blote oog vertrouwen.
Wat is het eerste protocol dat je moet volgen bij een verdachte afbeelding
Mijn eerste stap is altijd een 'reverse image search'. Dat kan heel simpel in Google. Je klikt met je rechtermuisknop op een afbeelding en kiest voor 'Zoeken met Google Lens'. De zoekmachine kijkt dan in de database of die afbeelding al ergens op een nieuwswebsite of sociale media staat. Als de afbeelding nergens anders te vinden is, moet je jezelf echt gaan afvragen of het wel een echte foto is. Het is de meest simpele en effectieve eerste check die iedereen kan doen.
Hoe wordt social engineering versterkt door de komst van AI
AI is eigenlijk social engineering met een turbomotor. Een oplichter heeft geen perfecte videokloon van een CEO nodig. Een stem die genoeg lijkt op die van een bekende, gecombineerd met een dwingend WhatsApp-bericht, is vaak al genoeg. We moeten ophouden met vragen "is dit echt?" en in plaats daarvan vragen naar de herkomst. Waar komt de informatie vandaan en wie heeft het gemaakt? Organisaties moeten niet vertrouwen op pixels, maar op processen. Wie mag wat vragen en hoe verifieer je dat via een ander kanaal?
Welke rol spelen recente datalekken in de veiligheid rondom AI
Datalekken, zoals die onlangs bij grote providers, zijn een enorme bron voor criminelen. Er liggen nu gegevens op straat van miljoenen Nederlanders, van geboortedata tot bankrekeningnummers. In combinatie met AI-technologie wordt het voor boeven heel makkelijk om een gepersonaliseerde aanval op te zetten. Ze kunnen je bellen met een stem die lijkt op die van je bank en alle juiste persoonlijke gegevens noemen. Dat maakt de kans dat mensen erin trappen veel groter.
Hoe kunnen we ons als maatschappij wapenen tegen deze ontwikkelingen
Het begint bij bewustwording en educatie. Mensen die bij bedrijven werken moeten snappen waar de gevaren zitten. Daarnaast ligt er een grote taak bij de techbedrijven zelf om ons te beschermen, bijvoorbeeld door waarschuwingen in te bouwen in apps zoals WhatsApp. Ook de media en de journalistiek krijgen een belangrijkere taak. Zij moeten veel sneller informatie kunnen verifiëren en het publiek laten weten wanneer een video of afbeelding die viral gaat, eigenlijk nep is.
Is er al wetgeving die ons beschermt tegen misbruik van AI
Er is Europese regelgeving in de maak die watermerken verplicht stelt voor AI-gegenereerde content. Dat moet op twee manieren: een zichtbaar kenmerk in de hoek van het beeld en een technisch watermerk in de broncode. Google doet dit bijvoorbeeld al met SynthID. Toch blijft het een wapenwedloop. Wetgeving loopt vaak achter de feiten aan, dus we kunnen niet alleen op de regels vertrouwen. We moeten ook zelf kritisch blijven en protocol boven ons eigen gevoel stellen.
Wat zijn de vier elementen waarmee een mens zich nog kan onderscheiden van AI
Ik geloof dat de kracht van de mens in vier dingen zit: de menselijke maat (het echte contact), creativiteit (het bedenken van unieke concepten), vakkennis (snappen wat er in je markt speelt) en een kritisch vermogen (niet alles voor waar aannemen). Als je die vier combineert, word je de regisseur over de AI in plaats van een slaaf van de techniek. De machine kan sneller rekenen en zoeken, maar wij bepalen de richting en de kwaliteit.
Hoe zie jij de toekomst van ons werk en onze persoonlijke identiteit
We moeten onszelf als mensen misschien wel opnieuw gaan uitvinden. AI zorgt voor een enorme versnelling van ons werk, maar dat kan ook zorgen voor meer druk en burn-outs. We moeten oppassen dat we ons kritisch denkvermogen niet delegeren aan een machine die gestuurd wordt door grote machtsblokken in Amerika of China. Blijf nieuwsgierig, blijf onderzoeken en wees geen struisvogel. AI gaat niet meer weg, dus je moet leren hoe je jezelf en je organisatie ertegen beschermt.
