Grote zorgen over kunstmatige intelligentie: alles nep op het web

* Deepfake videobeeld van de vroegere Amerikaanse president Barack Obama.

Stel je voor: de zon schijnt, je zit buiten op een terras. Voor je op tafel ligt een schaakbord. Tegenover je zit je vader. Jullie zijn geanimeerd in gesprek en gezellig een potje aan het spelen. Alleen: je vader is allang overleden. En ook: ieder ander op dat terras ziet jouw vader niet, alleen jij. Utopisch? Niet volgens Manon den Dunnen, Strategisch Specialist Digitaal bij de politie en binnen die organisatie hét aanspreekpunt en dé kennishouder op het gebied van synthetische media: ‘Er gaat veel geld naar eye-tracking, analyse en targeting om te kunnen begrijpen waar iemand naar kijkt en wat diens geestelijke en lichamelijke gesteldheid is, zodat je met gepersonaliseerde informatie getarget kan worden. Vanuit projectie in de omgeving krijg jij straks zo je eigen individuele informatielagen over die omgeving heen. Zoals met de komst van de Apple Vision Pro-brillen die vanaf begin 2024 in de Verenigde Staten verkrijgbaar zullen zijn, maar ook de slimme autoruiten waar nu aan gewerkt wordt. Daarmee zie je zowel de gewone wereld als projecties er bovenop: mixed reality dus. Zo krijgen we steeds meer personalisatie in de fysieke wereld om ons heen waardoor we steeds minder een gezamenlijk wereldbeeld hebben.’

De algemene consensus is dat binnen nu en twee jaar meer dan 90 procent van de informatie op het internet gemanipuleerd is

Is dit iets dat de kwaliteit van ons leven zal verbeteren? Allesbehalve. Den Dunnen: ‘Door gebruik te maken van allerlei online tools wordt de wereld steeds meer voor ons geconstrueerd. En ook, door wie de wetten van de technologie kent, steeds meer gemanipuleerd en misvormd. Wanneer weet je wat nog echt is en wat jouw gedrag bepaalt? Dat is nu al zo. Wie heeft nog door dat als je Google Maps gebruikt je eigenlijk door een digitale bril naar de werkelijkheid kijkt?’

Het gaat verder: de algemene consensus in de wereld van het internet is dat binnen nu en twee jaar meer dan 90 procent van de informatie op het web gemanipuleerd is. Het is niet echt. Het is nep. We gaan ons wereldbeeld dus voor een groot deel laten bepalen door informatie die op wat voor manier dan ook door artificial intelligence (AI) gemanipuleerd of gegenereerd is. We gaan handelen naar een gecreëerde illusie. Hoe kun je je dan nog tot het echte leven en anderen – je buren, je vrienden of collega’s, de overheid – verhouden? Den Dunnen: ‘We laten ons het meest beïnvloeden door wat we zelf zien en horen. Door de steeds verdergaande ontwikkelingen gaan we naar een samenleving waarin je niet meer kunt vertrouwen op je eigen waarneming. Ik maak me daar grote zorgen over.’

Incidenten

De ontwikkeling van AI wordt ingezet om de kwaliteit van het leven te verbeteren. Developers schermen met nobele intenties. Wie weet is dat oprecht. Kunstmatige intelligentie zou kunnen helpen om kanker te genezen, het verkeer veiliger te maken, of de klimaatcrisis op te lossen. Maar grote zorgen zijn er ook. Oók bij de Nederlandse politie. We worden in toenemende mate geconfronteerd met het kwaad waartoe AI in staat is: cyberaanvallen, afpersing, spoofing, phishing, poisoning, malware aanvallen, fraude, het verschaffen van een vals alibi (je kunt al een bankrekening op naam van iemand anders openen, omdat je de online authenticatie systemen voor de gek kunt houden), inbraak in systemen die worden beschermd door gezichtsherkenning, misleiding, haat zaaien, pornografie, virtuele aanranding, het verspreiden van misinformatie, het beïnvloeden van democratische verkiezingen en de koersen op de aandelenbeurzen. Dat laatste gebeurde onlangs nog in de Verenigde Staten toen op Twitter een nepfoto van een explosie in de buurt van het Pentagon werd geplaatst. De brandweer van Virginia meldde dat er helemaal geen explosie had plaatsgevonden bij het gebouw van het Amerikaanse ministerie van Defensie. Toch daalde de Amerikaanse S&P 500-index met 0,26 procent. Als gevolg van het verspreiden van één enkele foto. De beurs veerde pas weer op, toen onomstotelijk bleek dat het beeld nep was.

Volgens de onafhankelijke Britse organisatie AIAAIC (AI, Algorithmic, and Automation Incidents and Controversies) dat incidenten in verband met ethisch misbruik van AI bijhoudt, is het aantal sinds 2012 liefst 26 keer zo groot geworden. De toename is exponentieel en wordt wel vergeleken met de curve van een hockeystick. Inmiddels zitten we in de lijn recht omhoog. Het is een beeld dat Manon den Dunnen herkent. ‘Het in kaart brengen van alles wat gaande is, kunnen wij allang niet meer met slechts een afdelinkje volgen. De volledige organisatie van de politie moet zich er bewust van zijn.’

Benieuwd naar de rest van het artikel? Je leest 't in de nieuwste Revu.