Wat hebben computers gedaan met ons gezicht?

Lotte Schuengel

25 juni 2021

Of je nu Snapchatfilters gebruikt, criminelen opspoort, of deepfakes verspreidt: gezichtsherkenningstechnologie is overal. Wat heeft dat gedaan met onze perceptie van de werkelijkheid?

Wat hebben computers gedaan met ons gezicht?

Of je nu Snapchatfilters gebruikt, criminelen opspoort, of deepfakes verspreidt: gezichtsherkenningstechnologie is overal. Wat heeft dat gedaan met onze perceptie van de werkelijkheid?

Lotte Schuengel - 11 juni 2021

28 jaar geleden begon het Amerikaanse leger computers te trainen om menselijke gezichten te herkennen. Dankzij ontwikkelingen in de afgelopen tien jaar, kunnen onze telefoons en computers ons uiterlijk niet alleen nog beter herkennen, maar ook in real-time veranderen.

Is dat reden tot zorgen? VPRO Tegenlicht maakte eerder vijf afleveringen die een blik werpen op de toekomst van ons gezicht, en hoe we ons kunnen wapenen tegen de deceptie van algoritmes.

Volmaaktheid voor de massa's

In Perfect Me onderzocht Tegenlicht het schoonheidsideaal van morgen. Door de invloed van sociale media en de groei van de diensteneconomie is uiterlijk nog belangrijker geworden. Tegelijkertijd biedt het internet juist daar een uitkomst. Wat als je dankzij slimme cameralenzen niet meer vastzit aan je uiterlijk waarmee je bent geboren, maar je helemaal zelf kunt kiezen hoe je eruitziet?

De digitale wereld geeft veel meer mogelijkheden dan de huidige cosmetica-industrie. Met de Augmented-Reality filters van Snapchat en Instagram kun je je digitale zelf bijvoorbeeld een egale huid, vollere wimpers en lippen, en een smalle kaaklijn geven. Op basis van een enorme database met handmatig geselecteerde punten op het gezicht, detecteert deze software waar iemands ogen, neus, lippen, wenkbrauwen en oren zitten, en creëert zo een ‘net’ dat als het ware over het gezicht heen ligt, waar effecten of vervormingen aan worden ‘vastgemaakt.’

Aflevering

Wie bepaalt wat mooi is?

bekijk: 'Perfect me'

technologie Aflevering

Kan AI ons eeuwig leven, geluk en schoonheid schenken?

bekijk: 'Technologie als religie'

Te mooi om waar te zijn

In eerste instantie waren de filters een grappige gimmick: je kon lijken op een hond, of er kwam een regenboog uit je mond. Maar er zijn steeds meer filters bijgekomen die je ‘mooier’ maken. Inmiddels hebben influencers op Instagram hun eigen ‘beauty-filters’ waarmee je net een beetje meer op hen kunt lijken. Zelfs Zoom heeft een functie die ‘touch up my appearance' heet.

Maar die digitale schoonheid heeft ook een keerzijde. Het kan leiden tot iets wat ‘Snapchat Dysmorphia’ wordt genoemd. Doordat we zo gewend zijn aan ons gefilterde, volmaaktere zelf, ‘schrikken’ we vervolgens als we onszelf weer in de spiegel zien. Dus stromen plastische chirurgie klinieken vol met mensen die bewerkte foto’s van zichzelf meenemen, en zo hopen meer op hun digitale, superieure, zelf te kunnen lijken. Zo komen echte gezichten dus niet alleen in de digitale wereld terecht, maar komen digitale gezichten ook weer in de echte wereld terecht.

Echte gezichten komen in de digitale wereld terecht, maar digitale gezichten komen ook in de echte wereld terecht

Deze persoon bestaat niet

Doordat er elke dag zoveel nieuwe gezichten worden geüpload, is het internet een goudmijn voor developers en onderzoekers om algoritmes te trainen. Zo bleek dat IBM in 2019 een dataset van duizenden Flickr-foto’s had samengesteld en geannoteerd om een AI te trainen in gezichtsherkenning, zonder aan de eigenaars te vertellen welke foto’s ze hadden gebruikt. Officieel mag dat namelijk gewoon. De dataset, Diversity Faces, is een van de vele datasets die online circuleren, ieder bestaand uit duizenden gezichten die iedereen kan gebruiken om gezichtsherkenning te trainen.

Verworden tot een dataset, reizen onze gezichten het internet over om een eigen leven te leiden. Computers hebben inmiddels zelfs zoveel informatie over gezichten kunnen verorberen, dat ze zelfs nieuwe kunnen genereren. In 2019 lanceerde Uber-programmeur Philip Wang de website thispersondoesnotexist.com, dat telkens als je het herlaadt een nieuw gezicht genereert dat levensecht lijkt, maar van niemand is. Wang maakte de website naar eigen zeggen als stunt om te laten zien waar computers nu al toe in staat zijn. Maar inmiddels gebruiken hele trollenlegers de site om hun nepaccounts van geloofwaardige profielfoto's te voorzien. De technologie die aan deze applicatie ten grondslag ligt heet GAN: Generative Adversarial Network. Deze techniek, waarbij twee neurale netwerken met elkaar concurreren, is in 2014 ontwikkeld door Ian Goodfellow en zijn collega’s bij Google Brain.

Aflevering

Welkom in het tijdperk van 'surveillance capitalism'

bekijk: 'De grote dataroof'

media Aflevering

Gaan we toe naar een wereld zonder waarheid?

bekijk: 'Zien is geloven'

De komst van de deepfake

In Zien is Geloven waarschuwt Nina Schick voor de ‘Infocalypse’: een toestand waarbij er zoveel informatie is van allerlei betrouwbare en onbetrouwbare bronnen, dat iedereen zijn eigen werkelijkheid mag samenstellen in een feitenvrije wereld. Met GAN kunnen computers aan dit ecosysteem nog meer audiovisuele informatie toevoegen die geen werkelijkheid weergeeft, maar genereert.

GAN is namelijk ook het fundament van wat we nu Deepfake noemen. Een Vice-redacteur ontdekte in 2017 op een Reddit-forum dat een gebruiker genaamd ‘Deepfake’ de gezichten van acteurs in pornofilms had verwisseld met die van filmsterren zoals Gal Gadot en Daisy Ridley. Doordat alle hierboven beschreven ingrediënten om deepfakes te maken vrij beschikbaar zijn, kan elk individu met een beetje computerkennis ermee aan de slag. De Deepfake is dus geen technologie op zichzelf, maar duidt aan hoe software en algoritmes worden toegepast om videomateriaal te genereren waarin iemand dingen doet of zegt zonder dat dit heeft plaatsgevonden.

Hoe je weerbaar wordt

Als je met nepvideo’s iedereen alles kunt laten zeggen en doen, hoe moeten we dan weten welke informatie we kunnen vertrouwen, en welke niet? Met nepnieuws en nepvideo’s weten extreme groepen steeds meer mensen te bereiken met valse informatie en complottheorieën, die hen moeten helpen naar een verkiezingsoverwinning. Hoe bescherm je een democratie hiertegen? In De Weerbare Democratie blikt de Amerikaanse Caleb Cain terug op zijn jaren als alt-right radicaal. Het ware probleem is meer dan alleen een uit de hand gelopen algoritme, vertelt hij. De basis van de onvrede speelde al veel langer, zo is te zijn in zijn grauwe, uitzichtloze, geïndustrialiseerde thuisstad. Ook in Nederland zijn er ontevredenen. Hoe kunnen die weer worden gehoord? Door letterlijk naar ze te luisteren, stelt David van Reybrouck voor. Want als burgers het echt weer voor het zeggen hebben, zijn ze minder makkelijk prooi voor populisten.

Aflevering

Hoe maken we onze democratie weerbaarder tegen de autoritaire verleiding?

bekijk: 'De weerbare democratie'

Wat hebben computers gedaan met ons gezicht?

Wat hebben computers gedaan met ons gezicht?

Of je nu Snapchatfilters gebruikt, criminelen opspoort, of deepfakes verspreidt: gezichtsherkenningstechnologie is overal. Wat heeft dat gedaan met onze perceptie van de werkelijkheid?

Wie bepaalt wat mooi is?

Kan AI ons eeuwig leven, geluk en schoonheid schenken?

Echte gezichten komen in de digitale wereld terecht, maar digitale gezichten komen ook in de echte wereld terecht

Welkom in het tijdperk van 'surveillance capitalism'

Gaan we toe naar een wereld zonder waarheid?

Hoe maken we onze democratie weerbaarder tegen de autoritaire verleiding?

Waar gaat het heen met de digimensheid? 5 scenario's volgens Tegenlicht

Wat gebeurt er als burgers zelf mogen meebeslissen over beleid?

toolkit voor beginnende burgerdetectives