Kan deepfake gezichtsherkenning voor de gek houden? Een nieuwe studie zegt ja!

Deepfakes en AI-gegenereerde video's zijn er om te blijven. Maar de afgelopen jaren zijn ze in kwaliteit en kwantiteit gegroeid, waardoor veel mensen zich zorgen maken over de nationale veiligheid en persoonlijke privacy.

Maar hoe hard anonieme online gebruikers ook probeerden hun nepvideo realistisch te maken, ze kwamen nooit verder dan geavanceerde gezichtsherkenningssoftware. Tot nu.

Gezichtsherkenning API's voor de gek houden

Onderzoekers van de Sungkyunkwan University in Suwon, Zuid-Korea, testte de kwaliteit van de huidige deepfake-technologie. Ze testten zowel Amazon- als Microsoft-API's met behulp van open-source en veelgebruikte deepfake-videogenererende software om te zien hoe goed ze presteren.

De onderzoekers gebruikten de gezichten van Hollywood-beroemdheden. Om solide deepfakes te maken, heeft de software veel afbeeldingen van hoge kwaliteit nodig van verschillende hoeken van dezelfde personen, die veel gemakkelijker te verkrijgen zijn van beroemdheden in plaats van gewoon mensen.

De onderzoekers besloten ook om de API van Microsoft en Amazon te gebruiken als benchmark voor hun onderzoek, aangezien beide bedrijven gezichtsherkenningsdiensten voor beroemdheden aanbieden. Ze gebruikten openbaar beschikbare datasets en creëerden iets meer dan 8.000 deepfakes. Van elke deepfake-video hebben ze meerdere faceshots geëxtraheerd en deze naar de betreffende API's gestuurd.

Met Azure Cognitive Services van Microsoft konden de onderzoekers het systeem 78 procent van de tijd voor de gek houden met behulp van deepfakes. De resultaten van Amazon waren iets beter, waarbij 68 procent van de ingezonden gezichten als echt werd geïdentificeerd.

Hoe zit het met deepfake-detectoren?

Deepfake-detectoren werken min of meer op dezelfde manier als deepfake. De detectoren zijn software die is getraind met behulp van machine learning-modellen om deepfake-video's te detecteren.

Maar in plaats van zich te concentreren op het maken van een hyperrealistische video om de detectoren voor de gek te houden, kunnen deepfakes nu tegenstrijdige voorbeelden in elk frame opnemen om het AI-systeem in verwarring te brengen. In feite hebben deepfake-aanvallen van dit type succespercentages variërend van van 78 tot 99 procent.

Het wordt erger

Deepfakes zijn een machine learning-toepassing. Om er een te maken die zelfs maar enigszins overtuigend is, heb je honderden afbeeldingen nodig van het gezicht van dezelfde persoon vanuit verschillende hoeken en met verschillende emoties.

Vanwege de behoefte aan enorme hoeveelheden data zou je denken dat alleen mensen met een grote online aanwezigheid risico lopen, zoals beroemdheden en politici. Maar dat is niet langer het geval.

Volgens Deeptrace is het aantal deepfakes online in minder dan een jaar met 330 procent gestegen - van oktober 2019 tot juni 2020. Om nog maar te zwijgen van het feit dat de software en algoritmen die deepfake-makers gebruiken sterker en gemakkelijker beschikbaar en toegankelijk worden.

Wie loopt het risico op deepfakes?

Toen deepfakes voor het eerst mainstream werden, de primaire zorgen waren voor privacy en nationale veiligheid. Men vreesde dat videobeelden van politici en officiële overheidsmedewerkers niet meer te vertrouwen waren.

Maar hoewel het onverantwoord zou zijn om het beveiligingsrisico van deepfake te negeren, bleek uit meerdere onderzoeken dat deepfakemakers nog niet zo geïnteresseerd zijn in het verstoren van de politiek. De meeste deepfakes-video's online kunnen worden onderverdeeld in twee categorieën: grappige video's van interviews met beroemdheden, en films en pornografisch materiaal.

Hoewel de recente studie werd uitgevoerd met gezichten van beroemdheden om ervoor te zorgen dat de deepfakes van hoge kwaliteit waren om de API's voor de gek te houden, betekent dat niet dat je geen deepfakes kunt maken met minder gegevens. Natuurlijk maken ze geen kans om geavanceerde gezichtsherkenningssystemen voor de gek te houden, maar ze kunnen overtuigend genoeg zijn om andere mensen te misleiden.

Tegenwoordig kunnen deepfakes van iedereen met een sociale aanwezigheid overtuigend worden gemaakt. Het enige dat ze nodig hebben, zijn een paar foto's van jou en misschien een video waarin je verschijnt. De resulterende deepfake is misschien van lage kwaliteit, maar het is nog steeds te doen en kan schadelijk zijn.

De toekomst is nog onbekend

Er zijn veel tegenstrijdige voorspellingen over de staat van deepfakes, omdat ze niet snel zullen verdwijnen.

Sommigen verwachten een apocalyptische cybertoekomst waarin je geen enkel beeldmateriaal kunt vertrouwen dat je online tegenkomt. Anderen zijn optimistischer, vergelijken deepfakes met animatie en zeggen dat het misschien een toekomst heeft in de productie van inhoud.

Hoe u uzelf kunt beschermen tegen deepfake-video's

Deepfakes komen steeds vaker voor. Hier leest u hoe ze uw online privacy kunnen bedreigen en hoe u kunt voorkomen dat ze worden opgepakt.

Lees volgende

Over de auteur