Gezien het feit dat deepfakes zowel potentieel verwoestend zijn voor iemands reputatie als zeer moeilijk te herkennen zijn als ze goed worden gedaan, vormen ze een groot beveiligingsprobleem. Nu probeert Microsoft deepfakes te helpen stoppen door een tool uit te brengen die ze kan detecteren.
De dreiging van deepfakes is zo groot dat het wordt veroorzaakt Facebook om alle deepfake-inhoud te verbannen. Het grootste obstakel is echter hoe deepfakes worden gemaakt om er overtuigend uit te zien; als zodanig is het lokaliseren en bevestigen van een deepfake erg moeilijk.
Facebook verbiedt deepfakes en gephotoshopte foto's. Het idee is om gemanipuleerde media te verwijderen die zijn ontworpen om gebruikers te misleiden.
Zoals gerapporteerd Microsoft over de problemenwil het bedrijf daar verandering in brengen met zijn nieuwe tool. Het heet de Microsoft Video Authenticator, en het analyseert video's om te zoeken naar de "naden" die zijn achtergelaten bij het maken van deepfake. Deze naden zijn onzichtbaar voor menselijke ogen, maar een computer kan ze herkennen met behulp van frame-voor-frame analyse.
Om te voorkomen dat kwaadwillende agenten de technologie reverse-engineeren, zal Microsoft Video Authenticator geen publieke release zijn. In plaats daarvan distribueert Microsoft zijn systeem naar nieuws- en politieke organisaties. Op die manier kunnen die organisaties de tool gebruiken om de echte van de nep te scheiden.
Microsoft heeft echter een tweede technologie aangekondigd om deepfakes te identificeren. Het bedrijf stelt een systeem voor waarbij een maker van inhoud zijn video's kan taggen met een unieke 'handtekening'. Als de video is bewerkt, genereert deze een andere handtekening dan het origineel, waardoor een deepfake.
De auteur van Deep Fakes and the Infocalypse, Nina Schick, zei het volgende:
Het enige echt wijdverbreide gebruik dat we tot nu toe hebben gezien, is pornografie zonder wederzijds goedvinden tegen vrouwen. Maar synthetische media zullen naar verwachting over ongeveer drie tot vijf jaar alomtegenwoordig worden, dus we moeten deze tools in de toekomst ontwikkelen. Naarmate de detectiemogelijkheden echter beter worden, zal ook de generatiecapaciteit toenemen - dat is het nooit zal het geval zijn dat Microsoft één tool kan uitbrengen die alle soorten video kan detecteren manipulatie.
Deepfakes zijn een aanzienlijk probleem voor de geloofwaardigheid van de media, en bedrijven hebben een manier nodig om dat te doen vertel wat echt is van wat fictie is. Microsoft heeft een tool uitgebracht om bewerkte video's te vinden. Het valt echter nog te bezien of de tool voldoende zal zijn om de ontwikkelaars van deepfake bij te houden.
Als je niet zeker weet wat deepfakes zijn en waarom ze ertoe doen, is het zeker de moeite waard om wat tijd te nemen om er meer over te weten te komen. Deepfakes staan klaar om het equivalent van dit decennium te worden van "Photoshopping" -afbeeldingen en kunnen ernstige schade aanrichten als ze opzettelijk worden gebruikt.
Door AI gegenereerde nepvideo's ondermijnen ons begrip van wereldgebeurtenissen volledig. Dit is hoe deepfakes alles kunnen veranderen.
- Internet
- Veiligheid
- Tech Nieuws
- Microsoft
- Nep nieuws
- Deepfakes
- Cyberveiligheid
Een afgestudeerde Computer Science BSc met een diepe passie voor alles wat met beveiliging te maken heeft. Nadat hij voor een onafhankelijke gamestudio had gewerkt, ontdekte hij zijn passie voor schrijven en besloot hij zijn vaardigheden te gebruiken om over alles wat met technologie te maken is, te schrijven.
Abonneer op onze nieuwsbrief
Word lid van onze nieuwsbrief voor technische tips, recensies, gratis e-boeken en exclusieve deals!
Nog een stap…!
Bevestig uw e-mailadres in de e-mail die we u zojuist hebben gestuurd.