Wat is PhotoDNA en hoe werkt het?

Het internet heeft veel dingen gemakkelijker gemaakt, van contact houden met vrienden en familie tot het vinden van een baan en zelfs op afstand werken. De voordelen van dit verbonden computersysteem zijn immens, maar er is ook een keerzijde.

In tegenstelling tot natiestaten is internet een wereldwijd netwerk dat geen enkele regering of autoriteit kan controleren. Bijgevolg komt illegaal materiaal online terecht en is het ongelooflijk moeilijk om te voorkomen dat kinderen lijden en de verantwoordelijken te pakken te krijgen.

Een technologie die mede is ontwikkeld door Microsoft, PhotoDNA genaamd, is echter een stap in de richting van het creëren van een veiligere online ruimte voor zowel kinderen als volwassenen.

Wat is fotoDNA?

PhotoDNA is een hulpmiddel voor beeldidentificatie, voor het eerst ontwikkeld in 2009. Hoewel het voornamelijk een door Microsoft ondersteunde service is, werd het mede ontwikkeld door professor Hany Farid van Dartmouth College, een expert in digitale foto-analyse. Het doel van PhotoDNA is om illegale afbeeldingen te identificeren, inclusief materiaal voor seksueel misbruik van kinderen, algemeen bekend als CSAM.

Naarmate smartphones, digitale camera's en snel internet meer gemeengoed zijn geworden, is ook de hoeveelheid CSAM die online wordt gevonden, toegenomen. In een poging om deze afbeeldingen te identificeren en te verwijderen, naast ander illegaal materiaal, bevat de PhotoDNA-database miljoenen vermeldingen voor bekende afbeeldingen van misbruik.

Microsoft beheert het systeem en de database wordt onderhouden door het in de VS gevestigde National Center for Missing & Exploited Children (NCMEC), een organisatie die zich inzet voor het voorkomen van kindermishandeling. Afbeeldingen vinden hun weg naar de database zodra ze zijn gerapporteerd aan NCMEC.

Hoewel het niet de enige service is die zoekt naar bekende CSAM, is PhotoDNA een van de meest gebruikte methoden, waaronder veel digitale services zoals Reddit, Twitter en de meeste producten van Google.

PhotoDNA moest in de begindagen fysiek on-premise worden opgezet, maar Microsoft exploiteert nu de cloudgebaseerde PhotoDNA Cloud-service. Hierdoor kunnen kleinere organisaties zonder een uitgebreide infrastructuur CSAM-detectie uitvoeren.

Hoe werkt PhotoDNA?

Wanneer internetgebruikers of wetshandhavingsinstanties misbruikbeelden tegenkomen, worden ze gemeld aan NCMEC via de CyberTipline. Deze worden gecatalogiseerd en de informatie wordt gedeeld met wetshandhavers als dat nog niet het geval was. De afbeeldingen worden geüpload naar PhotoDNA, dat vervolgens begint met het maken van een hash of digitale handtekening voor elke afzonderlijke afbeelding.

Om tot deze unieke waarde te komen, wordt de foto omgezet naar zwart-wit, opgedeeld in vierkanten en analyseert de software de resulterende schaduwen. De unieke hash wordt toegevoegd aan de database van PhotoDNA, gedeeld tussen fysieke installaties en de PhotoDNA Cloud.

Softwareleveranciers, wetshandhavingsinstanties en andere vertrouwde organisaties kunnen PhotoDNA-scanning implementeren in hun producten, cloudsoftware of andere opslagmedia. Het systeem scant elke afbeelding, zet deze om in een hash-waarde en vergelijkt deze met de CSAM-database-hashes.

Als er een match wordt gevonden, wordt de verantwoordelijke organisatie gewaarschuwd en worden de details doorgegeven aan de politie voor vervolging. De afbeeldingen worden uit de service verwijderd en het gebruikersaccount wordt beëindigd.

Belangrijk is dat er geen informatie over uw foto's wordt opgeslagen, dat de service volledig geautomatiseerd is zonder menselijke tussenkomst en dat u geen afbeelding opnieuw kunt maken op basis van een hash-waarde.

Sinds 2015 kunnen organisaties PhotoDNA ook gebruiken om video's te analyseren.

In augustus 2021 brak Apple de stap met de meeste andere Big Tech-bedrijven en kondigde aan dat ze hun eigen bedrijf zouden gebruiken service om iPhones van gebruikers te scannen op CSAM.

Het is begrijpelijk dat deze plannen veel kritiek kregen omdat ze de privacyvriendelijke houding van het bedrijf leken te schenden, en veel mensen waren bang dat het scannen geleidelijk niet-CSAM zou omvatten, wat uiteindelijk zou leiden tot een achterdeur voor de wet handhaving.

Gebruikt PhotoDNA gezichtsherkenning?

Tegenwoordig zijn we bekend genoeg met algoritmen. Deze gecodeerde instructies tonen ons relevante, interessante berichten op onze sociale media-feeds, ondersteunen gezichtsherkenningssystemen en beslissen zelfs of we een sollicitatiegesprek krijgen aangeboden of naar de universiteit gaan.

Je zou denken dat algoritmen de kern van PhotoDNA zouden zijn, maar het op deze manier automatiseren van beelddetectie zou zeer problematisch zijn. Het zou bijvoorbeeld ongelooflijk invasief zijn, onze privacy schenden, en dat wil niet zeggen dat algoritmen niet altijd gelijk hebben.

Google heeft bijvoorbeeld goed gedocumenteerde problemen gehad met zijn gezichtsherkenningssoftware. Toen Google Foto's voor het eerst werd gelanceerd, werden zwarte mensen aanstootgevend verkeerd gecategoriseerd als gorilla's. In maart 2017 hoorde een toezichtscommissie van het Huis dat sommige gezichtsherkenningsalgoritmen 15 procent van de tijd verkeerd waren en meer kans hadden zwarte mensen verkeerd te identificeren.

Deze soorten machine learning-algoritmen komen steeds vaker voor, maar kunnen een uitdaging zijn om adequaat te controleren. In feite neemt de software zijn eigen beslissingen en moet u reverse-engineeren hoe deze tot een specifiek resultaat is gekomen.

Het is begrijpelijk dat, gezien het type inhoud waarnaar PhotoDNA zoekt, het effect van verkeerde identificatie catastrofaal kan zijn. Gelukkig vertrouwt het systeem niet op gezichtsherkenning en kan het alleen vooraf geïdentificeerde afbeeldingen vinden met een bekende hash.

Gebruikt Facebook PhotoDNA?

Als eigenaar en beheerder van 's werelds grootste en populairste sociale netwerken, heeft Facebook dagelijks te maken met veel door gebruikers gegenereerde inhoud. Hoewel het moeilijk is om betrouwbare, actuele schattingen te vinden, analyse in 2013 suggereerde dat er elke dag zo'n 350 miljoen afbeeldingen naar Facebook worden geüpload.

Dit zal nu waarschijnlijk een stuk hoger zijn naarmate meer mensen zich bij de service hebben aangesloten, het bedrijf exploiteert meerdere netwerken (inclusief Instagram en WhatsApp), en we hebben gemakkelijker toegang tot smartphonecamera's en betrouwbaar internetten. Gezien zijn rol in de samenleving moet Facebook CSAM en ander illegaal materiaal verminderen en verwijderen.

Gelukkig pakte het bedrijf dit al vroeg aan en koos het in 2011 voor de PhotoDNA-service van Microsoft. Sinds de aankondiging meer dan tien jaar geleden zijn er weinig gegevens over hoe effectief dit is geweest. Echter, 91 procent van alle meldingen van CSAM in 2018 waren afkomstig van Facebook en Facebook Messenger.

Maakt PhotoDNA het internet veiliger?

De door Microsoft ontwikkelde service is ongetwijfeld een essentieel hulpmiddel. PhotoDNA speelt een cruciale rol bij het voorkomen dat deze afbeeldingen zich verspreiden en kan zelfs helpen om risicokinderen te helpen.

De grootste fout in het systeem is echter dat het alleen naar vooraf geïdentificeerde afbeeldingen kan zoeken. Als PhotoDNA geen hash heeft opgeslagen, kan het geen beledigende afbeeldingen identificeren.

Het is gemakkelijker dan ooit om misbruikafbeeldingen met hoge resolutie online te maken en te uploaden, en de misbruikers zijn steeds meer gebruik maken van veiligere platforms zoals het Dark Web en versleutelde berichten-apps om de illegaal materiaal. Als u het Dark Web nog niet eerder bent tegengekomen, is het de moeite waard om te lezen over de risico's die verbonden zijn aan de verborgen kant van internet.

Is het donkere web illegaal?

Criminele activiteiten zijn te vinden via darknets, maar is het eigenlijk illegaal om op het dark web te gaan?

Lees volgende

Over de auteur