Hoe AI mensen voor de gek hield door te denken dat Trump was gearresteerd

Als je actief bent op Twitter, heb je misschien enkele schokkende beelden gezien van de voormalige Amerikaanse president Donald Trump die door politieagenten werd gearresteerd, met hen worstelde en zelfs voor hen wegliep. Blijkt dat niets van dit alles echt was. Maar hoe is dit allemaal gebeurd?

De arrestatie van Donald Trump die nooit heeft plaatsgevonden

De voormalige Amerikaanse president deelde via zijn functionaris een vermeend lek Waarheid Sociaal handvat op 18 maart. De post verklaarde dat hij een arrestatie verwachtte op dinsdag van de volgende week wegens "oude en volledig ontkrachte" aanklachten tegen hem. Het duurde niet lang voordat beelden van de arrestatie van Trump overal op internet opdoken.

De beelden toonden wat leek op beelden van de arrestatie van Trump door een groep wetshandhavers.

De afbeeldingen zijn door AI gegenereerd

De afbeeldingen waren echter niet authentiek. Het waren deepfakes gemaakt met

Midjourney, een AI-beeldgenerator. Midjourney gebruikt een deep learning-algoritme om helemaal opnieuw afbeeldingen te genereren met behulp van tekstprompts. In dit geval waren de tekstprompts variaties op de arrestatie van Trump.

Deepfake-technologie bestaat al een tijdje en wordt steeds geavanceerder. AI-gegenereerde afbeeldingen waren vroeger gemakkelijk herkenbaar: ze misten details en realisme. Echter, De laatste release van Midjourney (v5) loste de meeste van deze problemen op en was in feite de versie die werd gebruikt om Trumps arrestatie-deepfakes te genereren.

Hoe de beelden viraal gingen

Eliot Higgins, een onderzoeksjournalist, creëerde de eerste versies van de arrestatie-deepfakes van Trump om te visualiseren hoe een arrestatie van Trump eruit zou zien. Hij plaatste ze op zijn Twitter-account. Hoewel zijn bijschrift vanaf het begin duidelijk was dat de afbeeldingen nep waren, duurde het niet lang voordat de post viraal ging.

Toen de beelden zich verspreidden over sociale media, dachten veel mensen dat het echt was. De post van Trump op Truth Social wekte al argwaan bij mensen, en de realistische beelden wakkerden het vuur alleen maar aan. Het duurde even voordat duidelijk werd dat de foto's nep waren en het arrestatieverhaal bedrog.

Berichten op sociale media waarin de nep-arrestatie wordt 'gerapporteerd', zijn verwijderd of bevatten het etiket met verkeerde informatie. Als straf verbood Midjourney Higgins ook voor een maand van hun server, per De Washington Post.

Het tijdperk van deepfakes vereist waakzaamheid

De deepfakes bij de arrestatie van Trump benadrukken de alarmerende vooruitgang in AI-technologie. Nepafbeeldingen kunnen nu met ongelooflijk gemak worden gemaakt en zien er zo realistisch uit dat het moeilijk is om te onderscheiden wat echt is en wat niet. Waakzaamheid is nu belangrijker dan ooit als het gaat om online content.