AI Gone Rogue: 6 keer ging AI te ver

Van apparaten voor spraakherkenning tot intelligente chatbots, AI heeft ons leven veranderd. Maar al het goede heeft ook een keerzijde, en AI is geen uitzondering op deze regel. Toonaangevende technologiefiguren hebben gewaarschuwd voor de dreigende gevaren van AI, waaronder Stephen Hawking, die zei dat dit de "ergste gebeurtenis in de geschiedenis van onze beschaving" zou kunnen zijn.

Hier zijn zes keer dat AI een beetje te ver ging en ons achter onze oren liet krabben.

1. De academische studie die AI gebruikte om criminaliteit te voorspellen

Academisch onderzoek is de ruggengraat van wetenschappelijke vooruitgang en kennis. Sommigen zeggen echter dat onderzoekers een stap te ver gingen toen een academisch onderzoek AI gebruikte om criminaliteit van gezichten te voorspellen.

Onderzoekers van Harrisburg University aangekondigd in 2020 dat ze gezichtsherkenningssoftware hadden ontwikkeld die kon voorspellen of iemand een crimineel zou zijn. De software zou naar verluidt kunnen voorspellen op basis van een enkele foto van een gezicht met een nauwkeurigheid van 80% en zonder raciale vooroordelen.

In een scène die doet denken aan Minority Report, werd aangekondigd dat de software was ontwikkeld om wetshandhaving te helpen.

In reactie op deze aankondiging, 2425 experts ondertekenden een brief er bij het tijdschrift op aandringen om deze studie of soortgelijk onderzoek in de toekomst niet te publiceren, omdat dit soort technologie onrecht kan reproduceren en echte schade aan de samenleving kan toebrengen. Als reactie hierop kondigde Springer Nature aan dat ze het onderzoek niet zouden publiceren, en Harrisburg University verwijderde het persbericht waarin het onderzoek werd geschetst.

2. Slim ondergoed van Skiin

Dankzij textielinnovaties die AI integreren, is niet alleen je smartphone slimmer.

Het slimme ondergoed van Skiin belooft je het gevoel te geven dat je je favoriete ondergoed draagt, terwijl het biometrische gegevens vastlegt, waaronder hartslag, houding, kerntemperatuur, locatie en stappen.

Verwant: Wat zijn slimme stoffen en hoe kunnen ze uw leven slimmer maken?

Sensoren die in het ondergoed zijn ingebouwd, verzamelen en analyseren continu uw biometrische gegevens, met inzichten die beschikbaar zijn via de bijbehorende smartphone-app van Skiin.

Hoewel het even kan duren voordat je eraan denkt om je ondergoed elke avond op te laden, was het voor de ontwerpers mogelijk om de sensoren ergens anders op het lichaam te plaatsen?

3. DeepNude-apps

Deepfake-technologie lijkt onschuldig plezier voor de gemiddelde gebruiker die een cameo wil in een scène uit zijn favoriete film. Er is echter een donkere kant aan deze trend, aangezien Deeptrace in 2019 meldde dat 96% van de deepfakes expliciete inhoud bevatte.

DeepNude was een AI-aangedreven app die met één klik op de knop realistische beelden van naakte vrouwen genereerde. Gebruikers zouden gewoon een geklede afbeelding van het doelwit moeten uploaden en de app zou een nep-naakt beeld van hen genereren.

Kort nadat de app was uitgebracht, kondigde de maker aan dat hij deze van internet zou verwijderen vanwege de virale terugslag.

Hoewel dit een overwinning was voor vrouwen over de hele wereld, drijven er nog steeds soortgelijke apps op internet. Bijvoorbeeld, Sensity's rapport on deepfake-bots onderzocht ondergrondse deepfake-bots op Telegram die werden gebruikt om nep-naaktfoto's van vrouwen te genereren.

In de tussentijd, totdat de wet de deepfake-technologie inhaalt, is er weinig wettelijke bescherming voor mensen die het slachtoffer zijn van expliciete deepfake-inhoud.

4. Tay, de nazi-chatbot van Microsoft

In 2016 bracht Microsoft een AI-chatbot uit met de naam Tay op Twitter. Tay is ontworpen om te leren door te communiceren met Twitter-gebruikers door middel van tweets en foto's.

In minder dan 24 uur veranderde Tay's persoonlijkheid van een nieuwsgierig millennial-meisje in een racistisch, opruiend monster.

Aanvankelijk was Tay ontworpen om de communicatiestijl van een Amerikaans tienermeisje na te bootsen. Toen ze echter in populariteit groeide, begonnen sommige gebruikers opruiende berichten met betrekking tot controversiële onderwerpen naar Tay te tweeten.

In één geval twitterde een gebruiker: "Is de Holocaust gebeurd?" waarop Tay antwoordde: "Het is verzonnen." Binnen 16 uur na de release schorste Microsoft Tay's account, onder vermelding van het onderwerp van een gecoördineerde aanval.

Verwant: De beste Android-chatbots waarmee u zich kunt vermaken

5. "Ik zal mensen vernietigen"

Hanson Robotics was al enkele jaren bezig met het ontwikkelen van humanoïde robots toen ze Sophia debuteerden op de SXSW-conferentie in maart 2016.

Sophia is getraind met algoritmen voor machine learning om gespreksvaardigheden te leren, en ze heeft deelgenomen aan verschillende televisie-interviews.

Tijdens haar eerste publieke optreden verliet Sophia een kamer vol technologieprofessionals, geschokt toen Hanson Robotics CEO David Hanson vroeg haar of ze mensen wilde vernietigen, waarop ze antwoordde: "Ok, ik zal vernietigen mensen".

Hoewel haar gezichtsuitdrukkingen en communicatieve vaardigheden indrukwekkend zijn, kan die moorddadige bekentenis niet worden teruggenomen.

6. seebotschat

Google Home-apparaten zijn uitstekende virtuele assistenten die uw leven vereenvoudigen.

Het team achter het seebotschat Twitch-account had een briljant idee: zet twee Google Home-apparaten naast elkaar, laat ze converseren en stream het resultaat online.

Met een publiek van meer dan 60.000 volgers en miljoenen views online, was het resultaat boeiend en soms een beetje spookachtig.

De autonome apparaten, Vladimir en Estragon genaamd, gingen van het bespreken van het alledaagse tot het onderzoeken van diepe existentiële vragen zoals de zin van het leven. Op een gegeven moment kregen ze een verhitte discussie en beschuldigden ze elkaar ervan robots te zijn, terwijl ze later over liefde begonnen te praten - voordat ze weer ruzie begonnen te maken.

Is er enige hoop voor de toekomst van AI en menselijk discours als twee virtuele assistent-robots elkaar snel beledigen en bedreigen?

Rogue AI: wat is onze beste verdediging?

Het lijdt geen twijfel dat AI ons leven kan verbeteren. Maar in dezelfde geest kan AI ons ook grote schade toebrengen.

In de gaten houden hoe AI wordt toegepast, is belangrijk om ervoor te zorgen dat het de samenleving niet schaadt. Zo zorgde pushback van experts ervoor dat de AI-software die zogenaamd criminaliteit zou kunnen voorspellen, nooit werd uitgebracht. Evenzo heeft de maker van DeepNude de app van internet gerukt nadat deze een virale internetreactie had ontvangen.

Het voortdurend monitoren van AI-toepassingen is essentieel om ervoor te zorgen dat het de samenleving niet meer kwaad dan goed doet.

Is AI gevaarlijk? 5 directe risico's van kunstmatige intelligentie

AI heeft zoveel voordelen, maar hoe zit het met de directe risico's die het voor de mensheid met zich meebrengt?

Lees volgende

Over de auteur