Twitter onthult dat het AI-bijsnijden heeft gedumpt vanwege ras- en geslachtsbias

De eerste keer dat we het idee hoorden dat het algoritme voor het bijsnijden van afbeeldingen van Twitter enige vooroordelen zou kunnen hebben, was in september 2020. Cryptografisch ingenieur Tony Arcieri heeft twee afbeeldingen geüpload met senaatsleider Mitch McConnell en voormalig president Barack Obama, en de AI kwam beide keren in het gezicht van McConnell.

Toen de controverse uiteindelijk de mensen op Twitter bereikte, beloofde het bedrijf zijn model te analyseren. Ten slotte lezen we die bevindingen.

Twitter deelt de resultaten van zijn algoritme-analyse

Begin mei Twitter heeft eindelijk afbeeldingsvoorbeelden op volledige grootte uitgerold op zijn mobiele tijdlijnen. Een bericht op de Twitter-blog heeft onthuld dat de app zijn algoritme voor het bijsnijden van afbeeldingen heeft geschrapt nadat uit een analyse bleek dat het ras en geslachtsgebonden vooroordelen had.

Het platform begon in 2018 een saliency-algoritme te gebruiken om de afbeeldingen bij te snijden. Twitter zegt dat saliency-modellen worden getraind op menselijke eye-trackinggegevens, die vervolgens worden gebruikt door de algoritme om in te schatten welke onderwerpen / elementen in de afbeelding het meest waarschijnlijk belangrijk zijn voor de meesten mensen.

Het algoritme zou dan een saliency-score bedenken voor alle delen van de afbeelding voordat het punt met de hoogste score als het midden van de uitsnede werd gekozen.

Na het uitvoeren van een kwantitatieve test om te controleren op mogelijke vooroordelen, ontdekte het team dat het saliency-algoritme vrouwen bevoordeelde boven mannen en blanke individuen boven zwarte individuen.

Twitter testte het algoritme ook voor de 'mannelijke blik', maar er werd geen bewijs gevonden van objectivering.

Zelfs als het saliency-algoritme is aangepast om perfecte gelijkheid tussen ras- en gendersubgroepen weer te geven, zijn we [Twitter] bezorgd door de representatieve schade van het geautomatiseerde algoritme wanneer mensen zichzelf niet mogen vertegenwoordigen zoals ze willen op de platform. Saliency houdt ook andere potentiële schade in die buiten het bestek van deze analyse valt, waaronder ongevoeligheid voor culturele nuances.

Bij het overwegen van de afwegingen tussen de snelheid en consistentie van geautomatiseerd bijsnijden en de risico's ervan, Twitter zegt dat het team zich realiseerde dat het bijsnijden van een afbeelding een beslissing is die het beste door mensen kan worden genomen - niet algoritmen.

Verwant: Technologietrends die de toekomst al aan het veranderen zijn

Twitter maakt een einde aan het automatisch bijsnijden van afbeeldingen

Twitter gebruikt niet langer het saliency-algoritme en geeft nu foto's met standaardbeeldverhouding volledig weer op zowel iOS als Android. Wanneer je een tweet maakt, zul je merken dat de nieuwe update ook een echte preview van geüploade afbeeldingen bevat, zodat je weet hoe alles eruit zal zien na publicatie.

Als je geïnteresseerd bent in het lezen van de academische paper van de studie, kun je deze vinden op arXiv.org. U kunt ook de code van Twitter voor de analyse vinden op GitHub.

4K-afbeeldingen uploaden en bekijken op Twitter

Met de Twitter-app kun je nu afbeeldingen uploaden en bekijken in 4K. Hier leest u hoe u uw instellingen kunt wijzigen.

Lees Volgende

Over de auteur