Als het op sociale media aankomt, weten we allemaal dat het naast de vele voordelen die het biedt bij het leggen van verbindingen gemakkelijker, kunnen er ook bepaalde risico's en gevaren verbonden zijn aan online interactie, vooral voor jongeren. Gelukkig zijn er apps die proactief zijn en proberen deze schade die jonge mensen kunnen oplopen te beperken door de juiste moderatietechnologieën te implementeren.
Yubo, de live-app voor sociale ontdekking die het meest wordt gebruikt door Gen Z, heeft aangekondigd dat de livestream-audiomoderatie wordt uitgevoerd technologie breidt zich uit naar zijn grootste markten, namelijk de Verenigde Staten, het Verenigd Koninkrijk, Australië en Canada.
Dit komt na enkele maanden testen van de functie in sommige delen van de Verenigde Staten, terwijl het bedrijf leerde hoe het de problemen moest aanpakken die gepaard gaan met het analyseren van audio in realtime.
Het belang van inhoudsmoderatie
Het online modereren van inhoud is een moeilijke klus. We hebben dit gezien met Facebook en Twitter en Instagram enzovoort. Tussen beledigingen, haatdragende opmerkingen en soms zelfs geweld of zelfbeschadiging door, is moderatie enorm belangrijk om deze platforms veilig te houden en hun gebruikers te beschermen. Er is iets aan het kunnen verschuilen achter de vermeende anonimiteit die het internet biedt, dat het slechtste in sommige mensen naar boven kan halen.
Welnu, Yubo blijft laten zien dat het er alles aan doet om dit te helpen voorkomen, vooral omdat het gebruikersbestand veel jonger is. Volgens Yubo is 99% van hun gebruikersbestand Gen Z tussen de 13 en 25 jaar. Hoewel online intimidatie voor niemand leuk is om te ondergaan, kan het vooral schadelijk zijn voor tieners.
Beeld- en videomoderatietechnologie bestaat al een tijdje en is met verschillende stadia van succes geïmplementeerd. Audiomoderatie, is echter een grote uitdaging gebleven, vooral met livestreams. Of het nu een livestream is die is gemaakt terwijl je over straat loopt of een videogame waarbij iemand een videogame speelt, het maakt niet echt uit.
Hoe Yubo's audiomoderatie werkt
Vanaf mei 2022 begon Yubo een proeffase voor zijn audiomoderatietechnologie in verschillende gebieden in de Verenigde Staten. Nu omvat de volgende fase de meeste Engelstalige regio's waar Yubo een groot gebruikersbestand heeft, zodat het bedrijf beter inzicht kan krijgen in hun nieuwe veiligheidstool.
Hoewel het nog nieuw is, is dit een technologie die in de toekomst op grote schaal kan worden gebruikt om geweld of zelfbeschadiging op te sporen.
Yubo doet dit niet alleen, maar in samenwerking met Hive. Hive, als je er nog nooit van hebt gehoord, is een bedrijf dat API's voor het modereren van inhoud maakt en levert om afbeeldingen en video's bijna in realtime te verwerken.
De technologie die Yubo heeft geïmplementeerd, werkt door fragmenten van 10 seconden audio op te nemen en te transcriberen in livestreams van 10 of meer mensen. De tekst wordt onmiddellijk geanalyseerd door kunstmatige intelligentie om woorden of zinnen te detecteren die in strijd zijn met de app Leidraad voor de community.
Wacht, het stopt hier niet. Hoewel kunstmatige intelligentie geweldig kan zijn in het detecteren van dergelijke dingen, is het nog lang niet zover dat het onderscheid kan maken tussen feitelijk problematisch gebruik en valse vlaggen.
False flags kunnen bijvoorbeeld liedjes zijn die op de achtergrond spelen, of speels taalgebruik dat niet kwalijk bedoeld is.
Dit is dus waar de veiligheidsspecialisten van Yubo in het spel komen, aangezien ze worden ingeschakeld om de gemelde incidenten te onderzoeken. Mensen zijn degenen die kunnen bepalen of een situatie moet escaleren of niet als er acties zijn dat moet worden genomen tegen de mensen die grof taalgebruik gebruiken, of zelfs als er wetshandhaving nodig is in.
Als de livestream perfect in orde is, worden er geen transcripties beoordeeld of langer dan 24 uur bewaard, dus het blijft allemaal privé; of zo privé als een livestream met meer dan 10 mensen maar kan zijn.
Als de algoritmen echter bijvoorbeeld gewelddadige bedreigingen, haatdragende taal of zelfbeschadiging detecteren, worden de transcripties maximaal een jaar bewaard. Dit is natuurlijk een veiligheidsmaatregel voor het bedrijf voor het geval rechtshandhaving de informatie nodig heeft of het bedrijf zelf de gegevens nodig heeft voor verder intern onderzoek.
Yubo's Chief Operating Officer, Marc-Antoine Durand, ziet de uitbreiding van audio moderatie technologie als sleutelelement in de evolutie van online veiligheid in de hele branche.
“Er is nog veel vooruitgang te boeken op het gebied van spraakdetectie, maar we zijn er trots op dat we een weg banen voor onze collega's door de eerste zijn die audiomoderatie met Hive lanceerde en deze tool tijdens deze proef betrouwbaarder en effectiever maken, "Durand gezegd.
Het is duidelijk dat sociale platforms geen ongebreidelde pesterijen, aanzetten tot haat en tot geweld aanzettende opmerkingen willen, omdat dit andere gebruikers zou wegjagen. Het implementeren van dergelijke moderatietechnologie is een geweldig hulpmiddel om gebruikers veilig te houden en ook om de groei en het succes van Yubo op de lange termijn te helpen garanderen.
