6 grote problemen met deepfake-muziek

Nieuwe nummers van beroemde artiesten gaan viraal op sociale media, wat normaal gesproken geen probleem is, behalve wanneer een stemkloon degene is die zingt. Hoewel het een van de laatste mediums was die het volhielden, is deepfake-muziek nu een realiteit.

Het werkt door een AI-model te trainen op de stem van een zanger, en de resultaten zijn niet altijd slecht. Er zit veel echte creativiteit in het maken van deepfake-nummers, maar het probleem zit hem niet alleen in de output. In veel gevallen wordt geen toestemming verleend, en vragen over wie betaald wordt en of het ethisch verantwoord is, zijn slechts enkele van de problemen van deepfake muziek.

1. Niet-geautoriseerde gegevenssets

Als je een deepfake-track van een beroemde artiest wilt maken, moet je audiobestanden van hun zangstem verzamelen in een dataset. Net als bij alle gegevens die van iemand zijn, moet u waarschijnlijk hun toestemming krijgen om deze te gebruiken, maar dan een deepfake nummer een groot muziekplatform zoals YouTube, Spotify of TikTok kan bereiken, na gebruik van een niet-geautoriseerde gegevensset.

Dit overkwam de artiesten Drake en The Weeknd toen een gebruiker genaamd Ghostwriter "Heart on My Sleeve" creëerde. De hit bevatte de AI-gesynthetiseerde stemmen van de artiesten, compleet met teksten over de ex-vriendin van The Weeknd.

Fans genoten echt van het nummer, met extra lof voor Ghostwriter voor het creatieve gebruik van de deepfake-zang, maar zoals Dat meldde de Seattle Times, zag niet iedereen dat zo. Een woordvoerder van Universal Music Group, het grote label achter beide artiesten, vraagt:

"Aan welke kant van de geschiedenis willen belanghebbenden in het muziekecosysteem staan: de kant van artiesten, fans en menselijke creatieve expressie, of aan de kant van diepe vervalsingen, fraude en het ontzeggen van artiesten hun verschuldigde vergoeding?"

2. Verouderde auteurswet

Als je een artiest bent die niet wil dat je stem wordt gekloond, kan de auteursrechtwetgeving je misschien nog niet helpen. Aangezien onze auteursrechtwetten zijn geschreven in een tijd dat dit type AI-technologie nog niet bestond, is het geen verrassing dat wetten nog steeds proberen hun achterstand in te halen.

De dichtstbijzijnde rechtszaak van "stemdiefstal" in de VS dateert uit de jaren negentig. Als meldt de Los Angeles Times, won de zanger Tom Waits $ 2,475 miljoen aan schadevergoeding van Frito-Lay Inc., de machtige chipreus achter Doritos, Cheetos, Cracker Jack's en meer.

De advertentie gebruikte de stem van iemand die zo dicht bij Tom Waits klonk dat mensen zouden kunnen geloven dat de echte artiest achter de advertentiecampagne zat. Hetzelfde kan worden gezegd van deepfake-nummers die momenteel circuleren, maar AI-muziek moet nog worden getest in een juridische strijd.

Terwijl we wachten tot het rechtssysteem is bijgewerkt, is het vermeldenswaard dat niet iedereen een probleem heeft met mensen die hun stem klonen, neem Hulst Herndon, Bijvoorbeeld. Geconfronteerd met het naderende tij van AI-muziektoepassingen, koos ze ervoor om haar vocale tweelingbroer Holly + te autoriseren naast een systeem dat haar een eerlijke vergoeding gaf.

Welke kant je ook kiest, het probleem blijft hetzelfde. Er is geen specifieke auteursrechtwet die zegt dat je toestemming moet krijgen van de artiest voordat je zijn of haar stem mag gebruiken. Tot die tijd bevinden artiesten zich mogelijk in het wilde westen van AI-technologie, zonder wetten om hen te begeleiden.

3. Wie wordt betaald?

Is het oké om geld te verdienen aan muziek met iemands stem? Het is een netelige vraag die een groter probleem zou kunnen worden naarmate er meer deepfake muziek wordt gepubliceerd op streamingplatforms en er geld mee wordt verdiend op socialemediaplatforms.

Zoals we allemaal weten, is het prima om een ​​cover van een beroemd nummer te zingen en deze op YouTube of Spotify te plaatsen, en in dat geval dingen als de songtekst, songstructuur, melodie, ritme, enz. zijn gekopieerd. Maar vocale klonen zijn heel anders, en deepfake-muziek is niet echt riffs op een bestaand nummer, maar het creëren van een heel nieuw nummer met de stem van iemand anders.

Anders gezegd: stemklonen zouden niet bestaan ​​zonder AI-tools en ongeautoriseerde datasets. Artiesten besteden hun leven lang aan het verbeteren van de stem waarmee ze zijn geboren en het creëren van een uniek geluid. Iemands stem stelen en er geld mee verdienen is misschien een stap te ver.

4. Een grijs gebiedsgenre

Om de zaken nog ingewikkelder te maken, beschouwen sommige mensen deepfake muziek misschien niet als helemaal slecht. In tegenstelling tot deepfake-afbeeldingen of -video's waar je misschien even om moet lachen voordat je voorbij scrolt op je telefoon, ontwikkelt deepfake-muziek zich naar een eigen genre.

Sommige mensen vergelijken het met het idee van het schrijven van fanfictie, een leuke en creatieve manier om hulde te brengen aan een artiest. Het is een positievere kijk die het moeilijk maakt om deepfake-muziek uit te sluiten als simpelweg taboe. Kijk maar eens naar Holly Herndon's benadering van AI-stemklonen in de onderstaande video.

Hoewel niet iedereen het erover eens is dat dit soort muziek zou moeten worden toegestaan. Als De Financiële Tijd schrijft, het grote platenlabel, Universal Music Group, wilde nummers van lagere kwaliteit verwijderen van streamingplatforms, inclusief die gemaakt door AI. Uiteindelijk zullen streamingplatforms zoals Spotify, Apple Music of Tidal een beslissing moeten nemen of dit muziekgenre op hun platform is toegestaan.

Deepfake-muziek veroorzaakt soortgelijke debatten die al in de kunstwereld plaatsvinden: moet AI-gegenereerde kunst als kunst worden beschouwd? Alleen nu stellen we AI-muziek in vraag.

5. Ethische zorgen rond ras en identiteit

Het tijdperk van deepfake-muziek is begonnen met veel muziek die rapmuziek nabootst. Met de historische wortels van het genre die teruggaan tot Afro-Amerikaanse jongeren die begin jaren zeventig opgroeiden in de Bronx, New York City, maken sommige mensen zich zorgen over ras en identiteit in AI-muziek.

auteur Lauren Chanel, is iemand die deepfake-muziek een serieus probleem vindt. Zoals geciteerd in een artikel van de New York Times, leggen ze uit:

“Het is een andere manier voor mensen die niet zwart zijn om het kostuum van een zwarte persoon aan te trekken – door hun handen in de lucht te steken van Kanye of Drake en een marionet van hem te maken – en dat is verontrustend voor mij.” “Dit is gewoon weer een voorbeeld in een lange rij mensen die onderschatten wat er nodig is om het soort kunst te maken dat zwarte mensen historisch gezien maken."

Dit is niet de eerste keer dat muziek gemaakt met AI-tools niet ethisch verantwoord is. Als berichtte in het blad Rolling Stone, een virtuele avatar-rapper genaamd FN Meka, was getekend bij een label en viel toen snel online rechtengroep Industry Blackout schreef dat het project "grove stereotypen" over Back in stand hield cultuur.

Deepfake-muziek herinnert ons er in ieder geval aan dat AI-tools niet los kunnen worden gezien van de geschiedenis van het maken van muziek. de gevaren van AI-deepfakes.

6. Het veroorzaken van schade aan artiesten

Een ding dat niet over het hoofd mag worden gezien, is de emotionele impact die een deepfake-nummer op de artiest kan hebben, vooral wanneer een stemkloon kan zingen over situaties die nooit zijn gebeurd, emoties uitdrukken die niet van hen zijn, en doen alsof ze om dingen geven die ze misschien niet belangrijk vinden.

In het geval van het nep-Drake-nummer ft. The Weeknd, de teksten bevatten regels over Selena Gomez die vroeger met The Weeknd uitging. Door een mix van feiten uit het echte leven en verzonnen teksten te gebruiken, was het een rare vertekening van de werkelijkheid die schadelijk zou kunnen zijn voor de artiest die de echte ervaring heeft meegemaakt.

Evenzo, het produceren van door AI gegenereerde songteksten "in de stijl van" een beroemdheid die AI-tekstgeneratoren gebruikt, heeft ertoe geleid dat sommige artiesten wanhopig zijn geworden over het gebruik van AI-technologie. Zoals Nick Cave het zegt, "Wat ChatGPT in dit geval is, is replicatie als aanfluiting."

Deepfake-muziek is in staat om woorden in de mond van de artiest te leggen die ze nooit hebben gesproken, of in dit geval gezongen. Op persoonlijk vlak kan dit schadelijk zijn voor de artiest die weinig controle heeft over het verwijderen van de inhoud, zonder de strijd voor de rechter te brengen.

Zet je schrap voor veranderingen in de muziekindustrie

Dankzij de groeiende toegang tot AI-tools is muziek de wereld van deepfakes binnengedrongen, met name via stemklonen. Het verschil zien tussen een AI-stem en een menselijke stem, gewoon door te luisteren, is buitengewoon moeilijk, waardoor het voor een deepfake-nummer gemakkelijk is om streamingplatforms te bereiken voordat het wordt verwijderd.

Aan de ene kant zouden fans kunnen genieten van deepfake muziek en zou er een geldig genre kunnen ontstaan ​​dat beroemde stemmen gebruikt om nieuwe en interessante muziek te creëren. Maar niet elke artiest is het eens met het klonen van zijn stem, en er zijn geen wetten die mensen ervan weerhouden ongeautoriseerde datasets te maken.

Het verkrijgen van toestemming, het vergoeden van artiesten en het onderzoeken van ethische kwesties zijn slechts enkele problemen waarmee artiesten en de muziekindustrie worden geconfronteerd. Met de snelle ontwikkeling van AI-technologie is het de moeite waard om even stil te staan ​​bij de problemen die ze hebben veroorzaakt.