Op het gebied van AI wordt vooruitgang geboekt op ongekende niveaus, met bijna wekelijks nieuwe ontwikkelingen. Generatieve AI-tools zoals ChatGPT zijn nu zo populair dat ze overal worden geïntegreerd.
Maar moeten we? Het is logisch om AI-technologie te gebruiken voor productiviteit, onderwijs en entertainment. Bedrijven denken er nu echter over om het rechtstreeks in onze berichten-apps te plaatsen, en dit kan destructief blijken te zijn. Hier zijn zeven redenen waarom.
1. AI-chatbots hebben de neiging te hallucineren
Als je hebt gebruikt ChatGPT, Bing of Bard, weet je dat generatieve AI-chatbots de neiging hebben om te 'hallucineren'. AI-hallucinatie is wanneer deze chatbots dingen verzinnen vanwege een gebrek aan adequate trainingsgegevens over de door de gebruiker gevraagde vraag.
Met andere woorden, ze leveren verkeerde informatie, maar klinken er zelfverzekerd over, alsof het een feit is. Dit is een groot probleem omdat veel mensen geen feitencontrole uitvoeren bij het gebruik van een chatbot en denken dat deze standaard correct is. Het is een van de grootste
fouten die u moet vermijden bij het gebruik van AI-tools.Wanneer het in berichten-apps wordt geplaatst, is de hoeveelheid schade die het kan aanrichten zelfs nog groter, omdat mensen het zouden kunnen gebruiken om (opzettelijk of onbedoeld) verkeerde informatie verspreiden onder hun contacten en op sociale media, propaganda verspreiden en echo bevorderen kamers.
2. Mensen praten niet graag met bots
Bedenk eens hoe vervelend het is wanneer u probeert contact op te nemen met de klantenondersteuning van een bedrijf en u gedwongen wordt om met een chatbot in plaats van een echte menselijke leidinggevende die de nuances van uw probleem daadwerkelijk kan begrijpen en passend kan bieden begeleiding.
Hetzelfde geldt voor persoonlijke gesprekken. Stel je voor dat je met je vriend praat, en halverwege realiseer je je dat ze daar AI voor hebben gebruikt al die tijd op uw berichten reageren in plaats van dit alleen te doen op basis van hun gedachten en meningen.
Als je net als de meeste mensen bent, zou je je meteen beledigd voelen en het gebruik van AI in een privégesprek opvatten als ongevoelig, griezelig en zelfs passief-agressief, alsof de andere persoon je zijn tijd, aandacht en empathie.
Het gebruik van AI om bijvoorbeeld e-mails te schrijven is begrijpelijk omdat het een professionele interactie is, maar het gebruik ervan in persoonlijke gesprekken zal niemand willen aanmoedigen. Zodra de nieuwigheid van de technologie vervaagt, wordt het onbeleefd om het in deze context te gebruiken.
3. AI kan uw unieke tonaliteit niet kopiëren
Met generatieve AI-tools kunt u vandaag al de toon van uw bericht wijzigen, zoals formeel, vrolijk of neutraal, afhankelijk van aan wie u schrijft en hoe u wilt overkomen. Magic Compose in Google Berichten, kunt u bijvoorbeeld hetzelfde doen.
Hoewel dat goed is, moet u er rekening mee houden dat deze tonaliteit wordt getraind op basis van ingestelde trainingsgegevens en niet uw persoonlijke chatgeschiedenis, dus het kan uw unieke tonaliteit of de emoji's die u gewoonlijk gebruikt niet repliceren.
Het kan je misschien niet zoveel schelen, vooral als je AI gebruikt om eenvoudige zakelijke e-mails te schrijven waarvoor iedereen min of meer dezelfde formele toon gebruikt. Maar het doet er veel meer toe dan u misschien beseft wanneer u het gebruikt om met uw vrienden en familie te praten via een berichten-app.
Totdat AI-tools u de mogelijkheid bieden om hun taalmodel te trainen op basis van uw chatgeschiedenis, kunnen ze uw unieke dialect en excentriciteiten niet repliceren. Dat gezegd hebbende, deze uitdaging is niet zo moeilijk op te lossen, dus misschien zien we dat deze binnenkort wordt geïmplementeerd.
4. Het schrijven van goede prompts kost tijd
Het verkrijgen van de gewenste resultaten van een AI-chatbot hangt sterk af van de kwaliteit van uw prompt. Als u een slechte prompt schrijft, krijgt u een slechte reactie en moet u de prompt verfijnen totdat u een bevredigend resultaat krijgt.
Dit proces is logisch wanneer u lange inhoud wilt schrijven, maar is uiterst inefficiënt bij het schrijven van meerdere, korte antwoorden in een informeel gesprek.
De tijd die het kost om uw prompts te verfijnen en bruikbare antwoorden te krijgen, zal in de meeste gevallen meer tijd kosten dan het zou hebben gekost als u de berichten gewoon zelf had geschreven.
5. AI kan offensieve resultaten opleveren
Afgezien van nauwkeurigheid is vooringenomenheid een van de grootste problemen met generatieve AI. Sommige mensen beschouwen AI als onbevooroordeeld omdat het geen eigen motieven heeft. De mensen achter deze AI-tools zijn echter uiteindelijk mensen met hun eigen vooroordelen.
Met andere woorden, vooringenomenheid zit in het systeem ingebakken. AI begrijpt niet inherent wat als aanstootgevend wordt beschouwd en wat niet, dus het kan bijvoorbeeld worden getraind om bevooroordeeld te zijn tegen bepaalde groepen mensen of bepaalde culturen - en daarbij aanstootgevende resultaten te produceren.
6. AI begrijpt misschien geen sarcasme of humor
AI's begrip van stijlfiguren, zoals ironie en metaforen, wordt in de loop van de tijd beter, maar het is nog lang niet zover dat het in een gesprek kan worden gebruikt om humor te herkennen. Toen Google's Bard bijvoorbeeld werd gevraagd om sarcastisch te zijn, waren de resultaten wisselvallig.
In sommige gevallen was het echt grappig en speelde het mee met mijn sarcasme. Maar in andere gevallen keerde het ofwel terug naar een niet-grappige cookie-cutter-reactie of weigerde het gewoon deel helemaal aan het gesprek en zeg dat het, aangezien het maar een LLM is, me niet kan helpen met mijn vraag.
7. Vertrouwen op AI kan leiden tot slechte communicatie
Een ander subtiel maar substantieel probleem bij het integreren van generatieve AI in berichten-apps is hoe het ons vermogen om te communiceren kan beïnvloeden. Als we steeds meer vertrouwen op AI om met elkaar te praten, kan dit ons vermogen om dat te doen belemmeren train onze emotionele intelligentie en sociale vaardigheden.
Het punt hier is dat hoe meer we onze sociale behoeften uitbesteden aan AI, hoe slechter we zullen worden in het communiceren van ideeën via organische middelen. Met andere woorden, hoe meer u AI gebruikt om met uw contacten te praten, hoe groter de kans dat u de kwaliteit van uw relaties verslechtert.
Niet alles hoeft AI te hebben
Met de komst van nieuwe technologie zijn we vaak zo druk bezig om uit te zoeken hoe we deze kunnen gebruiken, dat we er niet over nadenken of we het überhaupt wel zouden moeten gebruiken.
Hoewel het volkomen logisch is om generatieve AI te gebruiken voor het schrijven van e-mails, het brainstormen over ideeën of het maken van afbeeldingen voor presentaties, roept de integratie ervan in berichten-apps veel kritiek op.