Tenzij je onder een steen hebt geleefd, heb je waarschijnlijk wel eens van ChatGPT of een soortgelijke AI-chatbot gehoord en deze zelfs gebruikt. Hoewel het gebruik van deze chatbots zeker leuk is, kan het ook gevaarlijk zijn als je niet weet wat je doet.
Deze chatbots hebben beperkingen en het is belangrijk om te begrijpen wat die zijn. Dus, hier zijn zes dingen die je moet vermijden om een AI-chatbot te vragen.
1. Medische diagnose
AI-chatbots zijn in veel dingen goed, maar het geven van nauwkeurige medische diagnoses is daar niet één van. Natuurlijk hebben ze het misschien niet altijd bij het verkeerde eind, maar een chatbot vertrouwen om je ziekte te diagnosticeren in plaats van een dokter is hetzelfde als googelen naar je symptomen.
Een chatbot vat eenvoudig de informatie samen die hij van internet heeft gehaald en die al dan niet waar is. Wat nog belangrijker is, het kent uw medische geschiedenis of tolerantie voor bepaalde stoffen niet en kan daarom niet beoordelen wat voor soort behandeling voor u geschikt is.
Het internet heeft de neiging om dingen te overdrijven, dus het is geen wonder dat veel mensen die hun symptomen opzoeken, hypochondrie en ernstige angst ervaren. Het gebruik van AI-chatbots kan hetzelfde effect repliceren en de zaken erger maken. Voor je eigen bestwil, niet doen raadpleeg een chatbot voor medisch advies.
2. Productrecensies
Een AI-chatbot kan gemakkelijk de prijs en specificaties opsommen van een product waarin u mogelijk geïnteresseerd bent, maar kan nooit een productrecensie geven. Waarom? Omdat een productreview per definitie persoonlijke mening, ervaring en oordeel van de recensent omvat.
AI heeft niet het vermogen om te zien, ruiken, aanraken, proeven of horen, en daarom zouden de beweringen die het zou doen over een product - elk product, niet alleen technologie - in zijn "recensie" onoprecht zijn.
Een AI-chatbot kan bijvoorbeeld niet ervaren hoe een telefoon in de hand ligt, de helderheid van de luidspreker, de kwaliteit van de vibratiemotor, de betrouwbaarheid van de vingerafdruksensor, de soepelheid van de software en de veelzijdigheid van de camera systeem.
Als je aanbevelingen wilt krijgen over welke producten je kunt kopen, zorg er dan voor dat je een chatbot vraagt om bestaande recensies samen te vatten. U moet een AI-bot gebruiken die op internet kan zoeken, zoals Bing met ingebouwde ChatGPT.
3. Juridisch advies
U hebt misschien de krantenkoppen dat ChatGPT met succes de examens van de Amerikaanse rechtenfaculteit heeft gehaald en dat AI-chatbots op weg zijn om onze rechtszalen binnen te dringen in de komende jaren. Dit zou schokkend moeten zijn, maar een snelle zoekopdracht zou je vertellen dat we eigenlijk al sinds 2015 proberen AI in ons rechtssysteem te krijgen!
Sommige bedrijven hebben al gespecialiseerde AI-juridische assistenten in het leven geroepen, die ze zelfs op de markt hebben gebracht als een betaalbaar alternatief voor menselijke advocaten. Het concept heeft duidelijk voordelen voor mensen die dat laatste niet kunnen betalen, maar de problemen met deze zogenaamde AI-advocaten zijn te reëel om te negeren.
Het voor de hand liggende verschil is dat AI-chatbots geen gezond verstand hebben. Dingen die voor ons mensen instinctief vanzelfsprekend zijn, moeten in chatbots worden geprogrammeerd, waardoor ze minder in staat zijn tot logisch redeneren.
Wat nog belangrijker is, een menselijke advocaat kan zoeken naar nieuw bewijs en buiten de gebaande paden denken om met slimme oplossingen en mazen in de wet te komen. Maar een AI-chatbot kan de data die jij aanlevert alleen op een vooraf bepaalde manier gebruiken en verwerken. Een AI-advocaat zou ook het perfecte doelwit zijn voor hackers om gevoelige gegevens van veel mensen tegelijk te stelen.
4. Nieuws
Het gebruik van AI-chatbots als nieuwsbron levert drie grote problemen op: verantwoording, context en macht. Ten eerste verantwoording. Als je een nieuwsbericht leest, ken je de publicatie en de journalist erachter. Dit betekent dat er iemand verantwoordelijk is voor de informatie die aan u wordt gegeven, dus er is een duidelijke stimulans om nauwkeurig te zijn om iemands reputatie en geloofwaardigheid te behouden.
Maar met een AI-chatbot is er geen individuele persoon die het nieuwsbericht schrijft. In plaats daarvan vat de bot alleen de verhalen samen die al op internet beschikbaar zijn. Dit betekent dat er geen primaire bron is en dat u niet weet waar informatie vandaan komt. Daarom is het niet zo betrouwbaar.
Ten tweede context. Als het nieuws dat je aan het lezen bent slechts een samenvatting is van informatie uit verschillende bronnen, kan het snel een vals verhaal schetsen omdat je de diepere context van elk afzonderlijk verhaal verliest. De bot weet niet of wat hij beweert waar is, hij combineert alleen dingen op een manier die aan de oppervlakte waar lijkt.
En tot slot, macht. We weten dat ChatGPT bevooroordeeld kan zijn (onder andere problemen). Dus als we ons allemaal richten op AI-chatbots als nieuwsbron, geeft dat de bedrijven erachter macht om in te dammen eventuele negatieve berichtgeving en benadruk alle positieve berichtgeving over de doelen waarin ze geloven en willen promoten. Dit is om voor de hand liggende redenen buitengewoon gevaarlijk.
5. Politieke mening
Het zou vrij duidelijk moeten zijn waarom het een grote no-no is om een chatbot om politieke mening te vragen. Als je ChatGPT vraagt naar zijn mening over een politieke kwestie, krijg je meestal een beperkt antwoord dat gaat ongeveer zo: "Als AI-taalmodel heb ik geen persoonlijke voorkeuren of verlangens..."
Deze beperking is begrijpelijk, maar Reddit-gebruikers hebben al manieren gevonden om de bot te "jailbreaken" om onbeperkt te reageren met behulp van allerlei creatieve achterpoortjes. Dit voor de lol doen is één ding, maar een onbeperkte AI-chatbot om politieke mening vragen is hetzelfde als je peuter toegang geven tot het dark web; het kan voor geen van de betrokken partijen goed aflopen.
6. Commerciële inhoud
Het grootste verkoopargument van AI-chatbots is dat ze direct inhoud kunnen produceren. Wat een mens een paar uur zou kosten om te schrijven, kan ChatGPT in seconden doen. Behalve, het kan niet.
Zelfs als je de twijfelachtige ethiek van het gebruik van AI-chatbots om inhoud te schrijven over het hoofd ziet, kun je niet negeren dat ze gewoon niet goed genoeg zijn en kan menselijke schrijvers niet vervangen. Nog niet, tenminste. ChatGPT levert bijvoorbeeld vaak onnauwkeurige, verouderde en repetitieve inhoud.
Omdat deze bots geen eigen mening, beoordelingsvermogen, verbeeldingskracht of eerdere ervaring hebben, kunnen ze niet tekenen intelligente conclusies trekken, voorbeelden bedenken, metaforen gebruiken en verhalen creëren op een professionele manier schrijver kan.
Met andere woorden, het voegt geen nieuwe waarde toe aan het internet. Het gebruik van chatbots voor persoonlijk gebruik is prima. Maar het is waarschijnlijk een heel slecht idee om ze te gebruiken om uw artikelen, nieuwsverhalen, onderschriften op sociale media, webkopieën en meer te schrijven.
AI-chatbots zijn leuk, maar hebben nog steeds enkele tekortkomingen
Het is moeilijk te zeggen hoe AI-chatbots de technische industrie en de moderne samenleving als geheel zullen beïnvloeden. Hoe revolutionair de technologie ook is, chatbots zorgen voor veel problemen die moeten worden aangepakt.
Wat interessant is, is dat Microsoft nu een ChatGPT-achtige chatbot rechtstreeks in zijn zoekmachine Bing integreert, en Google zal binnenkort hetzelfde doen met zijn eigen chatbot genaamd Bard. Het wordt interessant om te zien hoe deze nieuwe AI-zoekmachines het internet gaan veranderen.