Tegenwoordig wordt door miljoenen mensen vertrouwd op ChatGPT als een nuttige hulpbron, of het nu voor werk, plezier of onderwijs is. Maar kun je erop vertrouwen dat deze AI-chatbot altijd de feiten levert? Liegt ChatGPT ooit, of geeft het je alleen feitelijke informatie?
Waar haalt ChatGPT zijn informatie vandaan?
Tijdens de trainingsperiode kreeg ChatGPT gegevens van bronnen op internet, zoals websites van overheden en instanties, wetenschappelijke tijdschriften, studies, nieuwsartikelen, podcasts, online forums, boeken, databases, films, documentaires en sociale media media.
Concreet is ChatGPT-3 getraind met behulp van een uitgebreide database met informatie die 570 GB aan gegevens bedroeg. Zoals vermeld in een artikel uit Wetenschap focus, werden tijdens de ontwikkeling ervan 300 miljard woorden aan informatie in het GPT-3-systeem ingevoerd.
Iets dat het vermelden waard is, is dat ChatGPT alleen gegevens heeft gekregen die vóór 2021 bestonden. Dit betekent dat de chatbot geen vragen kan beantwoorden over recente gebeurtenissen. ChatGPT heeft ook geen toegang tot internet. De gegevens die tijdens de training zijn ingevoerd, zijn de enige gegevens die worden gebruikt om aan gebruikersprompts te voldoen.
Maar geeft ChatGPT u alleen de feiten, of is er meer dubbelzinnige informatie vermengd met de antwoorden? Kan ChatGPT bovendien tegen je liegen?
Liegt ChatGPT?
Hoewel ChatGPT gebruikers vaak waarheidsgetrouwe informatie geeft, heeft het wel de mogelijkheid om te 'liegen'. Natuurlijk besluit ChatGPT niet om kwaadwillig tegen gebruikers te liegen, omdat het dit simpelweg niet kan. ChatGPT is tenslotte een taalverwerkingstool, geen imitatie van een echte, bewuste persoon.
ChatGPT kan echter technisch nog steeds liegen door een fenomeen dat bekend staat als AI-hallucinatie.
AI hallucinatie omvat een AI-systeem dat informatie verstrekt die redelijk of plausibel lijkt, maar in werkelijkheid helemaal niet waar is. AI-hallucinatie kan zelfs informatie opleveren dat het tijdens de trainingsperiode nooit is gevoed. Het kan ook voorkomen wanneer een AI-systeem informatie verstrekt die geen verband houdt met de prompt of het verzoek. Een AI-systeem kan zelfs beweren een mens te zijn in een hallucinatiegebeurtenis.
AI-systemen, zoals chatbots, trappen om verschillende redenen in de hallucinatieval: hun gebrek aan inzicht in de echte wereld, softwarefouten en beperkingen van de verstrekte gegevens.
Zoals eerder vermeld, kan ChatGPT alleen informatie verstrekken met behulp van gegevens die tot 2021 zijn gepubliceerd, wat zeker beperkt is aan het soort prompts dat het kan vervullen.
Een van de De grote problemen van ChatGPT is dat het ook het slachtoffer kan worden van vooringenomenheid bij het geven van informatie aan gebruikers. Zelfs de makers van ChatGPT hebben verklaard dat het AI-systeem in het verleden "politiek bevooroordeeld, aanstootgevend" en "anderszins verwerpelijk" is geweest. Zoals gemeld door De onafhankelijke, zijn de ontwikkelaars van ChatGPT vastbesloten om dit probleem aan te pakken, maar dat betekent niet dat het geen risico meer vormt.
Desgevraagd verklaarde ChatGPT dat de redenen waarom het mogelijk onnauwkeurige informatie verstrekt, de volgende zijn:
- Dubbelzinnigheid in de vraag (vage, onduidelijke prompts);
- Onvolledig verstrekte informatie;
- Vooringenomen of onjuist verstrekte informatie; of,
- Technische beperkingen (voornamelijk door gebrek aan toegang tot actuele gegevens).
Dus, ChatGPT zelf verklaarde dat er scenario's zijn waarin het geen nauwkeurige informatie aan gebruikers zal verstrekken.
In een ander antwoord in hetzelfde gesprek verklaarde ChatGPT dat "het altijd een goed idee is om alle informatie [die het verstrekt] te verifiëren met andere bronnen."
Kunt u ChatGPT vertrouwen?
Omdat het valse informatie kan geven, heb je duidelijk kan ChatGPT niet vertrouwen 100% van de tijd.
U kunt het risico dat een AI-chatbot hallucineert verkleinen door specifieke parameters in te stellen over hoe deze u kan antwoorden. Er is echter nog steeds geen garantie dat sommige valse informatie niet door de kieren zal glippen.
Daarom is het het beste om alle informatie te controleren die ChatGPT u geeft, vooral als u informatie opvraagt over recente gebeurtenissen. Door deze gegevens dubbel te controleren door naar andere bronnen te verwijzen, kunt u bepalen of ChatGPT gelijk heeft in wat het zegt en kunt u voorkomen dat u onverstandige beslissingen neemt.
ChatGPT is nuttig, maar niet altijd waarheidsgetrouw
Helaas kunt u er niet op vertrouwen dat ChatGPT 100% van de tijd waarheidsgetrouwe, onbevooroordeelde informatie verstrekt. Deze door AI aangedreven chatbot is onmiskenbaar nuttig en kan je op verschillende manieren helpen, maar het is altijd de moeite waard om te verifiëren of de informatie die hij geeft feitelijk is.
