ChatGPT is een krachtige nieuwe AI-chatbot die snel indruk maakt, maar veel mensen hebben erop gewezen dat het een aantal ernstige valkuilen heeft. Vraag het wat je maar wilt, en je krijgt een antwoord dat klinkt alsof het door een mens is geschreven, zijn kennis en schrijfvaardigheid hebben geleerd van massale hoeveelheden informatie op internet.
Net als internet zijn waarheid en feiten echter niet altijd een gegeven en maakt ChatGPT zich schuldig aan het bij het verkeerde eind hebben. Nu ChatGPT onze toekomst gaat veranderen, zijn hier enkele van de grootste zorgen.
Wat is ChatGPT?
ChatGPT is een groot model voor het leren van talen dat is ontworpen om menselijke gesprekken na te bootsen. Het kan zich dingen herinneren die je in het verleden tegen hem hebt gezegd en is in staat zichzelf te corrigeren als het fout is.
Het schrijft op een menselijke manier en heeft een schat aan kennis omdat het is getraind op allerlei soorten tekst van internet, zoals Wikipedia, blogposts, boeken en academische artikelen.
Het is gemakkelijk te leren hoe ChatGPT te gebruiken, maar wat uitdagender is, is erachter te komen wat de grootste problemen zijn. Hier zijn enkele die de moeite waard zijn om te weten.
1. ChatGPT heeft niet altijd gelijk
Het faalt in elementaire wiskunde, kan geen eenvoudige logische vragen beantwoorden en zal zelfs zo ver gaan dat het volledig onjuiste feiten betwist. Zoals gebruikers van sociale media kunnen bevestigen, kan ChatGPT het meer dan eens fout doen.
AI openen kent deze beperking en schrijft dat: "ChatGPT schrijft soms plausibel klinkende maar onjuiste of onzinnige antwoorden." Dit "hallucinatie" van feit en fictie, zoals sommige wetenschappers het noemen, is vooral gevaarlijk als het gaat om zoiets als medisch advies.
In tegenstelling tot andere AI-assistenten zoals Siri of Alexa, gebruikt Chat GPT geen internet om antwoorden te vinden. In plaats daarvan construeert het woord voor woord een zin, waarbij het meest waarschijnlijke "token" wordt geselecteerd dat als volgende zou moeten komen, op basis van zijn training.
Met andere woorden, ChatGPT komt tot een antwoord door een reeks gissingen te doen, wat een deel van de reden is waarom het verkeerde antwoorden kan beargumenteren alsof ze helemaal waar zijn.
Hoewel het geweldig is in het uitleggen van complexe concepten, waardoor het een krachtig leermiddel is, is het belangrijk om niet alles te geloven wat het zegt. ChatGPT is niet altijd correct, althans nog niet.
2. Bias zit in het systeem ingebakken
ChatGPT is getraind op het collectieve schrijven van mensen over de hele wereld, vroeger en nu. Dit betekent dat dezelfde vooroordelen die in de data aanwezig zijn, ook in het model kunnen voorkomen.
Gebruikers hebben zelfs laten zien hoe ChatGPT verschrikkelijke antwoorden kan geven, waarvan sommige bijvoorbeeld discriminerend zijn voor vrouwen. Maar dat is slechts het topje van de ijsberg; het kan antwoorden opleveren die buitengewoon schadelijk zijn voor een reeks minderheidsgroepen.
De schuld ligt ook niet alleen in de data. OpenAI-onderzoekers en -ontwikkelaars kiezen de gegevens die worden gebruikt om ChatGPT te trainen. Om te helpen bij het aanpakken van wat OpenAI "bevooroordeeld gedrag" noemt, vraagt het gebruikers om feedback te geven over slechte resultaten.
Met het potentieel om mensen schade toe te brengen, kun je stellen dat ChatGPT niet openbaar had mogen worden gemaakt voordat deze problemen zijn bestudeerd en opgelost.
Een soortgelijke AI-chatbot genaamd Sparrow (eigendom van het moederbedrijf van Google, Alphabet) werd uitgebracht in september 2022. Het werd echter achter gesloten deuren gehouden vanwege soortgelijke zorgen dat het schade zou kunnen aanrichten.
Misschien had Meta ook de waarschuwing moeten leiden. Toen het Galactica uitbracht, een AI-taalmodel dat is getraind op academische papers, werd het snel teruggeroepen nadat veel mensen het hadden bekritiseerd vanwege het uitvoeren van verkeerde en bevooroordeelde resultaten.
3. Een uitdaging voor Engels op de middelbare school
U kunt ChatGPT vragen om uw schrijven te proeflezen of om aan te geven hoe u een paragraaf kunt verbeteren. Je kunt jezelf ook helemaal uit de vergelijking verwijderen en ChatGPT vragen iets voor je te schrijven.
Docenten hebben geëxperimenteerd met het invoeren van Engelse opdrachten in ChatGPT en hebben antwoorden gekregen die beter zijn dan wat veel van hun leerlingen konden doen. Van het schrijven van sollicitatiebrieven tot het beschrijven van belangrijke thema's in een beroemd literair werk, ChatGPT kan het zonder aarzelen.
Dat roept de vraag op: als ChatGPT voor ons kan schrijven, moeten studenten dan in de toekomst leren schrijven? Het lijkt misschien een existentiële vraag, maar wanneer studenten ChatGPT gaan gebruiken om hun essays te schrijven, zullen scholen snel een antwoord moeten bedenken. De snelle inzet van AI in de afgelopen jaren zal veel industrieën schokken, en het onderwijs is daar slechts één van.
4. Het kan echte schade veroorzaken
Eerder hebben we vermeld hoe onjuiste informatie door ChatGPT in de echte wereld schade kan aanrichten, met als meest voor de hand liggende voorbeeld verkeerd medisch advies.
Er zijn ook andere zorgen. Nep-accounts op sociale media vormen een enorm probleem op internet en met de introductie van AI-chatbots zouden internetzwendel gemakkelijker uit te voeren zijn. De verspreiding van valse informatie is een andere zorg, vooral wanneer ChatGPT zelfs foute antwoorden overtuigend goed laat klinken.
De snelheid waarmee ChatGPT antwoorden kan produceren die niet altijd correct zijn, heeft al problemen veroorzaakt voor Stack Exchange, een website waar gebruikers vragen kunnen stellen en antwoorden kunnen krijgen.
Kort na de release werden antwoorden door ChatGPT van de site verbannen omdat een groot aantal van hen ongelijk had. Zonder voldoende menselijke vrijwilligers om de achterstand weg te werken, zou het onmogelijk zijn om een hoog niveau van antwoorden te behouden, wat schade aan de website zou veroorzaken.
5. OpenAI heeft alle kracht
Met grote kracht komt grote verantwoordelijkheid, en OpenAI heeft veel kracht. Het is een van de eerste AI-bedrijven die de wereld echt opschudden met niet één, maar meerdere AI-modellen, waaronder Dall-E 2, GPT-3 en nu ChatGPT.
OpenAI kiest welke data wordt gebruikt om ChatGPT te trainen en hoe het omgaat met de negatieve gevolgen. Of we het nu eens zijn met de methoden of niet, het zal deze technologie volgens zijn eigen doelen blijven ontwikkelen.
Hoewel OpenAI veiligheid als een hoge prioriteit beschouwt, is er veel dat we niet weten over hoe de modellen worden gemaakt. Of je nu vindt dat de code open source moet worden gemaakt, of het ermee eens bent dat delen ervan geheim moeten blijven, we kunnen er niet veel aan doen.
Uiteindelijk kunnen we er alleen maar op vertrouwen dat OpenAI ChatGPT op verantwoorde wijze zal onderzoeken, ontwikkelen en gebruiken. Als alternatief kunnen we ervoor pleiten dat meer mensen inspraak krijgen in welke richting AI moet gaan, door de kracht van AI te delen met de mensen die het zullen gebruiken.
Als je geïnteresseerd bent in wat OpenAI nog meer heeft ontwikkeld, bekijk dan onze artikelen over hoe Dall-E te gebruiken 2 En hoe GPT-3 te gebruiken.
De grootste problemen van AI aanpakken
Er is veel om enthousiast over te zijn met ChatGPT, de nieuwste ontwikkeling van OpenAI. Maar afgezien van het onmiddellijke gebruik ervan, zijn er enkele ernstige problemen die de moeite waard zijn om te begrijpen.
OpenAI geeft toe dat ChatGPT schadelijke en bevooroordeelde antwoorden kan produceren, om nog maar te zwijgen van het vermogen om feit met fictie te vermengen. Met zo'n nieuwe technologie is het moeilijk te voorspellen welke andere problemen zich zullen voordoen. Dus geniet tot die tijd van het verkennen van ChatGPT en pas op dat u niet alles gelooft wat er staat.