Hebben ChatGPT-antwoorden een teken- of woordlimiet?

ChatGPT is groot nieuws. Maar hoe groot zijn de reacties die je krijgt van deze universele chatbot?

Het vaststellen hiervan is niet zo eenvoudig als u misschien denkt. Stel om te beginnen deze vraag aan ChatGPT en u kunt er zeker van zijn dat er geen vaste limieten zijn voor de lengte van de antwoorden.

Zoals we hier ontdekken, is het echter niet zo eenvoudig. Er zijn verborgen limieten aan de lengte van een ChatGPT-antwoord, maar er zijn ook enkele handige en eenvoudige oplossingen om u te helpen langere antwoorden te krijgen.

Hoe bepaalt ChatGPT de lengte van een antwoord?

Hoe ChatGPT werkt, is complex, en de lengte van het antwoord varieert afhankelijk van wat er wordt gevraagd en het gevraagde detailniveau. Zoals de volgende schermafbeelding laat zien, beweert ChatGPT dat er geen strikte limieten zijn.

Dit is niet wat we vonden. Het onderstaande voorbeeld laat zien dat ChatGPT plotseling een reactie midden in een zin stopt. We vroegen het om een ​​essay van duizend woorden te schrijven over de voordelen van een circulaire economie. ChatGPT reageerde niet meer toen het 677 woorden bereikte.

We herhaalden de test verschillende keren met verschillende vragen, en elke keer stopte hij halverwege een zin; af en toe ging dit gepaard met een netwerkfout. Dit is een veelvoorkomende fout, en die zijn er ook verschillende manieren om netwerkfouten in ChatGPT op te lossen.

Een deel van het antwoord op de vraag waarom dit gebeurt, ligt in iets dat het tokensysteem wordt genoemd.

Wat is het tokensysteem dat ChatGPT gebruikt?

In plaats van een eenvoudig aantal woorden om de lengte van zowel vragen als antwoorden te bepalen, gebruikt ChatGPT een tokensysteem. Dit splitst elke invoer en uitvoer op in een reeks tokens die worden gebruikt om de aanvraag- en antwoordgrootte te classificeren.

Hoewel het tellen van woorden hierbij een rol speelt, is dit niet het hele verhaal. Zo is onderstaand voorbeeld aangegaan OpenAi's Tokenizer-tool.

De zin en het antwoord zijn "Tokenized" tot een waarde van negen tokens. Dit komt overeen met de "vuistregel" van OpenAI dat één token gelijk is aan driekwart van een woord.

Het GPT 3.5-model beperkt vragen en gegevens van gebruikers tot 4.097 tokens. Volgens de berekening van OpenAI komt dit neer op ongeveer 3.000 woorden. Het is echter belangrijk op te merken dat deze limiet zowel van toepassing is op het antwoord als op de vraag.

Hoewel dit in theorie allemaal prima en goed is, benaderden de resultaten die we tegenkwamen nooit deze limieten. Het onvolledige antwoord dat ChatGPT in onze eerdere test teruggaf, woog slechts 798 tokens.

Waarom zijn de reacties van ChatGPT beperkt?

Deze prille technologie is in korte tijd uitgegroeid tot de meest besproken technologische ontwikkeling van deze eeuw. Dit heeft geleid tot een enorme vraag naar ChatGPT. Uiteindelijk heeft deze vraag de reacties effectief beperkt tot ver onder de gestelde limieten.

Hoewel er geen officiële bevestiging van is, lijkt er de facto een limiet te zijn van ongeveer vijfhonderd woorden of 4.000 tekens.

Om te benadrukken dat dit geen vaste regel is: we hebben uitvoer gegenereerd die deze met bijna tweehonderd woorden overschreed. Dit kan echter worden beschouwd als een veilige bovengrens om tot volledige antwoorden te komen.

Hoe u langere reacties kunt krijgen van ChatGPT

Als u eenmaal begrijpt dat er een "verborgen limiet" is voor de reacties van ChatGPT, zijn er enkele eenvoudige manieren om u te helpen volledigere antwoorden te krijgen.

1. Vraag ChatGPT om door te gaan: Als ChatGPT halverwege een antwoord stopt, is een optie om gewoon te vragen om door te gaan. In het onderstaande voorbeeld hebben we "Ga verder" getypt en het heeft nog eens tweehonderd woorden aan het antwoord toegevoegd.
2. Verdeel je vraag in kleinere delen: Zo hebben we het meerdere keren gevraagd om een ​​essay te schrijven over de impact van AI op de samenleving. Elke keer stopte de reactie. Een optie hier is om het te vragen om enkele onderwerpen op te sommen voor een essay over AI, en vervolgens de meegeleverde opsommingstekens als individuele prompts te gebruiken.
3. Gebruik de optie Opnieuw genereren: Hoewel dit dezelfde fout kan opleveren, met niets te verliezen, is het altijd het proberen waard.
4. Geef een bovengrens op voor uw aantal woorden in uw prompt: De onderstaande afbeelding illustreert hoe dit kan worden gebruikt om het maximale aantal woorden in een antwoord te manipuleren.

Deze tips helpen je om completere antwoorden van ChatGPT te krijgen en de niet-officiële limiet in de lengte van de antwoorden te omzeilen.

ChatGPT: kwaliteit boven kwantiteit

Hoewel er geen limiet is aan de lengte van de reacties van ChatGPT, lijkt het platform een ​​limiet op te leggen van ongeveer vijfhonderd woorden of 4.000 tekens.

Dit kan voornamelijk worden toegeschreven aan de enorme vraag naar ChatGPT. Dit heeft geleid tot onvolledige antwoorden en stopte reacties halverwege een zin, maar er zijn eenvoudige oplossingen om u te helpen langere antwoorden te krijgen.

Ondanks zijn beperkingen blijft ChatGPT een opmerkelijke technologische ontwikkeling die de kwaliteits- en kwantiteitsgrenzen van zijn output zal blijven ontwikkelen en uitbreiden.