OpenAI's geautomatiseerde AI-aangedreven chatbot, ChatGPT, heeft het internet stormenderhand veroverd, maar niet zonder onderweg een paar problemen te veroorzaken. Met schrijvers, programmeurs, marketeers en schijnbaar alle anderen die ChatGPT gebruiken om inhoud te genereren, staren bedrijven over de hele wereld naar een tsunami van door AI gegenereerde inhoud.
Met problemen van plagiaat en gestolen inhoud die constant rond ChatGPT en zijn uitvoer wervelen, heeft OpenAI nu een nieuwe GPT-Classifier, een tool die is ontworpen om te detecteren en te onthullen of de tekst die u leest het werk was van ChatGPT of een van zijn andere GPT-tools.
OpenAI lanceert GPT-classificatie om door AI geschreven tekst te helpen controleren
OpenAI's aankondiging komt als onderzoek naar AI-schrijven en AI-gegenereerde tekst stapt op en bedrijven integreren ChatGPT-output.
De nieuwe GPT-Classifier probeert erachter te komen of een bepaald stuk tekst door mensen is geschreven of het werk is van een AI-generator. Terwijl ChatGPT en andere GPT-modellen uitgebreid worden getraind in allerlei soorten tekstinvoer, is de GPT-Classifier-tool is "afgesteld op een dataset van paren van door mensen geschreven tekst en door AI geschreven tekst op de hetzelfde onderwerp."
Dus in plaats van informatie op te zuigen en de beste benadering opnieuw te creëren, probeert de GPT-Classifier dat te doen vergelijk overeenkomsten tussen bekende menselijke tekst en bekende AI-tekst om discrepanties te vinden die de bron onthullen auteur.
De detectie van GPT-Classifier is momenteel beperkt
Hoewel het idee om door AI gegenereerde tekst gemakkelijk te herkennen, redacteuren en docenten als muziek in de oren zal klinken, heeft OpenAI gewaarschuwd dat de "classificatie niet volledig betrouwbaar is".
Momenteel identificeert GPT-Classifier "26% van de door AI geschreven tekst correct", terwijl 9% van de menselijke tekst wordt gelabeld als door AI geschreven. OpenAI merkt ook op dat de nauwkeurigheid van de tool "doorgaans verbetert naarmate de lengte van de invoertekst toeneemt".
Een vluchtige test van de GPT-Classifier zag een door mensen gegenereerd voorbeeld en markeerde het als "zeer onwaarschijnlijk". AI-gegenereerd", en gaf ook correct aan dat een door ChatGPT gegenereerd fragment over USB-problemen "mogelijk AI gegenereerd."
De vraag naar ChatGPT-detectie is groot
Zelfs met de beperkingen van de GPT-Classifier, zal de vraag naar betrouwbare ChatGPT-detectie waarschijnlijk velen naar deze tool wenden. OpenAI's inzet voor het bouwen en vrijgeven van een gratis GPT-detectietool is belangrijk omdat naarmate meer studenten, schrijvers, programmeurs en anderen die AI-tools voor het genereren van tekst gebruiken, zullen deze invoer begrijpen en detecteren van vitaal belang.
Voor nu, hoewel GPT-Classifier actief is en beschikbaar is om te testen, is het het beste om de labeling met een korreltje zout te nemen.
