Wie heeft ChatGPT op dit moment niet gebruikt? Het is leuk, absoluut fascinerend als je interesse hebt in kunstmatige intelligentie, en (voorlopig) gratis.
Hoewel het meestal wordt omschreven als een chatbot, is ChatGPT veel meer dan dat. Het kan teksten genereren, complexe onderwerpen uitleggen, optreden als vertaler, grappen bedenken en code schrijven. Maar het kan ook worden bewapend door bedreigingsactoren.
Hoe ChatGPT werkt en waarom het aantrekkelijk is voor cybercriminelen
ChatGPT (Generative Pre-trained Transformer) is ontwikkeld door het onderzoekslaboratorium voor kunstmatige intelligentie OpenAI en gelanceerd in november 2022. Het is een groot taalmodel dat gebruikmaakt van een combinatie van gesuperviseerde en versterkende machine learning-technieken.
Misschien nog belangrijker is dat ChatGPT voortdurend wordt verfijnd en getraind door gebruikers, die ofwel kunnen stemmen of stem de reacties af, waardoor het des te nauwkeuriger en krachtiger wordt, omdat het zelf gegevens verzamelt.
Dat is wat ChatGPT onderscheidt van andere chatbots. En als je het ooit hebt gebruikt, weet je dat het verschil meteen merkbaar is: in tegenstelling tot andere vergelijkbare producten kan het dat wel neem actief deel aan een gesprek en voltooi complexe taken met verbluffende nauwkeurigheid, terwijl u coherent en menselijk overkomt reacties.
Als je een kort essay te zien krijgt dat is geschreven door een mens en een geschreven door ChatGPT, zou je waarschijnlijk moeite hebben om te bepalen wat wat is. Als voorbeeld, hier is een deel van de tekst die ChatGPT heeft gegenereerd toen hem werd verteld een kort essay te schrijven over The Catcher in the Rye.
Dit wil niet zeggen dat ChatGPT geen beperkingen heeft - dat heeft het zeker wel. Hoe meer je het gebruikt, hoe meer je zult merken dat dit het geval is. Hoe krachtig het ook is, het kan nog steeds worstelen met elementaire logica, fouten maken, vals en misleidend delen informatie, instructies op een komische manier verkeerd interpreteren en gemanipuleerd worden om de verkeerde te tekenen conclusie.
Maar de kracht van ChatGPT ligt niet in het vermogen om te converseren. Het ligt eerder in zijn bijna onbeperkte capaciteit om taken massaal uit te voeren, efficiënter en veel sneller dan een mens zou kunnen. Met de juiste invoer en opdrachten, en een paar creatieve oplossingen, kan ChatGPT worden omgezet in een verontrustend krachtige automatiseringstool.
Met dat in gedachten is het niet moeilijk voor te stellen hoe een cybercrimineel ChatGPT zou kunnen bewapenen. Het gaat erom de juiste methode te vinden, deze te schalen en de AI zoveel mogelijk taken tegelijk te laten uitvoeren, met meerdere accounts en indien nodig op meerdere apparaten.
5 dingen die bedreigingsactoren kunnen doen met ChatGPT
Er zijn al een paar echte voorbeelden van ChatGPT die worden gebruikt door bedreigingsactoren, maar het is meer dan wordt het waarschijnlijk op een aantal verschillende manieren bewapend, of zal het op een bepaald moment in de toekomst. Hier zijn vijf dingen die hackers kunnen doen (en waarschijnlijk doen) met ChatGPT.
1. Schrijf malware
Als ChatGPT code kan schrijven, kan het ook malware schrijven. Geen verrassing daar. Maar dit is niet alleen een louter theoretische mogelijkheid. In januari 2023 ontdekte cyberbeveiligingsbedrijf Check Point Research dat cybercriminelen dat al zijn ChatGPT gebruiken om malware te schrijven- en erover opscheppen op ondergrondse fora.
De bedreigingsactor die Check Point Research ontdekte, gebruikte de geavanceerde chatbot nogal creatief om op Python gebaseerde malware na te bootsen die in bepaalde onderzoekspublicaties wordt beschreven. Toen de onderzoekers het schadelijke programma testten, vertelde de cybercrimineel de waarheid: zijn door ChatGPT gegenereerde malware deed precies waarvoor het was ontworpen.
2. Genereer phishing-e-mails
Zo krachtig als spamfilters zijn geworden, gevaarlijke phishing-e-mails nog steeds door de kieren glippen, en de gemiddelde persoon kan niet veel doen behalve de afzender rapporteren aan zijn provider. Maar er is veel dat een capabele bedreigingsactor kan doen met een mailinglijst en toegang tot ChatGPT.
Met de juiste commando's en suggesties kan ChatGPT overtuigende phishing-e-mails genereren, waardoor het proces voor de bedreigingsactor mogelijk wordt geautomatiseerd en hij zijn activiteiten kan opschalen.
3. Bouw zwendelwebsites
Als je gewoon de term "een website bouwen met ChatGPT" Googlet, vind je een heleboel tutorials die tot in detail uitleggen hoe je precies dat moet doen. Hoewel dit goed nieuws is voor iedereen die vanaf het begin een website wil maken, is het ook goed nieuws voor cybercriminelen. Wat weerhoudt hen ervan om ChatGPT te gebruiken om een heleboel zwendelsites of phishing-bestemmingspagina's te bouwen?
De mogelijkheden zijn bijna eindeloos. Een bedreigingsactor kan een bestaande website klonen met ChatGPT en deze vervolgens aanpassen, nep-e-commercewebsites bouwen, een site met scareware-zwendel, enzovoort.
4. Spaminhoud maken
Om een nepwebsite op te zetten, een zwendelpagina op sociale media uit te voeren of een copycat-site te bouwen, hebt u inhoud nodig - veel. En het moet er zo legitiem mogelijk uitzien om de zwendel te laten werken. Waarom zou een bedreigingsactor inhoudschrijvers inhuren of zelf blogposts schrijven als ze dat gewoon door ChatGPT kunnen laten doen?
Toegegeven, een website met door AI gegenereerde inhoud zou waarschijnlijk vrij snel door Google worden bestraft en niet in de zoekresultaten verschijnen, maar er zijn veel verschillende manieren waarop een hacker een website kan promoten, er verkeer naartoe kan sturen en mensen kan oplichten met hun geld of hun persoonlijke gegevens stelen.
5. Verspreid desinformatie en nepnieuws
Online desinformatie is de afgelopen jaren een groot probleem geworden. Nepnieuws verspreidde zich als een lopend vuurtje op sociale media en mensen die niet beter weten, trappen vaak in misleidende – en soms letterlijk verzonnen – verhalen. Dit kan ernstige, reële gevolgen hebben en het lijkt alsof niemand enig idee heeft hoe te stoppen de verspreiding van nepnieuws zonder de wetten op de vrijheid van meningsuiting te schenden.
Tools zoals ChatGPT kunnen dit probleem verergeren. Bedreigingsactoren die toegang hebben tot software die elke dag duizenden nepnieuwsverhalen en posts op sociale media kan genereren, lijkt een recept voor een ramp.
Geloof ons niet op ons woord
Als je niet overtuigd bent, hebben we ChatGPT gevraagd hoe een cybercrimineel het zou gebruiken. Het lijkt overeen te komen met de kern van dit artikel.
In verkeerde handen wordt ChatGPT gevaarlijk
Je kunt je alleen maar voorstellen waartoe kunstmatige intelligentie over vijf of tien jaar in staat zal zijn. Voorlopig kun je de hype en de paniek het beste negeren en ChatGPT rationeel beoordelen.
Zoals alle technologie is ChatGPT niet inherent nuttig of schadelijk. Ondanks enkele tekortkomingen is het verreweg de meest capabele chatbot die ooit voor het publiek is vrijgegeven.