OpenAI's nieuwe ChatGPT AI-aangedreven chatbot wordt gebruikt door cybercriminelen om malware te schrijven en operaties te verbeteren.
Nieuwe AI-aangedreven ChatBot wordt gebruikt om malware te schrijven
Cyberbeveiligingsexperts van Check Point Research hebben hackers gevonden die de ChatGPT-chatbot gebruiken om kwaadaardige code te schrijven en cybercriminaliteit te verbeteren.
Op 30 november 2022 lanceerde OpenAI zijn eigen chatbot genaamd ChatGPT. Deze chatbot kan gesprekken voeren met gebruikers, maar het duurde niet lang na de lanceringsdatum voordat cybercriminelen deze bot begonnen te misbruiken.
In een Check Point Research-post, werd geschreven dat onderzoekers een thread met de naam "'ChatGPT - Benefits of Malware'" hadden gevonden op een hackforum. De auteur leek "te experimenteren met ChatGPT om malwarestammen en -technieken na te bootsen beschreven in onderzoekspublicaties en artikelen over veelvoorkomende malware", en deelde een voorbeeld van hun werk; een op Python gebaseerde stealer die "zoekt naar algemene bestandstypen, deze kopieert naar een willekeurige map in de Temp-map, ze ZIPt en uploadt naar een hardgecodeerde FTP-server."
Check Point Research waarschuwde het publiek op Twitter en verklaarde dat "misbruik van #ChatGPT niet langer theoretisch is".
Onderzoek van Check Point heeft de beweringen van de auteur geverifieerd
Na beoordeling van het voorbeeld van het malwarescript in het hackforumbericht, stelde Check Point Research vast dat het legitiem was.
Er werd ontdekt dat deze specifieke malwarestam kan zoeken naar twaalf veelgebruikte bestandstypen, waaronder pdf's, Microsoft Office-documenten en afbeeldingen. Als de malware potentieel waardevolle bestanden ontdekt, worden deze gekopieerd en ingepakt. De malware-operator ontvangt vervolgens de gekopieerde bestanden via een online verbinding.
Check Point Research merkte ook op dat de malware-operator de gekopieerde bestanden niet heeft versleuteld of veilig heeft verzonden, wat betekent dat ze in handen van derden kunnen vallen.
ChatDPT wordt gebruikt voor aanvullende illegale activiteiten
Check Point Research stelde in de eerder genoemde post ook dat bedreigingsactoren ChatGPT kunnen gebruiken voor andere criminele activiteiten. Een aanvullende discussie, getiteld "Abusing ChatGPT to create Dark Web Marketplaces scripts.", werd gevonden door Check Point Research, waarin de auteur liet zien hoe eenvoudig het is om een Dark Web-marktplaats te creëren met behulp van ChatGPT."
In de thread heeft de auteur code gepubliceerd die live cryptocurrency-prijzen kan ontvangen met behulp van een externe API. Dit droeg vervolgens bij aan de op crypto gebaseerde betalingssystemen die vaak op het dark web worden gebruikt.
Check Point Research concludeerde: "Het is nog te vroeg om te beslissen of ChatGPT-mogelijkheden al dan niet de nieuwe favoriete tool zullen worden voor deelnemers aan het Dark Web." Het bedrijf zal het ongeoorloofde gebruik van ChatGPT gedurende 2023 blijven volgen om te zien hoe de zaken lopen uit.
Kunstmatige intelligentie kan nog steeds worden gebruikt door cybercriminelen
Naarmate kunstmatige intelligentie zich blijft ontwikkelen, is het waarschijnlijk dat bedreigingsactoren nieuwe manieren zullen blijven zoeken om het te misbruiken. De tijd zal uitwijzen of ChatGPT populair wordt onder cybercriminelen, of dat een andere op AI gebaseerde tool de kroon spant.
