Hoe hackers generatieve AI gebruiken bij hun aanvallen en wat we eraan kunnen doen

Generatieve kunstmatige intelligentie (AI) staat de laatste tijd volop in de schijnwerpers. Door AI aangedreven chatbot ChatGPT en andere systemen die natuurlijke taalverwerking ondersteunen, zoals VALL-E, hebben generatieve AI naar het grote publiek gebracht en de voordelen en nadelen ervan ontketend.

Een van de belangrijkste zorgen over generatieve AI is het feit dat het kan worden gebruikt om kwaadaardige exploits te upgraden en geavanceerdere cyberaanvallen te bedenken. Dus, hoe gebruiken hackers generatieve AI in hun aanvallen, en wat betekent dit voor de toekomst van cyberbeveiliging?

Wat is generatieve AI en hoe werkt het?

Zoals de naam al aangeeft, is generatieve AI een type AI dat nieuwe inhoud kan genereren: afbeeldingen, tekst, audio en synthetische gegevens.

Een bekend voorbeeld is ChatGPT, een door AI aangedreven chatbot waarmee je mensachtige gesprekken kunt voeren en krijg een aantal fantastische filmaanbevelingen - tenminste als je geen zinvollere missie kunt bedenken om ChatGPT te verzenden op.

Laten we u een paar ideeën geven - dat zou kunnen laat ChatGPT al die moeilijke e-mails voor je schrijven, gebruiken ChatGPT als vertaaltool, en zelfs verander ChatGPT in uw assistent voor het plannen van gezonde maaltijden. Al met al kan deze chatbot binnen enkele seconden ogenschijnlijk nieuwe, overtuigende inhoud bedenken en deze op een behoorlijk politiek correcte manier presenteren.

Een generatieve AI kan echter nog niet zo creatief zijn als een mens. Dit komt omdat het gebruikmaakt van niet-gecontroleerde en semi-gecontroleerde algoritmen voor machine learning om ontzettend veel gegevens te verwerken en aangepaste uitvoer te genereren.

Als u bijvoorbeeld een Picasso-achtig schilderij wilt laten maken door een generatieve AI zoals DALL-E 2, moet u typen uw beschrijving in een daarvoor bestemd veld - laten we zeggen "Picasso's Guernica maar met kittens" - en blijf een paar seconden. Gedurende die tijd zal AI alle specifieke kenmerken van de stijl van de artiest toepassen die het eerder heeft geleerd, toevoegen kittens voor de goede orde, en bedenk iets origineels - we hebben die foto die je een beetje kunt zien boven.

Hoe hackers generatieve AI gebruiken bij hun aanvallen?

Slechteriken hebben zich altijd aangetrokken gevoeld tot goede algoritmen. Het is dus geen verrassing dat ze generatieve AI gebruiken om hun aanvallen te versterken. Door gebruik te maken van ML-methoden, zoals leerversterking en generatieve vijandige netwerken, cybercriminelen kunnen nieuwe, meer geavanceerde cyberaanvallen bedenken die de standaard kunnen doorbreken cyberverdediging.

Een voorbeeld van deze perversie is OpenAI's "cutting edge" chatbot, zoals ChatGPT wordt door cybercriminelen gebruikt om malware te schrijven. In het begin leek ChatGPT allemaal leuk en aardig, maar nu wordt het ontmaskerd als een van de grootste beveiligings- en privacybedreigingen. Als je graag chat met ChatGPT, is het slim om op te letten voor de dingen die cybercriminelen kunnen doen met ChatGPT.

Kortom, ChatGPT en andere generatieve AI-tools hebben het leven van cybercriminelen gemakkelijker gemaakt en moeilijker voor beveiligingsteams. Enkele manieren waarop actoren van cyberdreigingen AI gebruiken bij hun aanvallen zijn:

• Betere, meer geavanceerde malware bouwen: In handen van hackers kan generatieve AI worden gebruikt om moeilijk te detecteren malwarestammen te genereren en aanvallen uit te voeren. Gecombineerd met AI-modellen zou malware zijn bedoeling kunnen maskeren totdat het zijn slechte doel vervult.
• Schrijven van AI-aangedreven, gepersonaliseerde phishing-e-mails: Met behulp van generatieve AI hebben phishing-e-mails niet langer de duidelijke tekenen van oplichting, zoals slechte spelling, slechte grammatica en gebrek aan context. Bovendien kunnen bedreigingsactoren met AI zoals ChatGPT phishing-aanvallen lanceren met ongekende snelheid en schaal.
• Het genereren van diepe nepgegevens: Omdat het overtuigende imitaties van menselijke activiteiten kan creëren, zoals schrijven, spreken en afbeeldingen - generatieve AI kan worden gebruikt bij frauduleuze activiteiten zoals identiteitsdiefstal, financiële fraude en desinformatie.
• CAPTCHA's kraken en wachtwoorden raden: Gebruikt door sites en netwerken om bots uit te kammen die ongeautoriseerde toegang zoeken, CAPTCHA kan nu worden omzeild door hackers. Door ML te gebruiken, kunnen ze ook andere repetitieve taken uitvoeren, zoals het raden van wachtwoorden en aanvallen met brute kracht.
• ML saboteren bij detectie van cyberdreigingen: Als een beveiligingssysteem wordt overspoeld met te veel valse positieven, kan een hacker het verrassen met een echte cyberaanval.

Hoe kunnen we de generatieve AI-dreiging bestrijden?

Naarmate cyberaanvallen geavanceerder worden en de gevolgen ernstiger, zullen traditionele beveiligingssystemen dingen uit het verleden worden. Met het vermogen om te leren van eerdere aanvallen en zich aan te passen, is AI van onschatbare waarde voor zowel cybercriminelen als hun tegenstanders.

Het gebruik van AI in cyberbeveiliging heeft een aantal serieuze voordelen, zoals snellere detectie van bedreigingen, identificatie van bedreigingen en reactie op bedreigingen. Vuur met vuur bestrijden lijkt dus het juiste antwoord. Voordat cybercriminelen leren hoe ze individuen en bedrijven over de hele wereld verwoestende klappen kunnen toebrengen wereld, moeten cyberbeveiligingsprofessionals hun door AI aangedreven systemen leren zichzelf hiertegen te beschermen aanvallen.

Het is echter niet allemaal aan AI. We kunnen immers ook onze eigen veiligheid en privacy versterken met beproefde methodes als multi-factor authenticatie (MFA), biometrische technologie, het gebruik van een wachtwoordmanager, het gebruik van de best versleutelde samenwerkingstools, en een goed, oud gezond verstand.

AI bestrijden met AI

Zullen we in de nabije toekomst getuige zijn van AI-cyberbeveiligingsoorlogen? Nou, we hopen van niet. Naarmate AI zich echter blijft ontwikkelen en toegankelijk wordt voor iedereen - zowel cybercriminelen als cyberbeveiligingsprofessionals - zal de rol van AI en ML de komende jaren groter worden.