Microsoft verandert de AI-beveiligingsevaluatietool voor namaak open source

Microsoft heeft zijn AI-tool voor het beoordelen van beveiligingsrisico's, Counterfit, open-source gemaakt, zodat iedereen de tool gratis kan gebruiken. Momenteel kunnen organisaties Counterfit gebruiken om beoordelingen van beveiligingsrisico's te automatiseren, zodat de bescherming die ze gebruiken op peil is.

Microsoft heeft Counterfit oorspronkelijk ontwikkeld als een interne tool die snel de beveiliging van AI- en machine learning-systemen kon beoordelen. Het begon als een verzameling scripts voordat het snel veranderde in een generieke AI-automatisering die een operator kan gebruiken om "meerdere AI-systemen tegelijk aan te vallen".

Microsoft gebruikt nu regelmatig Counterfit als een kerntool in de activiteiten van hun AI-redteam. Aangezien Counterfit milieu-, model- en data-agnostisch is, kan de tool nauwkeurige beoordelingen leveren zonder impedantie.

De tool zelf is ontworpen voor gebruik door beveiligingsprofessionals. Counterfit gebruikt vergelijkbare workflows als andere populaire red-team-tools zoals Metasploit of PowerShell Empyre, met uitgebreide ondersteuning voor scripting, vooraf geladen aanvalsalgoritmen, scannen op kwetsbaarheden, geavanceerde logboekregistratie en meer, toegankelijk via de opdrachtregel.

Microsoft heeft intensief samengewerkt met beveiligingsprofessionals en grote organisaties om Counterfit ook beter te ontwikkelen. Op de Microsoft-beveiligingsblogMatilda Rhode, Senior Cybersecurity Researcher, Airbus, zei:

AI wordt steeds meer gebruikt in de industrie; Het is van vitaal belang om vooruit te kijken naar het beveiligen van deze technologie, vooral om te begrijpen waar feature space-aanvallen kunnen worden gerealiseerd in de probleemruimte. De release van open-source tools van een organisatie als Microsoft voor beveiligingsdeskundigen om te evalueren de beveiliging van AI-systemen is zowel welkom als een duidelijke indicatie dat de industrie dit probleem aanpakt ernstig.

Je kunt de open-source vinden Microsoft Vervalsing op hun officiële GitHub.

Verwant: Banen die u nooit kende, werden uitgevoerd door AI

Waarom is namaak nuttig?

Zelfs voor een bedrijf met de grootte van Microsoft is het voltooien van effectieve beveiligingsbeoordelingen niet eenvoudig, vooral niet als die bedrijven enorme Fortune 500-leiders, overheden, non-profitorganisaties en meer zijn. Uit een eerdere studie van Microsoft bleek dat grote aantallen bedrijven hun AI-systemen niet nauwkeurig konden testen.

We ontdekten dat 25 van de 28 bedrijven aangaven dat ze niet over de juiste tools beschikken om hun AI-systemen te beveiligen en dat beveiligingsprofessionals op zoek zijn naar specifieke begeleiding op dit gebied.

Namaak maakt het gemakkelijker om die beoordelingen te voltooien, waardoor het analyse- en testproces wordt geautomatiseerd.

Verwant: Manieren waarop u AI-technologie kunt gebruiken om uw bedrijf te verbeteren

Verder een recent verschenen Gartner-studie vermeld AI-beveiligingsaanname als een van de belangrijkste beveiligingsmaatregelen die een bedrijf kan nemen om de bescherming te verbeteren. In hetzelfde onderzoek werd opgemerkt dat "tegen 2024 organisaties die specifieke AI-risicobeheercontroles implementeren, met succes twee keer zo vaak negatieve AI-resultaten zullen vermijden als organisaties die dat niet doen."

Kortom, als Counterfit een open-source AI-beveiligingsbeoordelingsinstrument wordt, moet de wereld iets veiliger worden.

Deze 4 antivirusprogramma's gebruiken AI om uw systeem te beschermen

Moet uw volgende antivirusabonnement kunstmatige intelligentie bevatten of is het gewoon een ander modewoord op het gebied van beveiliging?

Lees Volgende

Over de auteur