Adversarial machine learning er en teknik, hvor machine learning algoritmer udsættes for modstand eller angreb af en anden algoritme eller person. Dette kan ske ved at tilføje støj eller ændre data, som algoritmen bruger til at lave forudsigelser. Formålet med dette er at teste og forbedre robustheden af machine learning algoritmer. Så de kan modstå angreb og manipuleringer af hackere.

Et af de mest almindelige metoder inden for adversarial machine learning er at tilføje små, ofte næsten usynlige ændringer til inputdata. Som kan få modellen til at lave forkerte forudsigelser. For eksempel kan et billede af en kat blive manipuleret med minimal støj, som ikke er synlig for det menneskelige øje, men som kan få en billedklassificeringsalgoritme til fejlagtigt at kategorisere billedet som en hund eller noget helt andet. Disse små ændringer kaldes adversarial eksempler. De er designet til at afsløre, hvor sårbar en model kan være over for manipulationer.

Hvad er målet med adversarial machine learning?

Formålet med at udføre sådanne angreb i et kontrolleret miljø er at teste og forbedre robustheden af maskinlæringsalgoritmer. Ved at forstå, hvordan og hvorfor en model kan blive narret af disse modificerede inputs, kan forskere og ingeniører udvikle teknikker til at styrke algoritmer mod sådanne angreb. Dette kan inkludere træning af modeller på mere varierede datasæt, implementering af forsvarsmekanismer som adversarial træning. Eller udvikling af mere komplekse algoritmer, der er bedre rustet til at håndtere usædvanlige inputdata.

Adversarial machine learning er særlig vigtig i sikkerhedskritiske applikationer som ansigtsgenkendelse, autonome køretøjer og finansielle systemer. Hvor konsekvenserne af et vellykket angreb kan være betydelige. Derfor er det afgørende at fortsætte med at forbedre maskinlæringsmodellernes evne til at modstå og håndtere sådanne trusler for at sikre deres pålidelighed og sikkerhed i den virkelige verden.

Med leverandører som blandt andet Acronis, CrowdStrike og KnowBe4 er vores kunder sikret IT-løsninger i topkvalitet. CyberNordic blev stiftet i 2020 med det formål at gøre en forskel for små og mellemstore virksomheder. I dag hjælper vi blandt andet brands som Beauté Pacifique og DEAS Group.