Cybersikkerhedseksperter begynder at advare om en form for hacking, der foregår gennem spoofing ved hjælp af kunstig intelligens (AI). Denne spoofing kaldes for deepfakes og kan blive en meget sofistikeret form for hackerangreb.
Hvad er deepfake?
Deepfakes er afhængige af en type af AI kaldet ”Generative Adversarial Networks” (GAN’er). Det kræver to maskinlæringsnetværk, der underviser hinanden med et løbende feedback-loop. Det første maskinlæringsnetværk tager rigtigt indhold, f.eks. en række billeder eller stemmeoptagelser, og ændrer det. Derefter tester det andet maskinlæringsnetværk, kendt som diskriminatoren, validiteten og ”ægtheden” af ændringerne.
Efterhånden som maskinlæringsnetværkene bliver ved med at sende materialet frem og tilbage og modtage feedback, bliver de klogere. GAN’er er stadig i de tidlige stadier af udvikling, men flere eksperter mener, at de vil kunne bruges kommercielt inden for en rimelig fremtid.
Men udover at kunne bruge deepfakes til kommercielle formål, er hackere begyndt at se idéen med at bruge deepfakes. Et eksempel kan være, at en cyberkriminel laver en deepfake-video af en prominent politiker, der “indrømmer” at have taget del i ulovlige aktiviteter, som at tage imod bestikkelse.
Det er allerede nu muligt at lave overbevisende deep-videoer af personer, der taler eller udfører fysiske handlinger.
Hacking gennem deepfakes er begyndt
I marts 2019 modtog den administrerende direktør for et britisk energifirma et opkald fra en person, der lød som hans chef. Personen bag røret var påtrængende – ledelsen skulle overføre en stor mængde penge til en ungarsk leverandør inden for en time.
Den administrerende direktør sendte pengene afsted, men han fandt hurtigt ud af, at personen ikke var hans chef. Angrebet var skabt af cyberkriminelle, der brugte AI til at generere et lydklip, der efterlignede chefens stemme. Den unavngivne direktør blev snydt for €220.000.
Dette angreb er muligvis det første vellykkede cyberangreb ved brug af deepfakes, men mange analytikere mener, at flere lignende angreb begynder at finde sted, men at de angreb enten er fejlslagne eller at ofrene ikke er klar over, at de bliver snydt af deepfakes.
Deepfakes udnytter hast og tidspres
Et af de afslørende tegn på deepfakes og andre former for spoofing, f.eks. e-mail-spoofing, er inkluderingen af hast eller deadlines. Ofrene skal stort set altid udføre en handling med det samme, ellers kan der komme en negativ konsekvens.
En af de bedste måder at undgå svindel på er at få bekræftet, at det man hører eller ser, er legitimt og kommer fra en rigtig kilde, i stedet for at reagere med det samme.
Mange online spoofingforsøg kan også indeholde stave- eller grammatiske fejl. Det udfordrende ved deepfake-stemmeopkald er dog, at man ikke visuelt kan se, at der er noget, der ikke stemmer. Derfor skal man være meget opmærksom på det, der bliver sagt.
Afsluttende tanker
Da denne form for deepfake-angreb endnu ikke er udbredt, er der ikke en særlig stor risiko for, at du eller din virksomhed bliver offer for det. Men det er noget, som virksomheder og personer i højtstående stillinger verden over skal kende til. Det bedste virksomheder og organisationer kan gøre er at træne deres ansatte med awareness-træning, så de kan lære at identificere forskellige slags cyberangreb og på den måde beskytte sig mod dem.