Dypfalske annonser som brukes til å villede folk er den siste teknologiske utviklingen, bemerker nettsikkerhetsekspert Pieter Jansen fra Darktrace. «Alle de separate elementene har vært brukt før, men hvis du legger alle ingrediensene sammen, så er det helt nytt.»
Jansen svarer på BNR-undersøkelsen, som viser at det pågår en massiv annonsekampanje på TikTok, som forsøker å tiltrekke forbrukere til kredittleverandører ved hjelp av deepfakes. Annonsene inneholder villedende påstander, som renter på 0-0,4 % og ingen bakgrunnssjekk. Bankene som annonsene fører til vil imidlertid ikke ha noe med TikTok-annonser å gjøre.
«Som menneske kan du ikke lenger forsvare deg mot denne typen iscenesatte angrep»
«Du har sett ondsinnede annonser før, som John de Mols falske annonser som ber deg kjøpe bitcoins. Men det er skalerbarheten som gjør det farlig,» sier Jansen.
Les også | Deepfakes lokker TikTok-brukere til ABN Amro- og ING-nettsteder: «Trenger du et lån?»
De fleste reklamefilmene der stemmene er laget med kunstig intelligens virker ikke særlig overbevisende ennå, men det kan endre seg i løpet av kort tid. «Neste trinn er at stemmene er skreddersydde. Da kan den også brukes til å utføre målrettede angrep. Nettsikkerhetseksperten peker også på utviklingen med ChatGPT. «I løpet av de 30 dagene før lanseringen og 30 dager etter, så vi den tekstlige kompleksiteten til phishing-e-poster øke. Meldinger har blitt lengre og mer personlige. Færre lenker er lagt til og også færre filer. Derfor er det mindre og mindre åpenbart om det er en ondsinnet e-post eller ikke.
Lovgivning
På grunn av den rivende utviklingen forventer Jansen lovverk snart. «I Italia så vi at ChatGPT var utestengt en stund. Personlig synes jeg det er en boomer-reaksjon, men det er også teknisk veldig vanskelig å gjøre noe med det. EU-kommisjonen har varslet at det vil bli innført en AI-lov, som kan føre til en bot på 6 % av et selskaps omsetning dersom du ikke er dyktig i AI.
Jansen forventer derfor, akkurat som den nederlandske myndigheten for forbrukere og markeder, at også plattformene selv tar ansvar for dette. «De burde definitivt gjøre mer med det. Som menneske kan du ikke lenger forsvare deg mot denne typen iscenesatte angrep. Denne angriperen trenger bare å lykkes én gang, mens du som forsvarer må avvise alle slike angrep.
