Masser af falske AI-genererede profiler på LinkedIn

Misinformation på nettet antager forskellige former – fra falske eller skæve fakta, der præsenteres som sandheden, til maskingenererede fotos og videoer, der kan bruges til en række uetiske og skadelige formål. Nu har to Stanford-forskere fundet udbredt brug af falske Linkedin-konti oprettet med kunstigt intelligens-genererede (AI) profilbilleder.

Disse profiler er rettet mod rigtige brugere i et forsøg på at øge interessen for visse virksomheder, før de videregiver de vellykkede kundeemner til en rigtig sælger.

Falske AI-profiler skaber buzz om virksomheder

Forskerne fandt ud af, at bots, der bruger AI-genererede ansigter – op til 1.000 falske profiler – bliver udnyttet til at skabe falsk buzz omkring nogle virksomheder på LinkedIn. Det skriver The Register.

Det sker ved, at en bot med et AI-genereret profilbillede kontakter en intetanende Linkedin-bruger, og hvis målet viser interesse, bliver de sendt videre til en ægte sælger, som fortsætter samtalen.

Virksomheder bruger falske profiler som disse til at ramme potentielle kundeemner uden at skulle bruge rigtige salgsmedarbejdere og for at undgå at ramme grænserne for Linkedin-beskeder. Det blev konstateret, at mere end 70 virksomheder var opført som arbejdsgivere af falske profiler. Nogle virksomheder skulle have hyret eksterne marketingfolk til at hjælpe med salget, men at de ikke havde godkendt brugen af AI-genererede fotos, og at de var overraskede over disse fund.

Se også: Hvad er kunstig intelligens?

Forsker blev selv kontaktet af AI-profil på LinkedIn

De to forskere gjorde opdagelsen, efter at den forsker modtog en besked fra en profil tilhørende en “Keenan Ramsey”. I første omgang lignede det en normal salgstale fra et softwarefirma, men det stod hurtigt klart, at Ramsey var en fiktiv person – det falske profilbillede indeholdt flere røde flag, som for eksempel en usædvanlig central placering af øjnene, kun én ørering, og dele af håret var sløret i baggrunden.

Efter at det AI-genererede profilbillede viste sig at være en forfalskning, begyndte forskeren, der også har studeret russiske desinformationskampagner og anti-vaccinekonspirationer, at undersøge sagen sammen med en kollega. De fandt over 1.000 profiler med AI-genererede billeder.

Brugen af falske profiler er ikke tilladt af Linkedin og virksomhedens politikker gør det klart, at enhver Linkedin-profil skal repræsentere en rigtig person.

Se også: Nyheder om kunstig intelligens