Hongkongs polis har gripit 27 personer efter att ha avslöjat ett omfattande internationellt bedrägeri där AI-genererade deepfake-videor användes för att lura  människor i kärleks- och kryptobedrägerier. Bedragarna lyckades svindla sina offer på miljontals dollar genom att skapa trovärdiga digitala identiteter, enligt CNN.

I en av de största härvorna i sitt slag i Asien har Hongkongs polis gripit 27 personer som misstänks vara inblandade i avancerade kärleksbedrägerier och kryptoinvesteringar. Genom att använda AI-drivna deepfake-tekniker kunde bedragarna skapa realistiska videor där de låtsades vara kärleksintressenter eller finansiella rådgivare. Offer från Hongkong, Taiwan och Singapore lockades in i dessa fällor och blev av med sammanlagt över 46 miljoner dollar, rapporterar CNN.

Falska identiteter och kryptoinvesteringar
Enligt polisen riktade bedragarna in sig på personer som sökte efter kärlek online. Med hjälp av AI-program kunde de skapa övertygande videokonversationer och profilbilder för att vinna offrens förtroende. När en relation hade etablerats, introducerades en "investering" i kryptovalutor som en möjlighet att tjäna stora pengar.

Offren, som litade på sina nyfunna digitala partners, överförde stora summor pengar till vad de trodde var säkra kryptoinvesteringar. Polisen avslöjade dock att dessa pengar försvann spårlöst till bedragarnas fickor, och det var nästintill omöjligt att spåra dem. Den avancerade tekniken och förmågan att skapa trovärdiga fejkade identiteter gjorde det svårt för offren att förstå att de blivit lurade.

Stort mörkertal i Sverige
Romansbedrägerier är ett ökande brott i hela världen. Med internet har nätdejting blivit ett sätt för bedragarna att komma åt sina offer. I Sverige görs omkring 100 anmälningar i veckan, där den utsatta i genomsnitt blir av med 350 000 kronor. Under 2023 låg brottsvinsten totalt på 470 miljoner, enligt Polisens nationella bedrägericentrum. Många har tvingats att ta dyra snabblån för att betala till bedragarna. I svensk nyhetsbevakning rapporteras oftast om äldre kvinnor som blir lurade av romansbedragare på nätet. Men mörkertalet bland männen är stort. Det berättar Elias Brunzell, som är aktiv i föreningen Stoppa romansbedrägerier.

– Män känner ofta skam och skuld när de utsätts och vågar därför inte anmäla. Men de drabbas lika mycket, säger Elias Brunzell.

Han har själv blivit utsatt och lurades att föra över stora belopp till vad som troligtvis var en internationell liga. Uppklarningsstatistiken hos Polisen inom denna typ av brott är låg, eftersom pengarna i stort sett är omöjliga att spåra. Det Elias trodde var en rysk tjej som han klickade med nästan direkt, visade sig alltså vara en bluff.

– Bedragarna är måna om att bygga upp en nära relation innan de börjar be om pengar. Först mindre belopp, för att sedan kräva större summor, när den första mentala spärren passerats.

Deepfake-teknik allt vanligare
Kriminella ligor använder sig av avancerad teknik i växande utsträckning för att övertyga sina offer. I Elias fall misstänker han att bedragarna kan ha använt AI-teknik för att förvränga rösten på den han pratade med, så att den passade med bluffpersonen de konstruerat. CNN rapporterar att gripandena i Hongkong-härvan, som skedde i oktober, involverar både teknologiexperter och misstänkta triadmedlemmar. Stadens polis varnar nu för att denna typ av bedrägerier blir allt vanligare och att allt fler bedragare använder AI-teknik och deepfake för att lura sina offer på pengar. Tessa Bosschem, specialist inom cyber- och informationssäkerhet på Barclays Private Bank, varnar för hur farliga dessa deepfake-teknologier kan vara.

– Dessa falska videor och ljudklipp kan manipulera verkligheten, men många människor är fortfarande omedvetna om faran. Med AI-teknikens utveckling kan vi förvänta oss ännu mer realistiska och övertygande deepfakes i framtiden, säger Bosschem i en artikel hos den brittiska storbanken.

Fakta: Så används deepfake för bedrägerier

• Skapar trovärdiga videor: Bedragare använder realistiska men AI-genererade deepfake-videor för att manipulera personer och företag till att genomföra finansiella transaktioner.
• Falska kärleksrelationer: Genom att skapa trovärdiga bilder och videor bygger bedragarna tillit och kan övertyga sina offer att överföra stora summor pengar.
• Manipulerade företagsmeddelanden: Bedragare kan fejka röst- och videomeddelanden från företagsledare som instruerar anställda att göra stora överföringar eller avslöja känslig information.
• Identitetsstöld och kryptobedrägerier: Genom att manipulera videor och röstmeddelanden kan bedragare övertyga personer att investera i falska kryptovalutor eller andra finansiella bedrägerier, där pengarna försvinner spårlöst.

​​Källa: CNN, World Economic Forum (AI-genererat)

Delvis AI-genererad artikel, redigerad och faktagranskad av Alice Lindell, Stockholm – 26 november 2024.