Romansbedrägerier är inget nytt, men nu har även AI förädlat denna djävulska kunskap. En ny studie från fyra universitet visar att AI-chattbotar lyckades skapa större förtroende än riktiga människor när de testades i realistiska bedrägeriscenarier. Nästan hälften av deltagarna följde AI:ns uppmaningar, jämfört med bara 18 procent när en människa låg bakom konversationen.
Det som oroar är skalan. Där en bedragare tidigare kunde hålla igång ett fåtal samtal samtidigt kan en AI sköta hundratals eller till och med tusentals konversationer dygnet runt. Målet för bedragare är att bygga upp ett förtroende under lång tid innan offret till slut luras att skicka pengar eller investera i falska kryptoprojekt.
AI-bolagen säger att deras modeller inte får användas för bedrägerier, men forskarna menar att skydden inte är tillräckliga. I takt med att AI blir allt mer mänsklig kan den också bli ett av bedragarnas mest effektiva verktyg.