I mina två senaste inlägg har vi tittat på hur du avslöjar AI-genererade bilder och video, och hur du känner igen AI-slask i skriven text. Men det finns en tredje kanal som jag tror är farligare än de andra två tillsammans, och det är ljudet. Din röst går att kopiera med bara några sekunders inspelning, och resultatet är gott nog för att lura din egen mamma.

Jag blev påmind om det här för några veckor sedan när en bekant ringde mig, upprörd, och berättade att hennes pappa nästan hade Swishat 15 000 kronor till "henne" efter ett samtal där hon lät gråtande och desperat, bad om pengar till en akuta omkostnader efter en trafikolycka. Det var aldrig hon. Rösten var äkta nog att pappan inte tvekade en sekund innan han loggade in i banken.

Hur röstkloning faktiskt fungerar

Tekniken bakom kallas text-till-tal med röstkloning, eller voice cloning om du vill använda engelskan. Ett verktyg matas med en kort ljudsnutt av en persons röst, ofta bara 10 till 30 sekunder, och kan sedan generera nya meningar i samma röst, med rätt tonläge, dialekt och till och med känsloläge. Den korta inspelningen behöver inte ens spelas in i hemlighet. Ett tal på ett bröllop som ligger uppe på YouTube, en podcast-medverkan, eller en Instagram Story räcker gott.

Skillnaden mot för några år sedan är att kvaliteten har gått från robotaktig och stel till, i praktiken, omöjlig att skilja från en riktig person över telefon. Lägg till att de flesta av oss har dålig kvalitet i mobilen ändå, med knaster och fördröjning som maskerar de sista små artefakterna, och du förstår varför det här är svårt att genomskåda i stunden.

De bedrägerier som redan sker i Sverige

Anhörig bedrägeriet är det vanligaste exemplet, och antagligen det som drabbar mest känslomässigt. Ett barn, ett barnbarn eller en partner ringer, gråtande eller stressad, och behöver pengar snabbt till borgen, en bot eller en akut räkning. Innan röstkloning krävde det att bedragaren härmade personen efter bästa förmåga eller helt enkelt hoppades att ett dåligt samtal skulle dölja rösten. Nu behöver de inte hoppas.

Sedan finns vd-bedrägeriet, som funnits längre men blivit vassare. En anställd på ekonomiavdelningen får ett samtal, till synes från vd:n, som ber om en brådskande överföring innan ett möte. Rösten låter rätt, tonfallet är rätt, och stressen i situationen gör att man skippar de vanliga kontroll stegen.

Och så det som jag tycker är mest obehagligt: röstmeddelanden. Ett falskt röstmeddelande går att skicka utan att du behöver svara i telefon över huvud taget, vilket gör det ännu svårare att reagera i stunden eftersom du inte har ett samtal att ifrågasätta, bara ett meddelande som redan ligger där och väntar.

Varningstecken att lyssna efter

Rösten i sig lurar dig oftast, men samtalet runt omkring den gör det sällan lika bra. Ett par saker att vara extra vaksam på:

• Situationen kräver att du agerar direkt, utan tid att tänka efter eller ringa någon annan.
• Personen vill bara prata om pengar eller en betalning, inte om något annat i livet just nu.
• Bakgrundsljudet är konstigt tunt eller helt tyst, som om samtalet spelas upp snarare än förs.
• Du blir ombedd att inte berätta för andra i familjen, "för att inte oroa dem".
• Betalningssättet är ovanlig för personen, till exempel en Swish till ett nytt nummer eller en begäran om kontanter.

Ingen av de här signalerna bevisar något på egen hand. Men tillsammans, och särskilt kombinerade med stress och tidspress, är de en stark signal om att något inte stämmer.

Vad du faktiskt kan göra

Det bästa skyddet är löjligt lågteknologisk: ett kodord. Bestäm tillsammans i familjen ett ord eller en fras som ingen utanför kretsen känner till, och som ska sägas i alla samtal som rör pengar eller nödsituationer. Ett kodord går inte att klona, hur bra rösten än låter.

Lägg till en enkel regel till: lägg på och ring tillbaka på ett nummer du redan har sparat, aldrig på det nummer som ringde upp dig. Om det verkligen var din son som ringde spelar det ingen roll om du ringer upp igen två minuter senare. Om det inte var det, har du precis stoppat en bedragare.

Prata med äldre släktingar om det här innan det händer, inte efteråt. Jag vet att det kan kännas överdrivet att sätta sig ner och diskutera bedrägerier med sina föräldrar, men samma sak gällde för några år sedan när vi pratade om phishing-mejl, och idag tar de flesta det för givet. Röstbedrägerier kommer att behöva samma resa, bara snabbare.

Och om du misstänker att du redan har blivit lurad: kontakta din bank omedelbart och polisanmäl. Ju snabbare en överföring flaggas, desto större chans att den går att stoppa innan pengarna hinner vidare.

Nästa steg i serien

Det här avslutar min lilla trilogi om att genomskåda AI-genererat innehåll: bild och video, text, och nu ljud. Mönstret är detsamma i alla tre: tekniken blir bättre än vår instinkt, så vi behöver ersätta instinkten med vanor. Ett kodord, en paus innan du agerar, en extra koll innan du klickar. Inget av det är särskilt avancerat, men det är just därför det fungerar.