Den generativa AI:n har gett de kriminella ett användbart verktyg. Din röst kan kapas och lura någon anhörig att skicka pengar, bara ett exempel av många.

Lyssna på alla avsnitt i Sveriges Radio Play.

Den generativa AI:n har blivit en ny guldgruva för de kriminella, bedrägerierna ökar.

Hur ska du göra när du inte längre vet vem det är du talar med i telefon, till exempel?

Och hur ska rättsväsendet förhålla sig till teknisk bevisning som till exempel foton och SMS-konversationer när det inte är så självklart att det är äkta?

”Först tror jag inte på SMS:n men när jag hör rösten, då svänger jag totalt! Jag blev så engagerad när jag hörde rösten.”
Ann-Lis Hake, som trodde att det var dottern som ringde men det var det inte

”Man tjänar normalt inte något på att misstänka andra men jag tror att behovet av att verifiera interaktion med någon kommer att öka jättemycket.”
Lars-Olof Johansson, professor i psykologi vid Göteborgs universitet, som fördjupat sig i varför människor blir lurade.

”Vi har fått in anmälningar om AI-genererade röster men vi har inte kunnat fastslå att det är så, men med tanke på den tekniken som finns är det ju inte otroligt att det skulle kunna vara så.”
Lotta Mauritzson, brottsförebyggare på Polisens nationella bedrägericentrum i Stockholm.

”Vi har nog i Sverige en av världens mest digitaliserade kriminella.”
Charlotta Kronblad, doktor i digital transformation. Forskar om gränslandet mellan juridik och teknologi vid avdelningen för informatik vid Göteborgs Universitet Har jobbat som, jurist i flera år.

”Kan man längre lita på den tekniska bevisningen, det som hittills varit fundamentet i bevisprövningen.”
Henrik Olsson Lilja, försvarsadvokat

”Allt har plötsligt ändrats i grunden, nu kan alla göra det här mot alla andra. Den tekniska utvecklingen har demokratiserat det här.”
Stefan Axelsson, professor i digital forensik och cybersäkerhet vid Stockholms universitet

”Om man allt oftare ifrågasätter äkthet då belastar man forensiska laboratorier med fel uppgifter, och det är i slutänden ett hot mot demokratin.”
Lena Klasén, professor i digital forensik vid Linköpings universitet och direktör på nationella operativa avdelningen hos Polismyndigheten.

Producent och reporter: Anders Diamant
anders.diamant@sverigesradio.se