Se upp för deepfake-chefen!

Det pratas mycket om källkritik i skolan, men även i jobbet behöver man öva upp sitt källkritiska öga.

– Inte minst för att kunna fatta korrekta beslut. I alla jobb som handlar om att dra slutsatser utifrån information för att sedan fatta beslut är det viktigt att vara källkritisk, säger Mattias Svahn, forskare på med fokus på desinformation, på FOI totalförsvarets forskningsinstitut.

Syftet är att påverka dina beslut

För vi utsätts i princip dagligen för felaktig information. Mattias Svahn säger att man visserligen bör skilja på desinformation och misinformation, där den senare har blivit felaktig av misstag. Desinformation däremot är medvetet skapad och planterad för att vara felaktig. 

– Vad gäller beslutsfattande så kan båda leda till samma utfall, alltså ett felaktigt beslut. Men det är bra att förstå att vi lever i en värld där aktivt planterad desinformation, med syfte att påverka handläggningsbeslut, förekommer.

Det är inte ovanligt att man borstar av sig risken med ”varför skulle någon gå på mig”, men där invänder Mattias Svahn.

– Ingen är en obetydlig människa! Varje medarbetare som fattar beslut i sin yrkesroll är intressant för bedragare att påverka.

På vilket sätt kan felaktig information skada mig och min arbetsplats?

– Informationspåverkan kan användas i ekonomiska syften, som klassiska svindlerier eller att man vill sälja på dig något som inte är lämpligt.

Deepfake-chefer – inte längre science fiction

Han påpekar att bara de senaste månaderna har det dykt upp allt fler deepfakes, där man bygger en digital kopia av en person, som kan säga eller göra vad som helst. Exempelvis kom det en deepfake-video där Ukrainas president Zelensky uppmanade sitt folk att kapitulera. Och det finns ett färskt exempel där en anställd på ett finansbolag i Hongkong blev uppringd av sin ”chef” i ett videomöte, och tillsagd att föra över 25 miljoner dollar till ett annat konto.

– Än så länge är deepfake-chefer mest anekdotiska historier. Det är vanligare att göra deepfakes på offentliga personer, politiker och kändisar, där det finns stora mängder träningsdata för AI att använda sig av, men det är inte science fiction längre. I en nära framtid kan det komma mindre spektakulära saker, som offentliga dokument eller licenser, eller en pdf på ett beslutsunderlag som ser korrekt ut, som får dig att röja affärshemligheter eller flytta pengar till fel konto, säger han och lägger till:

– Fast förmodligen är klassiska bedrägerier, där en människa kontaktar dig, fortfarande vanligare.

Källkritik och källtillit behöver samspela

Men vi behöver inte bara ifrågasätta information, utan också ha tillit till vissa källor. Kritik och tillit måste samspela. Därför pratar allt fler nu även om källtillit.

– Man ska inte vara källkritisk in absurdum, för då kanske man börjar misstro även det som är trovärdigt och sant. Så tro på de källor du är van att tro på, som etablerade nyhetsmedier med ett långt ”track record”.