Siri Christiansen avslöjade rasistisk AI-fejk: ”Alla blir lurade på internet”

Siri Christiansen arbetar idag som grävreporter på P4 Uppland, men har lång erfarenhet som faktagranskare av sociala medier. Hon arbetade under flera år för en internationell organisation som granskade nyheter och politiska händelser, bland annat EU-valet 2024, och valen i Storbritannien och USA.

Att hon avslöjade att de fyra kvinnorna var AI-genererade var lite av en slump.

– Jag hade kvar algoritmer som följde högerextrema konton från mitt tidigare jobb, så när de här dök upp hajade jag till direkt. Dels för att det är ovanligt att unga snygga svenska tjejer har konton med så extrema åsikter, dels att de så snabbt fått så stor spridning med 100 000-tals visningar.

Samma skapare bakom fejk-kontona

Snart förstod Siri att ingen av kvinnorna var en riktig person, och att de troligtvis hade samma skapare.

– Alla fyra såg väldigt lika ut, även om de hade olika namn. De hade ungefär samma formuleringar och stod ofta i samma miljöer. Det var för många sammanträffande för att det inte skulle vara ­koordinerat.

Siri Christiansen kontaktade Tiktok som så småningom plockade bort kontona.

Varför var de farliga?

– De skapar en typ av falsk majoritet. Det ser ut som det är många individer som tycker en viss sak, när det bara är en enda aktör bakom, säger Siri.

Mycket missinformation och desinformation inför riksdagsvalet

En liten seger kan tyckas, men de här AI-konstruerade inläggen är bara toppen på ett enormt isberg, förstår man. Med ett riksdagsval som väntar kommer också försöken att påverka våra åsikter att öka.

– Ja, det är väldigt troligt att vi kommer att få se mycket missinformation, men även desinformation, både från privatpersoner och andra aktörer, säger Siri Christiansen.

Vad är skillnaden?

– Desinformation är när en aktör medvetet sprider falsk information för att vilseleda. Missinformation är felaktig information som sprids i tron att den är riktig. Där vet du inte alltid intentionen bakom.

Jobb som faktagranskare

Siri Christiansen är uppvuxen i Bollnäs och hade knappast kunnat ana att hon skulle hamna i nyhetshändelsernas centrum som vuxen. Hon påbörjade en ämnes­lärarutbildning men hoppade av när hon hade ett år kvar, och flyttade till London för att plugga kreativt skrivande och jobba på en pub.

– Där träffade jag män­ni­skor som fick mig att tro lite mer på mig själv. Jag insåg att journalist var ett möjligt yrke och när covid kom åkte jag hem till Sverige och pluggade granskande journalistik. Sedan flyttade jag tillbaka till London för att arbeta som finansreporter.

Hemmets Journal Artiklar

Läs även: Undvik att bli lurad på nätet – så synar du bluffarna

Men 2023 hittade hon en tjänst som faktagranskare på ”Logically Facts”. Det var ett internationellt och oberoende företag som skrev fakta­granskningsartiklar, men också hade samarbetsavtal med Meta och Tiktok för att hjälpa dem hålla koll på sina flöden. Siri fick jobbet.

– När du dag efter dag ­arbetar med att scanna olika flöden för att leta efter vilseledande klipp och inlägg, så förstår du vilket enormt problem det är, säger Siri och fortsätter:

– Att dyka ner i kaninhålet och befinna mig i de där miljöerna hela tiden, fick mig att inse att efter varje nyhetshändelse eller politisk debatt, så skapas det påverkanskampanjer och förvrängda narrativ som polariserar och splittrar oss.

”Tragiskt att se”

Siri Christiansen har också på nära håll sett hur vänner blivit radikaliserade, och det har bidragit till hennes starka drivkraft att försöka motverka utvecklingen.

– Det är tragiskt att se hur en människa du känner kan förändras och till och med utsätta sig för farliga saker som en följd av missinformation. En vän började till och med dricka terpentin för att han trodde det skulle bota hans eksem.

Även om personen bakom Tiktok-kontot snabbt försökte måla ut Siri som vänster­extremist, så kan Siri med fast övertygelse säga att hon nog aldrig varit mer politisk neutral än hon är idag.

– Ingen del av samhället är immun mot detta, alla är medskyldiga till att skapa de här miljöerna, såväl höger som vänster, säger hon och fortsätter:

– Det är en del av dagens hybridkrigföring, man ser hur enkelt det är att splittra oss och öka klyftorna. Det är lite nedslående att alla går på det.

Hur skyddar man sig mot att bli lurad?

Men den stora frågan är då förstås – vad kan vi göra för att skydda oss?

När det gäller AI är det svårt att ge några råd. De blir ofta väldigt kortsiktiga eftersom AI utvecklas med rasande fart.

– Idag kan du till exempel se att röst- och munrörelser inte alltid är helt synkade, men det börjar redan bli bättre, säger Siri. Att kolla bakgrunden var förr ett säkert kort, liksom små flygande hårstrån som rör sig fel. Allt detta kan vara fixat till hösten.

Istället vill Siri Christiansen uppmana oss att tänka mer långsiktigt. Första regeln är att inte vara för snabb när du scrollar på sociala medier. Stanna upp, andas och fundera över vilka känslor ett inlägg väcker. Blir du arg eller upprörd, uppgiven eller ledsen? Vilka bevis läggs fram? Att spela på våra känslor är en framgångsfaktor för att sprida falska uppgifter.

Lättare att sprida missinformation som privatperson

– Skaffa käll-tillit! Lita inte blint på privatpersoner på Facebook, lita istället mer på institutioner, forskare och myndigheter. Det är lättare som privatperson att sprida missinformation, källor från universitet ska alltid vara dubbelkollade, säger Siri Christiansen, men tillägger samtidigt att ordet ”studie” kan vara en varningsklocka.

– Att någon hänvisar till en enskild studie är sällan pålitligt, det går lätt att trolla med den. Forskningsvärlden är komplex, en enda studie ger ingen överblick.

Siris råd är att gå ut och söka mer fakta om du hittar en fråga som engagerar dig.

– Bilda dig en egen uppfattning, inte bara att ”du såg på nätet”. Ha lite mer egensinne och integritet.

Hittade kodord på fejk-kontona

Målet med falsk information är just att påverka oss i en viss riktning. För en erfaren granskare som Siri är många narrativ lätta att känna igen. Hon hittar så kallade ”hundvisslor”, en sorts kodord som kan verka oskyldiga, men som är ett subtilt tecken i en viss målgrupp. I Tiktok-inlägget skrevs till exempel ”stress” med två versala ”S” i slutet, en syftning på Nazitysklands SS-trupper.

– Jag hoppas att folk förstår att det inte bara är ”AI-tjejer” som vi måste se upp för. Alla blir emotionellt lurade på internet idag. Missinformation kan också se oglamorös och ocool ut, men kan ändå skada samhället.

Icakuriren Hälsa

Läs även: Jonas Gren lever som ”nykter digitalist”: Man dör inte utan smartphone

Samtidigt så finns det förstås många fördelar med sociala medier och Siri menar att man inte ska behöva avstå helt av rädsla för att bli lurad.

– Var varsam och kom ihåg att man inte kan lita på allt. Slå vakt om dina känslor, ta det lite lugnt om du läser något som upprör dig.

Är det någon målgrupp som är extra utsatt?

– Nej, det handlar inte om ålder. Alla som är upprörda över något i samhället är en målgrupp!

Bör de stora techbolagen sköta sig bättre och stoppa falska flöden?

– Jag har inget riktigt svar på det, samtidigt som jag kan tycka att det är svårt att lägga över allt ansvar på enskilda individer.

Siri Christiansen blev utsatt för trollkampanj

Siri Christiansen blev utsatt för en mindre trollkampanj efter att hon avslöjade de fejkade kontona. Hon kallades som sagt för ”vänsterextremist” och man la även ut bild på hennes pojkvän i syfte att provocera henne.

– Det är klart att det inte var så kul, men inget har hänt. Deras videoklipp har inte fått så många visningar.

Nu fortsätter hon att arbeta som ­faktagranskande ­lokalreporter och fick hon önska något mer för fram­tiden, så är det att vi tar oss tid att lyssna.

– Mer än någonsin är det viktigt att förstå andras synpunkter. Vi är så polariserade idag, och vill knappt höra andras åsikter. Ibland skapar vi fiender, som inte behöver vara en fiende.