Navigera den komplexa världen av skadlig information och desinformation

Gästförfattare:  Lodjuret


Under de senaste åren har informationslandskapet förändrats dramatiskt, drivet av digitalisering och framväxten av sociala medier. Denna transformation har skapat en komplex och suddig miljö där det blir allt svårare att skilja mellan legitim information och skadlig desinformation. I denna blogg kommer jag att diskutera och ge exempel på hur skadlig informationspåverkan och desinformation har utvecklats, de inneboende riskerna de utgör för samhället, och hur vi som individer och organisationer kan öka vår motståndskraft mot dessa hot.


Informationsmiljön kan jämföras med en spelplan utan linjer, domare eller regler. Varje år blir den mer komplex och svårare att navigera. Legitim opinionsbildning (inklusive satir, lobbying, försäljning och marknadsföring) samexisterar nu med skadlig kommunikation som falska gräsrotsrörelser, statlig mediepropaganda och proxyaktörer. Algoritmer förvärrar ofta problemet genom att främja skadligt innehåll eller manipuleras för att göra det.


Desinformation, definierad som avsiktligt vilseledande eller manipulerad information, har blivit en betydande faktor inom olika områden, inklusive politik, affärer, media, utbildning, religion och offentlig diskurs. Spridningen av desinformation har ökat exponentiellt, underlättad av sociala medieplattformar och en global industri dedikerad till spridning av ogrundad information. Idag kan vem som helst starta en storskalig, sofistikerad påverkanskampanj. Att skapa och sprida desinformation är billigt, effektivt och ofta helt lagligt(!).


Digitaliseringen har drivit samhällsförändringar - skapat både möjligheter och risker. Trots den utbredda användningen av sociala medier under de senaste 15 åren kämpar vi fortfarande med att hantera de oförutsedda utmaningar de medför. Internetets förmåga att ge tillgång till stora mängder information och koppla samman likasinnade individer är ett tveeggat svärd; det möjliggör också för antagonister att sprida sina budskap. Till exempel använder grova brottslingar nu sociala medier för att “marknadsföra” sina våldsamma aktiviteter.


Att navigera i dagens informationsmiljö kräver tålamod, systematiska tillvägagångssätt och teknisk expertis. Källkritik är ingen magisk lösning; även experter kämpar med att avgöra äktheten av videor, bilder eller texter. I en era där underrättelseexperter och ledande faktagranskare står inför betydande utmaningar är det orealistiskt att förvänta sig att individer ska kunna identifiera desinformation korrekt.


Utmaningen ligger inte i att göra individer mer kritiska utan i att upprätthålla förtroendet inom offentliga och privata organisationer, media och mellan individer. Förtroende är en grundläggande byggsten för demokratisk diskurs, en fungerande rättsstat och ett välfärdssamhälle. Att uppmuntra individer att öka sin medie- och informationskunnighet, med fokus på källors trovärdighet, är avgörande.


Utvecklingen av skadlig informationspåverkan belyser att det inte bara handlar om “motståndaren” utan också om samhället och dess medborgare. Organisationer måste förstå sina målgruppers behov och intressen för att skapa rätt förutsättningar för att möta dem. Skadliga aktörer utnyttjar sårbarheter utan att ta hänsyn till målgruppens intressen, en nyckelskillnad som skiljer etiska handlingar från antagonistiska.


Desinformation sprids av en mängd olika aktörer, inklusive stater som Ryssland, Kina och Iran, som har omfattande desinformationsekosystem. Kriminella och kommersiella aktörer spelar också en betydande roll, ofta motiverade av ekonomisk vinning. Även västerländska stater, affärsaktörer och politiker använder ibland vilseledande metoder för att uppnå sina mål.


Utvecklingen av generativ AI, såsom stora språkmodeller (LLM), innebär både möjligheter och risker. AI möjliggör skapandet av syntetiska medier, som kan användas för skadliga ändamål, inklusive att kringgå biometriska barriärer, manipulera satellitbilder och genomföra storskaliga deep voice-attacker. Gränsen mellan ofarlig användning av modern teknik och säkerhetsrisker blir alltmer suddig.


Bygga motståndskraft mot desinformation

Även om det kan vara omöjligt att helt stoppa desinformation kan vi stärka vår motståndskraft genom olika åtgärder. Att öka allmän kunskap om informationspåverkan, förstå den sammanflätade naturen av fysiska, digitala och kognitiva domäner och använda befintliga ramverk och verktyg är viktiga steg. Proaktiv kommunikation, strategisk planering och samarbete över sektorer kan hjälpa till att bygga och upprätthålla förtroende och motståndskraft.


Hur bör företag tänka och agera kring dessa frågor?

  • Organisatorisk motståndskraft uppnås genom att identifiera vilka värden som är i riskzonen, i vilken utsträckning, och adressera säkerhetskedjan för varje värde. Att bygga motståndskraft handlar inte bara om resurser. Det är snarare en strukturell och förståelsefråga. Det önskade målet uppnås inte bara genom att ha fler anställda utan genom att ha bättre anställda som förstår utmaningarna.

  • Förtroende är allt. Identifiera vilka målgrupper som är särskilt sårbara och/eller kritiska för att verksamheten ska fungera. Tänk på anställda, varumärket och förtroende som kognitiva skyddsobjekt och bygg förtroende inom (och utanför) din organisation innan en incident inträffar.

  • Arbeta strategiskt och proaktivt med kommunikation. Vilka är våra målgrupper, vilka är deras behov och intressen? Vilka kommunikationsarenor ska vi vara aktiva på och vilka ska vi övervaka?

  • Säkerställ analytisk förmåga. Etablera, upprätthåll och vidareutveckla din egen förmåga till omvärldsanalys och hotinformation, inklusive OSINT (onlineundersökningar), IT-forensik och webbanalys.

  • Utbilda din personal och bygg personliga brandväggar. Genomför informations- och utbildningsinsatser för att öka medvetenheten och därigenom öka din motståndskraft.

  • Öva ofta, Öva enkelt och öva avancerat. Från korta scenariodiskussioner till systematisk “Red Teaming”.

  • Samarbeta och möts i nya konstellationer. Bidra till att skapa förutsättningar för dialog och samarbete mellan offentlig sektor, näringsliv och universitet/högskolor, men också med nyckelpersoner i civilsamhället, entreprenörer, startups, ideella organisationer och entusiaster. Detta genererar innovation och kunskap. Bygg motståndskraft tillsammans