FOTO: Kristina Alexanderson/Internetstiftelsen

I slutet av 2024 publicerade Jutta Haider, professor i biblioteks- och informationsvetenskap vid Högskolan i Borås, tillsammans med kollegor en studie som visade att en mängd AI-genererade artiklar finns tillgängliga i sökmotorn Google Scholar. Att falsk vetenskap tillgängliggörs och sprids utgör en fara för både forskarsamhället och samhället då det ökar risken för så kallad evidenshackning – att falsk forskning används för strategisk manipulation. I studien kunde forskarna se att artiklarna spridits till annan forskningsinfrastruktur, arkiv och sociala medier och de handlade ofta om mer kontroversiella ämnen som miljö och hälsa.

Inom forskningsprogrammet Mistra Environmental Communication leder Jutta Haider fokusområdet Information om informationsteknologier, informationskulturer och algoritmer samt dess påverkan på miljökommunikation, styrning och politik. Fokusområdet är nytt för programmets andra fas och drevs under den första fasen som ett par mindre projekt. Att området fått ta mer plats beror till stor del på rådande världsläge där vilseledande information används strategiskt för att skapa splittring, både på ett politiskt och geopolitiskt plan.

– Det är en oroväckande utveckling och vi bör ha i åtanke att klimatkrisen och informationskrisen hänger samman och att maktkoncentrationen av den digitala infrastrukturen är en viktig faktor i detta. Dessvärre ser vi en enorm kreativitet i de kampanjer för vilseledande information som skapas. Vi alla berörs av detta, det är existentiella frågor då det i grund och botten handlar om vilket samhälle vi vill ha och leva i, påpekar Jutta Haider.

”Debatter parasiterar på varandra”

Vi planerar och anpassar till stor del våra beteenden och liv efter allt från väderappar, digital trafikinformation, rekommendationstjänster och sociala mediaplattformar. Att vara medveten om hur teknologisamhället formar och omformar mening och förståelse är viktigt, anser Jutta Haider. Forskarna inom fokusområdet Information studerar på vilket sätt vi påverkas och vilka konsekvenser det får. Jutta Haiders egen forskning fokuserar främst på hur miljö och hållbarhet kommuniceras genom sökmotorer och sociala medieplattformar och hur budskap kommer till uttryck i opinionsbildning och samhällsdebatt.

– Det kan handla om indirekt och direkt motstånd som tar sig i uttryck i olika former och sammanhang, strategisk vilseledande information och misstänkliggörande av vetenskap, myndigheter och etablerad nyhetsmedia. Vaccindebatten under pandemin är ett exempel, klimatskepticism en annan. Det klassiska är att debatter parasiterar på varandra, argument från exempelvis anti-vaxx-rörelsen används och omtolkas för att användas som argument i exempelvis ”wind turbine syndrome”-debatten som sedan omtolkas för att användas i lokala meningsskiljaktigheter, förklarar Jutta Haider.

Tillsammans med sina kollegor bedriver Jutta Haider ett slags detektivarbete. Syftet är att bygga en väv av vilka budskap som används, men framförallt hur de sprids och i förlängningen vilken effekt de kan få för människors val och beslut. AI:s intåg är en viktig del i arbetet.

Vad händer med källkritiken?

Under hösten 2024 undersökte Jutta Haider vad AI-verktyget Microsoft Copilot delgav om Climate the movie. Filmen, som blivit viral, har ett klimatförnekande budskap men Jutta Haider fick av Copilot filmen beskriven som en ”dokumentär som ger olika perspektiv på klimatdebatten”. I den AI-genererade beskrivningen användes ord som ”klimatalarmism” och ”alternativ evidens”. Copilots svar hänvisades till källor och referenser. Men Jutta Haider konstaterar att AI-verktyg är dåliga på att bedöma källor och kan sprida felaktig och vilseledande information och att den kulturella kompetensen saknas. Jutta Haider nämner även så kallade ”data voids”, områden där det inte finns så mycket information på nätet och där det är lätt att krafter med tvivelaktiga intressen sprider desinformation. När dessa informationsluckor fylls med information rankas de ofta högt bland sökresultaten, vilket bidrar till att AI-verktygen förstärker dessa perspektiv.

– Climate the movie fick stor spridning på nätet och även här kan vi se att argument återkommer och omtolkas i olika debatter. I vissa länder som motstånd till solpaneler, i andra länder som motstånd mot vindkraft och i ett tredje land kopplat till livsmedelsomställningen. Ofta anspelar argumenten på konspirationsteorier om allt från kontroll av bönder till kastsamhället i Indien, berättar Jutta Haider.

I ett flertal debattartiklar har Jutta Haider och forskarkollegor lyft vad som händer med källkritiken i dagens samhälle. Hon vill inte säga att källkritiken är hotad, men att den utmanas. Till och med i Sverige där källkritiken haft en enorm betydelse. Vi lär oss i unga år att värdera och kritiskt granska information, men enligt Jutta Haider behöver människor aktivera och engagera sig för att källkritiken ska tjäna sitt syfte.

– Källkritik fungerar endast om det finns en kollektiv och ömsesidig tillit till etablerad och samhällsbärande aktörer som nyhetsmedia och myndigheter, samt en demokratisk samsyn om vilka de tillitsfulla källorna är – och förstås att de förtjänar den tillit de får. I Sverige har källkritik setts som något självklart, samtidigt har vi den senaste tiden sett flera exempel på när fakta görs om till åsikter, även på högsta politiska nivå. Med detta i åtanke – och med allt större användning av AI-verktyg – riskerar källkritiken att både urholkas och till och med användas i motsatt syfte.

Okunskap vs desinformation

Men hur fungerar det att forska inom detta område? Hur avgör Jutta Haider vad som är okunskap och vad som är desinformation? Och hur håller hon sig uppdaterad i den gigantiska mängd data och de förändringar som sker på techområdet? Dessa frågor hanterar hon dagligen och ett syfte med arbetet inom Mistra Environmental Communication är att bygga upp en metodutveckling för det fortsatta arbetet.

Det som skiljer vilseledande information från okunskap är avsändarens medvetenhet och syfte, konstaterar Jutta Haider. Men effekten kan vara densamma. Det intressanta är att förstå vilka andra förklaringsmodeller som får betydelse för människors meningsskapande.

– Det går inte att bota desinformation. Jag tror det handlar om att bygga en stabil demokratisk bas och ständigt arbeta med att rannsaka sig själv och granska samhället. Det är inte den digitala tekniken i sig som är en fara, utan hur den kapitaliserar på vår uppmärksamhet, hur den används och regleras eller faktiskt inte regleras.

På den andra frågan om mängden data och tillgången till den berättar Jutta Haider att mycket av datan de undersöker kontrolleras av plattformarna. Transparensen och tillgången till den minskar också allt mer. Under hösten 2024 deltog Jutta Haider på ett expertmöte i Schweiz med fokus på just vilseledande information och desinformation och en diskussion runt EU:s Digital Service Act.

– Det är ett stort problem att datan blir allt mer otillgänglig för forskare och journalister och jag skulle önska att diskussioner om digital suveränitet tas på större allvar. Samtidigt driver mer och mindre demokratiska länder egna digitala plattformar med sina regler och inte minst av företag med finansiella intressen.

Kombinerad data – viktigt bidrag till forskningen

För tillfället arbetar Jutta Haider och hennes kollegor med datainsamling, analys och metodutveckling. Hon anser att hennes viktigaste bidrag till forskningen är just att inte fokusera på det ena eller det andra, utan att kombinera datan från små appar som används av få, till de stora jättarna. Och att genom detta bygga bit för bit av pusslet för att se hur vilseledande information sprids och framför allt hur den knyts ihop.

En intressant iakttagelse i arbetet är hur mindre och vardagliga frågor, exempelvis vegetarisk kost i skolan, kopplas ihop med större frågor om vetenskap och ”kontroll av eliten” och hur diskussioner om detta får nya former av samband på nätet.

– Vi vet såklart att alla frågor har med politik att göra, men jag är ändå förvånad över hur lätt kontroverser packas upp och framställs i olika sammanhang. Frågor och fakta vi trott var socialt accepterat i samhället används strategiskt för att skapa kontroverser i relation till vetenskap, kunskap, historia, identitet, gamla oförrätter, politik, kunskapssystem och vanor, avslutar Jutta Haider.