AI i fokus när forskare inom humanvetenskap möttes på ett öppet seminarium

Initiativet leddes av Teresa Cerratto Pargman, professor i människa–datorinteraktion vid Institutionen för data- och systemvetenskap samt AI-samordnare för det humanvetenskapliga området. Hon förklarar att evenemanget inspirerades dels av ett öppet forum som naturvetenskapliga området arrangerade förra året, där kollegor visade stort intresse för att utbyta erfarenheter och diskutera AI genom hela forskningsprocessen, dels av resultaten från en inventering av över 100 projekt inom humanvetenskaperna vid universitetet under perioden 2015–2025.

Yvonne Svanström, dekan vid Samhällsvetenskapliga fakulteten och vicerektor för det humanvetenskapliga området, samt Stefan Helgesson, dekan vid Humanistiska fakulteten och vicerektor för det humanvetenskapliga området, inledde evenemanget. 

– Motivationen var tvådelad. För det första såg vi vid ett liknande arrangemang inom naturvetenskapen ett starkt intresse för att diskutera hur AI används i forskning samt vilka risker och möjligheter tekniken medför. För det andra visade vår kartläggning att det finns en betydande kompetens och ett stort epistemiskt kapital kring AI inom humanvetenskaperna, vilket framgår av de många projekt som hittades, säger Teresa Cerratto Pargman.

Hon framhåller att kritiska perspektiv från humanvetenskaperna behövs i en tid då AI ofta beskrivs i termer av snabb teknologisk utveckling.

– Vi behöver reflektera över vår relation till teknik och AI, bidra till en kritisk förståelse av hur AI förändrar forskningspraktiken och ge intellektuell och välgrundad vägledning kring vilken AI-forskning som behövs, var och varför.

Korta presentationer och diskussioner för att bredda samtalet

Programmet bestod av korta presentationer följt av gruppdiskussioner. Formatet valdes för att ge deltagarna en överblick över olika forskningsprojekt utan att göra evenemanget alltför omfattande.

– Vi ville dela exempel från olika projekt så att våra kollegor kunde få en första förståelse för centrala frågor inom AI-forskning i vårt område, men också skapa utrymme för diskussion och reflektion över ämnesgränserna, säger Teresa Cerratto Pargman.

Bland talarna fanns forskare från lingvistik, datavetenskap, juridik, psykologi och socialt arbete. Flera lyfte hur AI redan förändrar forskningspraktiken. Beáta Megyesi, professor i datorlingvistik, betonar betydelsen av språkmodeller:

– En omvälvande utveckling är den snabba framväxten av språkmodeller som kan analysera och generera mänskligt språk i stor skala. Under de kommande åren blir det centralt att lära sig styra och kontrollera dessa system genom noggrant val av indata, transparent utvärdering och genomtänkt design, så att de stödjer snarare än förvanskar humanistisk forskning.

Panagiotis Papapetrou, professor i datavetenskap, lyfter också språkmodeller som centrala för forskningsarbetet:

– Stora språkmodeller kan avsevärt snabba upp litteratursökning, sammanfattning och referenshantering. De kan bidra till att utveckla initiala idéer och nya forskningsspår, samt fungera som stöd i idéutveckling och återkoppling.

Håkan Fischer, professor i biologisk psykologi, lyfter i stället AI:s växande multimodala kapacitet:

– Den viktigaste utvecklingen är AI:s ökade förmåga att arbeta med flera typer av material samtidigt, såsom text, tal, bilder och video. Inom humanvetenskaperna öppnar detta nya möjligheter att studera mänskligt beteende och erfarenheter på sätt som både är mer storskaliga och mer verklighetsnära. Det påverkar inte bara hur vi analyserar data, utan också vilka frågor vi kan ställa.

Risker, möjligheter och kritiskt tänkande

Flera återkommande teman i presentationerna och diskussionerna rörde risker, kritiskt tänkande och hur AI bör användas ansvarsfullt i forskningsprocessen.

Stanley Greenstein, docent i rättsinformatik, betonar behovet av tydliga riktlinjer:

– Utvecklingen av stora språkmodeller och generativ AI kräver att vi omprövar själva definitionen av kunskap. En risk med AI i forskning är att tekniken används för att ta genvägar, vilket kan få negativa konsekvenser.

Nora Germundsson, postdoktor vid Institutionen för data- och systemvetenskap och Institutionen för socialt arbete, lyfter strukturella aspekter:

– En underskattad risk är universitetens okritiska upphandling av USA-baserade AI-system, vilket väcker både etiska och juridiska frågor – särskilt mot bakgrund av den senaste politiska utvecklingen i USA. Att prioritera EU-baserade alternativ kan möjliggöra mer hållbara investeringar i lokalt utvecklade modeller och minska beroendet av aktörer som OpenAI och Microsoft.

Panagiotis Papapetrou understryker vikten av kritisk granskning:

– En risk är att förlita sig för mycket på AI utan kritiskt tänkande. AI kan inte alltid generera nyskapande idéer, men kan utveckla idéer den får som indata. Alla påståenden måste granskas och verifieras.

Håkan Fischer pekar på risken för skenbar objektivitet:
– AI kan lätt skapa en illusion av objektivitet. Eftersom resultaten ofta framstår som välformulerade och systematiska är det lätt att förbise hur de speglar befintliga bias i data, modeller och forskarens val.

Teresa Cerratto Pargman konstaterar att diskussionerna visar hur central AI blivit i forskningen.
– AI berör kärnan i vår akademiska praktik. Diskussionerna var livliga och visade kollegers engagemang och positioner i förhållande till AI i forskning och kompetensutveckling. Det blev tydligt hur meningsfullt det är att samtala om dessa frågor.

AI som verktyg - inte ersättning

Flera forskare gav konkreta exempel på hur AI förändrat forskningsarbetet. Beáta Megyesi beskriver hur språkteknologi möjliggör analys av stora textmängder:

– Ett tydligt exempel är användningen av språkteknologi för att analysera omfattande textmaterial som inte är möjligt att läsa manuellt.

Håkan Fischer lyfter analys av öppna textsvar:

– Ett tydligt exempel är analys av stora mängder öppna textsvar, såsom intervjuer eller enkätdata.

Samtidigt betonar Teresa Cerratto Pargman att AI, som en banbrytande teknologi, måste utforskas kritiskt, regleras och användas på ett sätt som utmanar vårt tänkande, inte ersätter det.

– En central fråga är vilka kompetenser vi forskare utvecklar med AI i forskning, och vilken kunskap doktorander och yngre forskare behöver för att möta AI i sitt framtida arbete.

Omdöme viktigare än teknik

I diskussionerna om framtida kompetenser framträdde en tydlig slutsats: teknisk kunskap räcker inte.

– Det vanligaste svaret är AI-kunskap, men framför allt är mänskligt omdöme avgörande. Vi måste kunna förstå, bedöma och värdera de svar AI-system ger för att kunna identifiera och diskutera potentiella konsekvenserna av deras användning, säger Teresa Cerratto Pargman.

Hon ser evenemanget som ett första steg i ett långsiktigt arbete. Förhoppningen är att deltagarna ska få insikt i andras projekt, identifiera nya perspektiv, begrepp och metoder, knyta kontakter och fortsätta samtalet.

– Det var insiktsfullt att se hur forskare inom lingvistik, datavetenskap, juridik, psykologi och socialt arbete närmar sig AI i sina respektive discipliner. Att skapa forum där forskare kan mötas och diskutera disciplinära frågor kopplade till AI i forskning och undervisning är både värdefullt och nödvändigt.

Planer finns på fler fakultetsövergripande seminarier och fortsatt arbete kring AI-utveckling inom det humanvetenskapliga området vid Stockholms universitet.