– Desinformasjon og falske nyheter anses av både EU, NATO og FN som en av de største truslene mot demokratiet i vår tid, ikke minst i lys av den raske utviklingen innen generativ KI, sier Silje Susanne Alvestad.
Hun har allerede i flere år studert hvordan språklige kjennetegn kan avsløre falske nyheter i prosjektet «Fakespeak - Språket i falske nyheter».
Nå får hun støtte fra Forskningsrådet til et nytt prosjekt: «Towards detecting AI-generated disinformation: Fakespeak in the age of large language models».
Prosjektet inkluderer flere forskere fra Institutt for litteratur, områdestudier og europeiske språk og Institutt for medier og kommunikasjon ved UiO.
– Jeg er mektig stolt over å kunne gratulere Silje Susanne Alvestad med denne tildelingen fra Forskningsrådet. Det er nok en bekreftelse på at humanistisk forskning er høyst relevant i møte med vår tids største utfordringer. I dette tilfellet skjæringspunktet mellom menneske og maskin, sier forskningsdekan Mathilde Skoie.
Gjør det mulig å varsle om mistenkelig tekst
Alvestad forteller at hovedmålet for det nye prosjektet er todelt:
– For det første ønsker vi å forberede interessentene våre, det vil si folk som jobber i blant annet justis- og mediesektoren, på neste generasjons desinformasjon og påvirkningsoperasjoner. For det andre ønsker vi å bidra til utviklingen av verktøy som kan varsle dem om mistenkelig KI-generert tekstlig innhold, sier hun.
Sammen skal språk- og medieforskere undersøke språklige og diskursive trekk ved KI-genererte fortellinger som sprer desinformasjon, sammenlignet med tilsvarende narrativer skrevet av mennesker. De skal også samarbeide med informatikere fra SINTEF om å utvikle verktøy for varsling.
– Tildelingen betyr veldig mye for arbeidet fremover. Midlene gir oss muligheten til å ansette nye forskere, fortsette noen eksisterende samarbeid, innlede noen nye og sammen ta fatt på noen enda større utfordringer enn vi har gjort til nå. Jeg ser også frem til å involvere interessentene våre på en god måte i prosjektet, sier Alvestad.
Les mer om Alvestads forskning her: