Om prosjektet
Desinformasjon og falske nyheter er en av de største truslene mot demokratiet i vår tid, det har blant annet EU, NATO og FN erklært. Denne trusselen har økt i takt med den enorme utviklingen innen generativ kunstig intelligens (KI).
Vi har et akutt behov for
- kunnskap om hvordan neste generasjons desinformasjon og påvirkningsoperasjoner kan se ut
- et kunnskapsgrunnlag for å utvikle verktøy som kan identifisere og varsle om slik desinformasjon
Prosjektet «NxtGenFake» vil forsøke å fylle disse kunnskapshullene.
Mål
Lingvister, medievitere og informatikere skal i samarbeid belyse følgende forskningsspørsmål:
- I hvilken grad, og hvordan, skiller KI-generert desinformasjon seg fra desinformasjon produsert av mennesker?
- Hvordan kan KI-generert desinformasjon identifiseres?
- Hvordan kan store språkmodeller påvirke hvor overbevisende desinformasjon oppfattes å være?
Forskerne vil ta utgangspunkt i datasett utviklet i prosjektet «Fakespeak: Språket i falske nyheter», som utforsket hvordan språklige kjennetegn kan avsløre falske nyheter. Disse datasettene vil bli sammenlignet med tekst produsert av ulike populære store språkmodeller.
Tekstene vil bli analysert fra et språkvitenskapelig og medievitenskapelig perspektiv. I neste steg vil informatikere undersøke hvordan den nye kunnskapen kan bidra til å utvikle verktøy for å identifisere KI-generert desinformasjon.
