Er vi forberedt på digital valgpåvirkning?
Forskar 1 ved NUPI, Niels Nagelhus Schia, er blitt plukka ut til å leie ei ekspertgruppe.
NUPI-forsker Niels Nagelhus Schia har det siste halve året ledet en ekspertgruppe som onsdag la fram sin rapport om KI og valg for kommunal- og distriktsminister Kjersti Stenseng. Rapporten, som har fått navnet "Kunstig intelligens og demokratiske valg – internasjonale erfaringer og nasjonale anbefalinger", peker på alvorlige trusler som KI kan medføre for demokratiet.
Se lanseringen her:
Året 2024 har blitt kalt et “supervalgår”. Aldri før har det blitt avholdt så mange valg i verden. Samtidig har KI-bruken, og da spesielt det som handler om generativ KI, eksplodert. Dette endrer utfordringsbildet – ikke bare for valg, men også for informasjonslandskapet og selve fundamentet for demokratier.
Regjeringen så at den eksplosive teknologiske utviklingen kunne utgjøre en trussel og satte ned den hurtigarbeidende ekspertgruppen, som Nagelhus Schia ble utpekt som leder av.
I et halvt år har gruppen kartlagt hvordan KI kan påvirke demokratiske valgprosesser, og hvordan norske myndigheter kan jobbe for å redusere risikoene. Rapporten, som ble lansert på Litteraturhuset 5. februar, inneholder anbefalte tiltak for å møte utfordringene KI medfører for stortingsvalget i 2025 og fremover.
KI gjør det enklere å manipulere
– Kunstig intelligens gjør det lettere, raskere og billigere å manipulere informasjon og målrette budskap. Med KI kan aktører lage falske nyheter, deepfake-videoer og automatiserte kampanjer som ser troverdige ut. I tillegg kan KI analysere store datamengder for å finne ut hva som påvirker ulike velgergrupper mest – og så skreddersy desinformasjon for å utnytte dette. Det betyr at valgpåvirkning kan bli mer sofistikert og vanskeligere å oppdage enn før, sier Nagelhus Schia, som vanligvis er forsker 1 hos NUPI og som leder instituttets forskningsgruppe for sikkerhet og forsvar.
Han understreker også at trusselen fra KI ikke må overdrives, da dette kan undergrave tilliten til informasjon, teknologi og demokratiet. Ekspertgruppen vurderer at KI ikke medfører vesentlige nye trusler, men først og fremst forsterker eksisterende utfordringer.
Noe av det første Stenseng gjorde som nyslått statsråd var å ta imot rapporten fra Nagelhus Schia. Hun mener tiltakene kan være viktige for å styrke sikkerheten ved valget.
– Rapporten er et viktig bidrag til arbeidet med å sikre norske valg. Nå skal vi sette oss godt inn i rapporten og anbefalingene fra ekspertgruppen, slik at vi kan være best mulig forberedt til årets og fremtidige valg, sier hun.
Niels Nagelhus Schia la fram rapporten han og ekspertgruppen har jobbet med i rundt et halvt år.
Romania og Tyskland som advarsler
Ekspertgruppen har undersøkt hvilken trussel KI har utgjort for flere nylige valg. Blant de mest alvorlige hendelsene er presidentvalget i Romania, der valgresultatet ble annullert etter en massiv digital påvirkningskampanje der en ukjent kandidat plutselig fikk 1,4 milliarder visninger globalt på TikTok.
Foran valget i Tyskland nå i februar, ser vi lignende mønstre der en russisk desinformasjonskampanje har etablert over 100 falske nettsteder for å spre falske nyheter om tyske politikere, med mål om å påvirke valgutfallet. Disse eksemplene rykker stadig nærmere Norge.
– Vi ser her hvor raskt og omfattende KI kan brukes til å manipulere informasjon og destabilisere demokratier, sier Nagelhus Schia.
Anbefalinger til regjeringen
Ekspertgruppen foreslår flere tiltak for å redusere risikoen for KI-påvirkning av valg, både på kort og lang sikt:
- Sikre at valgmyndighetene har nødvendig kompetanse og kapasitet på KI og kommunikasjon.
- Redusere grunnlag for at det kan spekuleres i feil og mangler i valggjennomføringen eller at valget er utsatt for uønsket påvirkning.
- Kontakt mellom myndighetene og teknologi- og plattformselskapene.
- Politiske aktører bør ansvarliggjøres og støttes.
- Prioritere rask implementering av relevante EU-lover, særlig DSA og KI-forordningen.
- Føre en aktiv mediepolitikk som opprettholder frie, sterke og mangfoldige redaktørstyrte medier.
- Bygge kildebevissthet og fremme kritisk medie-, teknologi- og KI-forståelse.
- Mer forskning og samarbeid mellom myndigheter, forskere, sivilsamfunn og teknologiselskaper.
- Være en pådriver for internasjonalt samarbeid på de ovennevnte områdene.
Anbefalingene er nærmere beskrevet i rapporten.
Rapporten har fått navnet "Kunstig intelligens og demokratiske valg – internasjonale erfaringer og nasjonale anbefalinger".