🤖 Forskere advarer: KI-svermer truer demokratiet
Norske forskere advarer mot «KI-svermer» i det anerkjente tidsskriftet Science. De beskriver svermene som tusenvis av falske profiler designet for å spre propaganda i sosiale medier — forkledd som ekte mennesker.
«Utfordringen er ikke lenger bare falske nyheter, men at selve grunnlaget for den demokratiske samtalen — uavhengige stemmer — kan bryte sammen.»
— Jonas R. Kunst, professor ved BI
Hva er KI-svermer?
En KI-sverm er en koordinert gruppe av tusenvis av AI-styrte falske profiler på sosiale medier. Disse:
- Utgir seg for å være ekte mennesker
- Sprer det samme budskapet på tvers av plattformer
- Skaper en illusjon om at «alle» mener det samme
- Er vanskelige å oppdage fordi de oppfører seg menneskelignende
Tradisjonelle botter var enkle å identifisere. KI-svermer bruker avansert språkmodellering for å fremstå som ekte mennesker med unike personligheter, meninger og skrivemåter.
De kommende årene blir avgjørende
Forskerne mener vi står ved et veiskille for demokratisk debatt online:
«De kommende årene vil være avgjørende for om vi lykkes med å bekjempe den neste generasjonen av KI-drevne påvirkningsoperasjoner.»
— Daniel Thilo Schroeder, Sintef-forsker
Norsk forskning i verdensklasse
At norske forskere fra BI og Sintef publiserer i Science — et av verdens mest prestisjefylte vitenskapelige tidsskrifter — viser at Norge er i front på dette feltet. Artikkelen er blant annet omtalt av:
- Science (originalartikkel)
- FlowingData (internasjonal omtale)
- City University of London (åpen tilgang)
Hva kan gjøres?
Forskerne peker på behovet for:
- Bedre deteksjonsverktøy for å identifisere KI-generert innhold
- Internasjonalt samarbeid mot påvirkningsoperasjoner
- Økt digital kompetanse i befolkningen
- Plattformansvar for å bekjempe koordinert uautentisk atferd
Originalartikkel: Science: How malicious AI swarms can threaten democracy