Amnesty International

Amnesty International ser på EUs forordning om kunstig intelligens (KI-forordningen) som et viktig virkemiddel for å beskytte menneskenes grunnleggende rettigheter og friheter i møtet med en raskt fremskridende digitalisering og automatisering av livene deres. Vi er glade for at regjeringen nå legger frem et forslag om å inkorporere KI-forordningen i norsk rett.

Kunstig intelligens (KI) kan bidra til å forbedre ivaretakelse av menneskerettighetene på mange områder, fra personlig sikkerhet til helseomsorg, forutsatt at både de som utvikler KI-baserte løsninger og de som bruker dem tar ansvar for å unngå de mange og alvorlige farene for menneskerettighetene dette kan medføre – inkludert diskriminering, uforholdsmessige inngrep i privatliv, begrensning av ytringsfrihet, manglende gjennomsiktighet av myndighetsvedtak, og mye mer. Både regjeringen og næringslivsaktører har gjentatte ganger uttrykt bekymring for at utvikling og bruk av KI i Norge ikke går raskt nok, og det har vært atskillelig mer fokus på at offentlige instanser skal ta i bruk KI så raskt og så omfattende som mulig, enn på å forsikre seg at dette ikke har negative konsekvenser for innbyggernes rettigheter. Det gir grunn til bekymring, ikke minst siden negative konsekvenser av bruk av KI – for eksempel knyttet til politiets virksomhet eller beslutninger i sosial forvaltning – kan være vanskelig å oppdage og forstå. For eksempel har Amnesty vært med på å dokumentere omfattende diskriminering knyttet til bruk av KI-baserte løsninger i sosial forvaltning i Nederland, Danmark, Sverige, Storbritannia og andre land. I alle tilfeller var menneskerettighetsbruddene etter alt å dømme en utilsiktet konsekvens av manglende forståelse for teknologiens begrensninger, manglende regulering og kontroll.

For å øke sannsynligheten for at negative konsekvenser blir oppdaget og håndtert raskt, og for å ivareta enkeltpersoners rettigheter i møte med KI-støttete beslutninger som berører dem, er det både nødvendig med velfungerende og uavhengig tilsyn og gode klagemuligheter. Det er også nødvendig å forsikre seg at alle offentlige ansatte som bruker KI som støtte for beslutninger, er klare over mulige negative konsekvenser, har kompetanse for å oppdage dem og kanaler for å si ifra. I tillegg må offentlige instanser som bestiller KI-baserte løsninger være tydelige på at ivaretakelse av menneskerettighetene er noe utviklerne må prioritere, og produsenter og leverandører av løsningene må holdes ansvarlige når de bevisst eller uaktsomt bidrar til krenkelser av grunnleggende rettigheter.

Per i dag spiller amerikansk teknologi en sentral rolle for mange KI-baserte løsninger som brukes i Europa og Norge. I «America’s AI Action Plan» fra juli 2025 har myndighetene i USA gitt tydelig uttrykk for at det å unngå negative menneskerettslige konsekvenser, spesielt diskriminering, ikke skal være et hensyn amerikanske teknologibedrifter bør prioritere i utviklingen av KI. Tvert imot understreker handlingsplanen at utvikling av KI skal bidra til å fremme den sittende regjeringens diskriminerende ideologi. Dette understreker hvor nødvendig det er for Norge å sikre tydelig og streng regulering av KI som prioriterer vern mot diskriminering og ivaretakelse av andre menneskerettigheter.

Vi støtter at KI-forordningens begrensninger for bruk av KI i rettshåndhevelse tas inn i norsk rett, spesielt på de områdene der dette per i dag ikke er uttrykkelig regulert.

Vi er enige i departementets vurdering at bruk av KI som er forbudt etter forordningens artikkel 5, nr.1 bokstav d (vurdering av risikoen for at en enkeltperson begår en straffbar handling basert på profilering), g (kategorisering av personer basert på biometriske data) og h (biometrisk fjernidentifikasjon i sanntid) ikke vil være tillatt etter norsk rett. For å unngå misforståelser eller feil i lys av en rask teknologiutvikling på politifeltet, vil vi allikevel foreslå å presisere dette uttrykkelig i relevante norske lover og forskrifter.

Når det gjelder bruk av etterfølgende biometrisk fjernidentifisering for rettshåndhevelse, mener Amnesty at dette heller ikke er forenlig med menneskerettighetene og bør være forbudt. Mange av de negative menneskerettslige konsekvensene som er begrunnelsen for forbudet mot biometrisk fjernidentifisering i sanntid (fare for diskriminering, undergraving av rettssikkerhet, nedkjølingseffekt, uforholdsmessig inngrep i retten til privatliv) vil også være til stede når man benytter seg av KI-generert biometrisk masseovervåkning i etterkant. Denne oppfatningen deltes også langt på vei av EU-parlamentet som i behandlingen av KI-forordningen ønsket et forbud mot slik praksis. Forslaget falt imidlertid under sluttforhandlingene om den endelige teksten.

Det å gi politiet adgang til å bruke data fra biometrisk masseovervåkning i etterkant, vil også forutsette at det finnes tilstrekkelig lovlig innhentet datamateriale å lete i. Her vil en fort begi seg i en gråsone når det gjelder hva som kan anses som «lovlig innhentet». Flere private aktører tilbyr databaser med biometriske data av millioner av mennesker, ofte innhentet på tvilsomt grunnlag, for eksempel med metoder som kan være lovlige andre steder (f.eks. i USA) men som vil være i strid med europeiske og norske menneskerettighetsstandarder.

Vi minner om at inngrepet i retten til privatliv starter i det øyeblikket noen blir utsatt for overvåkning, uavhengig av om vedkommende opplever noen negative konsekvenser.

KI-forordningen pålegger leverandører av høyrisikosystemer en rekke forpliktelser knyttet til monitorering, konsekvensutredning og dokumentasjon av feil. Det er bra, men vi er bekymret for at det kan bli til en outsourcing av ivaretakelse av menneskerettighetene til private næringslivsaktører. Det er statens ansvar å sikre at menneskerettighetene ikke krenkes, og offentligheten må ha mulighet til innsyn i hvordan det gjøres og eventuelle overtramp som er blitt begått. Å overlate dette til leverandørenes egne vurderinger som foretas i lukkede rom, er ikke tilstrekkelig.

Amnesty tar ikke stilling til hvordan meldermyndighet og samsvarsvurdering bør organiseres i Norge. Vi vil imidlertid understreke at det er avgjørende at disse organene er reelt uavhengige, både fra kommersielle interesser og politiske føringer. Uavhengigheten må sikres institusjonelt, økonomisk og operasjonelt.

Politiske beslutningstakere og departementer står ofte under betydelig press – både fra økonomiske aktører med sterke interesser i KI-utvikling, og fra opinionen som etterspør raske teknologiske løsninger på komplekse samfunnsutfordringer. I en slik kontekst er det særlig viktig at vurderinger av risiko og rettigheter knyttet til KI-systemer skjer på et faglig og menneskerettslig grunnlag, og ikke underlagt kortsiktige hensyn.

Amnesty anbefaler at det etableres mekanismer for demokratisk kontroll og sivilsamfunnsdeltakelse i tilsynsarbeidet, for å sikre transparens og tillit.

Det at beslutninger for eksempel knyttet til velferdsordninger eller helsetjenester kan være basert på automatiserte systemer, kan føre til følelser av urettferdighet og avmakt og undergrave tilliten til myndighetene. Derfor er det viktig å sikre at det finnes gode, enkelt tilgjengelige og velkjente klagemuligheter, og at terskelen for å behandle klager eller godkjenne krav om informasjon er så lav som mulig.

Utfordringer for eksempel rundt bias (utilsiktet videreføring av menneskelige fordommer) i KI-systemer kan være kompliserte og ofte ramme et stort antall personer. Det er derfor viktig å gi tilsynsorganer, fagforeninger og sivilsamfunnsorganisasjoner m.fl. mulighet til å fremme klager eller krav om informasjon på vegne av berørte enkeltpersoner eller grupper.

Vi støtter forslaget om at Norge ratifiserer konvensjonen.