Norsk Tjenestemannslag

KI vil kunne få konsekvenser for alle våre medlemmers lønns- og arbeidsvilkår. Derfor er det viktig at Hovedavtalen i staten (HA) generelt, og medbestemmelse spesielt legges til grunn ved innføring av dette i den enkelte virksomhet. Vi vil kommentere dette i vårt høringssvar.

Samtidig er dette er felt som er preget av en til dels festtalepreget retorikk mer eller mindre frikoblet fra hverdagen på den enkelte arbeidsplass. Mye av utviklingens drives frem av store multinasjonale selskaper som har som formål å skaffe profitt til eierne og ikke nødvendigvis deler de grunnleggende verdiene og interessene til det norske samfunnet.

Departementet har besluttet at Nasjonal kommunikasjonsmyndighet (Nkom) skal ha rollen som nasjonal koordinerende markedstilsynmyndighet og et nasjonalt kontaktpunkt mot EU. For Nkom vil dette være en ny oppgave, derfor bør det avklares nærmere hva disse rollene vil innebære, også med hensyn til ressursbruk. Dette innebærer videre at Nkom må sikres nødvendig fagkompetanse på alle områdene som loven dekker. NTL legger til grunn at dette må medføre økt bevilgning til Nkom.

Høringsnotatet viser til på side 8 at dagens straffelovgivning og erstatningsrett er tekonologinøytral, men at KI introduserer flere nye problemstillinger, blant annet risiko for fabrikkering og forfalskning av bevis i sivil- og straffeprosessen. Dette er en bekymring som også må omfatte risiko for fabrikkering og forfalskning av revisjonsbevis eller dokumentasjon som framlegges i forbindelse med offentlig tilsyn. Det vil innebære nye utfordringer for alle offentlige tilsynsorganer, inkludert for Riksrevisjonen. Departementet bør sørge for at alle tilsynsmyndigheter med ansvar etter denne loven sette i stand til å vurdere kvalitet på dokumentasjon.

På side 11 i notatet spesifiseres det flere områder som er unntatt fra EUs KI-forordning Ett av disse områdene er forsknings-, test- eller utviklingsaktiviteter med hensyn til KI-systemer eller KI-modeller før de bringes i omsetning eller aktiviteter. Det er viktig at aktører som jobber med forskning-, test- eller utviklingsaktiviteter kjenner reglene og rammeverket slik at det nye KI-modeller eller KI-systemer ikke bryter med regelverket når de blir tatt i bruk. I det endelige lovforslaget bør departementet omtale hvordan det planlegger å forebygge lovbrudd gjennom informasjons- og opplæringstiltak knyttet til innholdet i den nye loven.

DFD skriver at Norge har et nasjonalt handlingsrom til å regulere om overtredelsesgebyr skal innføres for offentlige myndigheter. Verken forvaltningsloven eller straffeloven særbehandler offentlige myndigheter, men det er adgang til å regulere dette nærmere i særlovgivningen. Når offentlige myndigheter blir ilagt bøter, vil dette kunne gå på bekostning av disse myndigheters muligheter til å tilby offentlige tjenester til beste for befolkningen. Samtidig kan brudd på KI-lovgivningen få store konsekvenser for den enkelte. Det er derfor god grunn til at offentlige myndigheter skal kunne sanksjoneres, samtidig som det er viktig at utmålingen av gebyr har et særskilt sett av kriterier tilpasset offentlig virksomhet. Et kriterium bør være at gebyret ikke bør settes så høyt at det får konsekvenser for kvaliteten på offentlige tjenester. Tilsvarende bør gjelde for fastsettelse av tvangsmulkt.

Det bør videre framgå av lovproposisjonen hvordan klager på vedtak etter den nye loven skal saksbehandles.

Når det gjelder foreldelsesfrist er det naturlig at fristen for brudd på KI-loven samordnes med annet relevant lovverk, som personopplysningsloven.

DFD legger til grunn at KI-forordningen kan ha betydning for rettshåndhevende myndigheter på flere måter. Med rettshåndhevende myndigheter menes i denne sammenheng i hovedsak politiet, påtalemyndigheten, kriminalomsorgen og konfliktrådet. Det framkommer ingen vurdering av konsekvensene forordningen forventes å ha for offentlige tilsyns- og kontrollmyndigheter som kommer i tillegg til de nevnte myndighetene. Dette gjelder eksempelvis tilsynsmyndigheter med hjemmel til å ilegge overtredelsesgebyrer, tvangsmulkt eller iverksette andre sanksjoner. I endelig lovforslag bør det framgå en strategi for å avdekke forbudt KI-praksis innenfor de enkelte sektorene og en avklaring av sektormyndighetenes ansvar for å følge med på utviklingen innenfor egen sektor. En forutsetning for at lovgivningen har effekt, er at tilsyns- og kontrollmyndighetene settes i stand til å håndheve ny regulering. Dette forutsetter tilstrekkelig ressurser og kompetanse.

Departementet viser til at Norge allerede har et teknologinøytralt regelverk som forbyr en rekke KI-praksiser, og at KI-forordningens artikkel 5 vil bidra til å tydeliggjøre grensene (s. 17). Innenfor rammen av teknologinøytrale regelverk er det viktig at både rettshåndhevende myndigheter som nevnt i høringsnotatet og relevante tilsyns- og kontrollmyndigheter får anledning til å utvikle relevant kompetanse for å kunne overholde og håndheve regelverket, samt overvåke utviklingen. Dette forutsetter at relevante tilsyns- og kontrollmyndigheter får tilstrekkelig med ressurser.

Innenfor rammen av teknologinøytrale regelverk er det viktig at både rettshåndhevende myndigheter (som nevnt i høringsnotatet) og relevante tilsyns- og kontrollmyndigheter får anledning til å utvikle relevant kompetanse for å kunne overholde og håndheve regelverket, samt overvåke utviklingen. Dette forutsetter at relevante tilsyns- og kontrollmyndigheter får tilstrekkelig med ressurser. Erfaring fra utvikling av KI hos offentlige myndigheter i Norge (Riksrevisjonens undersøkelse av bruk av kunstig intelligens i staten, Dokument 3:18 2023-2024) viser at et suksesskriterium for utvikling av KI er en tilpasning av sektorregelverk som i varetar den konkrete avveiningen mellom nytte og personvern som EUs personvernforordning og personvernloven forutsetter dersom persondata skal benyttes til utvikling av KI. Dette innebærer at sektordepartementer med ansvar for relevante tilsyns- og kontrollmyndigheter må ta de initiativene som er nødvendig med hensyn til eksisterende særlovgivning.

DFD har besluttet at det skal opprettes en regulatorisk KI-sandkasse som skal være et samarbeid mellom Digitaliseringsdirektoratet (Digdir), Nkom og Datatilsynet. En regulatorisk sandkasse kan være et viktig virkemiddel for å fremme utvikling av nye teknologisk løsninger, og vi støtter dette forslaget. På bakgrunn av erfaringene med den eksisterende regulatoriske sandkassen hos Datatilsynet, er det imidlertid viktig at KI-Norge tilføres tilstrekkelig midler til at den nye sandkassen kan svare ut forventningene fra offentlige og private aktører.

Departementet viser til at KI-forordningen retter seg mot hele verdikjeden, og at samlebegrepet for de som har plikter etter forordningen er operatører. KI-loven bør stille krav til transparens om geografisk tilhørighet slik at det er mulig å fastslå hvor vidt operatører er omfattet av EØS-avtalen og dermed av KI-forordningen. Departementet bør videre vurdere å ta inn en hjemmel for eksportkontroll og nasjonal sikkerhetsvurdering ved bruk/import av KI-systemer. Departementet viser til at EØS-avtalen ikke gjelder for kontinentalsokkelen.

Departementet mener det på sikt vil være ønskelig å regulere også utenlandske skip og luftfartøy i norsk luftrom som opererer mer eller mindre autonomt ved hjelp av KI-systemer. Vi støtter at det inntas en forskriftshjemmel som gir mulighet til å regulere lovens anvendelse på disse territoriene.

NTL støtter at loven skal kunne gjelde også andre steder enn kun på fastlands-Norge. Det vil innebære at det kan være mulig å stoppe uønsket KI-aktivitet fra Svalbard, forutsett at loven håndheves.

Politiets bruk av KI i sitt arbeid forutsetter en klar lovhjemmel. Særlig gjelder dette inngripende teknologier, som biometrisk fjernidentifikasjon eller systemer for profilanalyse. Dette er avgjørende for å ivareta grunnleggende rettssikkerhetsprinsipper. Det er viktig at loven sikrer tilfredsstillende prosessuelle rettigheter og kontrollmekanismer ved bruk av KI i straffesaksbehandling, slik som krav om forhåndsgodkjenning, oversiktlige loggmekanismer og reelt klagevern for de som berøres.

Det bør komme tydeligere frem hvem som er ansvarlig klageorgan ved politiets bruk av KI-systemer og hvordan klager skal håndteres, spesielt for høyrisikosystemer. Det er positivt av KI-loven henviser til at dagens lover og legger begrensninger på politiets bruk av spesifikke KI-elementer/teknologier. Enkelte bestemmelser bør konkretiseres direkte i politiloven, politiregisterloven eller straffeprosessloven, særlig der KI-loven forutsetter slik hjemmel. KI-systemer med høy risiko i politier, bør underkastes strenge transparenskrav. De involverte og de som berøres må ha rett til å få innsyn i hvordan systemene påvirker beslutninger, i tråd med forordningen og det norske rettssystemets krav til åpenhet.

Et område som departementet ikke eksplisitt ber om tilbakemelding på, men som vi ønsker å kommentere, er forholdet til arbeidstakernes medbestemmelse. DFD viser til at det i artikkel 26 er fastsatt regler som gjelder informasjon om bruk av høyrisikosystemer på arbeidsplassen, plikt til registrering for offentlige myndigheters og EU-institusjoners idriftsetting av høyrisikosystemer samt gjennomføring av personvernkonsekvensutredninger.

I artikkel 26 7. står det at «Før et KI-system med høy risiko tas i bruk eller brukes på arbeidsplassen, skal idriftsettere som er arbeidsgivere, informere arbeidstakernes representanter og de berørte arbeidstakerne om at de vil bli gjenstand for bruk av KI-systemet med høy risiko. Denne informasjonen skal, dersom det er relevant, gis i samsvar med reglene og prosedyrene fastsatt i Unionens og nasjonal rett og praksis om informasjon til arbeidstakere og deres representanter».

I formålsparagrafen til HA heter det at «tillitsvalgte er viktige bidragsytere og skal involveres i utviklingsprosessen» i omtalen av informasjons- og kommunikasjonsteknologi og kunstig intelligens. HA er forøvrig teknologinøytral, i den forstand alle forhold som en av partene mener har betydning for de ansattes arbeidssituasjon, skal drøftes mellom partene dersom enten arbeidsgiver eller organisasjonene ved de tillitsvalgte krever det (HA § 18. punkt 2.). Dette innebærer at det også hviler et tungt ansvar på statlige myndigheter (som er omfattet av avtalen), at de tar initiativ til relevante drøftinger med de ansatte. Ved innføring av ny teknologi som KI hviler et spesielt ansvar på arbeidsgiversiden. Dette bør framgå av departementets endelige lovforslag.

En forutsetning for å kunne beskytte arbeidstakere mot KI-systemers negative innvirkning på arbeidstakerrettigheter, er at arbeidstakernes organisasjoner har kompetanse til å vurdere konsekvensene av beslutninger om å ta i bruk eller bruke KI-systemer. NTL mener at departementet som følge av dette lovarbeidet bør legge til rette for kompetanseheving gjennom informasjons- og opplæringstiltak om kunstig intelligens. Videre bør Arbeids- og inkluderingsdepartementet sørge for at arbeidstakernes rettigheter i forbindelse med arbeidsgivernes bruk av KI-systemer eksplisitt blir slått fast i arbeidsmiljølovgivningen og at Arbeidstilsynet sikres tilstrekkelig ressurser og kompetanse til å håndheve lovgivningen.

I offentlig sektor vil konsekvensene i hovedsak gjelde etablering av den nasjonale forvaltningsstrukturen med markedstilsynsmyndigheter, nasjonalt kontaktpunkt, regulatorisk sandkasse og nasjonal akkreditering.

DFD viser i høringsnotatet til at DFØ stiller spørsmål om det er realistisk å bygge spesialisert juridisk og teknisk KI-kompetanse i tilsynsvirksomhetene. Ifølge DFD nevner de også at det er stor usikkerhet med hensyn til omfang og antall aktører som kan blir gjenstand for tilsyn, og at det kan være en utfordring å få tak i spisskompetansen. En forutsetning for etterlevelse forordningen og håndhevelse av loven er at tilsynsmyndighetene får tilført tilstrekkelig med kompetanse og andre ressurser. Det er derfor positivt at DFD signaliserer en videre gjennomgang av dette, og NTL legger til grunn at en nærmere presisering av forventninger til eksisterende tilsynsmyndigheter framgår av den endelige lovproposisjonen.