Innspill til implementering av KI-forordningen
Finansforbundet viser til Digitaliseringsdepartementets høring om ny lov om kunstig intelligens, gjennomføring av EUs KI-forordning i norsk rett.
Finansforbundet er det største fagforbundet i finansnæringen med mer enn 36.000 medlemmer. Vi er opptatt av å sikre gode og forutsigbare rammebetingelser for finansnæringen, og ivareta ansattes rettigheter.
Finansforbundet mener det er behov for et eget spor som omhandler arbeidsliv og ansattes personvern i møte med KI. Både et tilpasset lovverk og økt kompetanse er viktige elementer. Vi ser følgende tiltak som viktige ved implementering av KI-forordningen, og det videre arbeidet med ansvarlig kunstig intelligens:
Finansforbundet er det største fagforbundet i finansnæringen med mer enn 36.000 medlemmer. Vi er opptatt av å sikre gode og forutsigbare rammebetingelser for finansnæringen, og ivareta ansattes rettigheter.
Finansforbundet mener det er behov for et eget spor som omhandler arbeidsliv og ansattes personvern i møte med KI. Både et tilpasset lovverk og økt kompetanse er viktige elementer. Vi ser følgende tiltak som viktige ved implementering av KI-forordningen, og det videre arbeidet med ansvarlig kunstig intelligens:
Manglende regulering av KI i arbeidslivet
Regulering gjennom KI-forordningen er et viktig steg på veien, men det er ikke nok. Det er et stort behov for lovgivning som sikrer arbeidstakeres rettigheter når KI-systemer tas i bruk på arbeidsplassen.
Vi merker oss at departementet ikke foreslår endringer i lovverket om arbeidstakeres rettigheter i dette høringsnotatet, men henviser til at eventuelle behov for regelverksutvikling bør vurderes av Arbeids- og inkluderingsdepartementet. Vi ser det som positivt at departementet nevner dette. Vi vil benytte anledningen til å peke på behovet for at lovgivning som ivaretar arbeidstakeres rettigheter kommer på plass raskt. KI-systemer er allerede innført på mange arbeidsplasser. Disse systemene vil få storbetydning for tilgangen til arbeidsmarkedet og arbeidssituasjonen til de ansatte. Den foreslåtte KI-loven ivaretar ikke ansattes rettigheter i tilstrekkelig grad.
Selv om mange KI-systemer til bruk på arbeidsplassen klassifiseres som “høyrisiko” med tilhørende krav (jf. forordningen artikkel 6 nr. 2 jf. vedlegg III) vil som kjent ikke det gjelde alle. Vi viser til unntaksbestemmelsene i artikkel 6 nr. 3. Finansforbundet er bekymret for at KI-systemer som vurderes å være omfattet av unntaket i realiteten vil utgjøre høyrisiko for arbeidstakere. Forordningen tar blant annet ikke høyde for at en arbeidsgiver har flere enkeltstående KI-systemer som hver for seg ikke vil være “høyrisiko”, men som til sammen vil kunne utgjøre en betydelig risiko for arbeidstakernes grunnleggende rettigheter, helse eller sikkerhet, herunder ha vesentlig påvirkning på utfallet av en avgjørelse. En annen bekymring er at KI-systemer som fremstår som de har minimale konsekvenser, i realiteten vil kunne utvikle seg til inngripende verktøy. Eksempelvis kan systemer endre og utvikle seg etter implementering, eller bli brukt til andre formål enn det som opprinnelig var tenkt. Videre må det tas høyde for at også foravgjørelser som tas av arbeidsgiver eller leder, vil KI-systemer som tilrettelegger beslutningsgrunnlaget kunne ha avgjørende betydning.
Bruk av KI-systemer medfører store endringer blant annet i arbeidsmetodikk, arbeidsform, innsamling og bruk av data. Når arbeidsgivere tar i bruk kunstig intelligens eller algoritmer som ledelsesverktøy og beslutningsstøtte oppstår spørsmål som ikke er løst i gjeldende lovgivning eller KI-forordningen.
Finansforbundet vil fremheve viktigheten av at lovverket på arbeidsrettsområdet gjennomgås og tilpasses innføring og bruk av kunstig intelligens. Vi viser i den forbindelse til artikkel 2 nr. 11 hvor det fremgår at nasjonale myndigheter kan innføre lovgivning for å beskytte arbeidstakeres rettigheter i forbindelse med arbeidsgiveres bruk av KI-systemer.
Vi fremhever spesielt at informasjon og drøfting med tillitsvalgte ikke ivaretas godt nok gjennom KI-forordningen og gjeldende lovgivning. Dette bør dels reguleres gjennom tariffavtaler. Det er samtidig helt nødvendig å tilpasse dagens bestemmelser om drøfting i arbeidsmiljøloven til den nye arbeidshverdagen som KI-systemer er en integrert del av. Dette vil også bidra til forenkling av regelverket både for arbeidsgiver – og arbeidstakersiden.
Tilpasning av norsk lovgivning og styrking av arbeidstakeres rettigheter til drøfting og informasjon i møte med KI må komme i tillegg til, og i forkant av, eventuell ny lovgivning fra EU om KI og algoritmestyrt ledelse. Finansforbundet mener at myndighetene bør arbeide aktivt både nasjonalt og overfor EU for å sikre arbeidstakeres rettigheter i møte med algoritmestyrt ledelse og KI. Et slikt arbeid kan med fordel også gjøres som del av det pågående Nordiske samarbeidet om KI.
Det pågår for tiden en prosess der EU vurderer å utsette deler av KI-lovgivningen. Næringsaktører ønsker slik vi forstår det, en utsettelse grunnet manglende framdrift i standardiseringsarbeidet. Finansforbundet er bekymret for at man vil hensynta argumenter om utsettelse, og at man gjennom en slik prosess gjør endringer som svekker selve forordningen.
Ettersom KI-forordningen stiller krav om etablering av en regulatoriske sandkasser for KI, mener Finansforbundet det er hensiktsmessig å etablere egne sandkasseprosjekter rettet mot arbeidslivsfeltet. Feltet HR-tech er under rask utvikling, og dette må inn i mer kontrollerte former for å beskytte arbeidstakernes rettigheter, som den svake part. Prosjekter om arbeidsliv i sandkassen vil bidra til dette, gjennom at det bygges opp nødvendig kompetanse på KI og arbeidsliv. Datatilsynet og NTNUs prosjekt om «Copilot med personvernbrillene på» i regi av regulatorisk sandkasse for kunstig intelligens kan fungere som et godt eksempel.
Nyttige tema kan være å forstå KI brukt i forbindelse med rekruttering, overvåking og måling. Ikke minst vil slike prosjekter kunne avdekke behov for ytterligere regelverksutvikling og veiledning. Finansforbundet vil særlig fremheve behovet for formidling, slik at andre virksomheter kan hente læring fra prosjektene. Det er også sentralt at sandkasseprosjekter ikke domineres av arbeidsgiversiden, og at fagforeninger har sentrale roller. De regulatoriske sandkassene er et viktig virkemiddel for innovasjon. Samtidig må de ikke bli en trygg havn for testing av KI på ansatte uten tilstrekkelig medvirkning og transparens.
Finansforbundet støtter departementets vurdering når det gjelder Norsk ratifikasjon av Europarådets rammekonvensjon, og at Norge fullt ut oppfyller krav som konvensjonen stiller, ved vedtakelse av lovforslaget til KI-loven. Vi understreker behovet for internasjonalt samarbeid om ansvarlig KI. Konvensjonen er en viktig kanal for samarbeid utover EØS-området for å dele beste praksis, og håndtere utfordringer som krever bredere internasjonal koordinering.
Finansforbundet støtter departementets forslag om å fastsette hjemmel for å ilegge overtredelsesgebyr og tvangsmulkt. For å sikre at forordningen overholdes er det viktig å synliggjøre konsekvensen av brudd ved en egen hjemmel for overtredelsesgebyr i loven. Samtidig mener vi det er helt nødvendig at myndighetene har verktøy som tvangsmulkt for å sikre etterlevelse av ilagte pålegg.
Vi merker oss at departementet ikke foreslår endringer i lovverket om arbeidstakeres rettigheter i dette høringsnotatet, men henviser til at eventuelle behov for regelverksutvikling bør vurderes av Arbeids- og inkluderingsdepartementet. Vi ser det som positivt at departementet nevner dette. Vi vil benytte anledningen til å peke på behovet for at lovgivning som ivaretar arbeidstakeres rettigheter kommer på plass raskt. KI-systemer er allerede innført på mange arbeidsplasser. Disse systemene vil få storbetydning for tilgangen til arbeidsmarkedet og arbeidssituasjonen til de ansatte. Den foreslåtte KI-loven ivaretar ikke ansattes rettigheter i tilstrekkelig grad.
Selv om mange KI-systemer til bruk på arbeidsplassen klassifiseres som “høyrisiko” med tilhørende krav (jf. forordningen artikkel 6 nr. 2 jf. vedlegg III) vil som kjent ikke det gjelde alle. Vi viser til unntaksbestemmelsene i artikkel 6 nr. 3. Finansforbundet er bekymret for at KI-systemer som vurderes å være omfattet av unntaket i realiteten vil utgjøre høyrisiko for arbeidstakere. Forordningen tar blant annet ikke høyde for at en arbeidsgiver har flere enkeltstående KI-systemer som hver for seg ikke vil være “høyrisiko”, men som til sammen vil kunne utgjøre en betydelig risiko for arbeidstakernes grunnleggende rettigheter, helse eller sikkerhet, herunder ha vesentlig påvirkning på utfallet av en avgjørelse. En annen bekymring er at KI-systemer som fremstår som de har minimale konsekvenser, i realiteten vil kunne utvikle seg til inngripende verktøy. Eksempelvis kan systemer endre og utvikle seg etter implementering, eller bli brukt til andre formål enn det som opprinnelig var tenkt. Videre må det tas høyde for at også foravgjørelser som tas av arbeidsgiver eller leder, vil KI-systemer som tilrettelegger beslutningsgrunnlaget kunne ha avgjørende betydning.
Bruk av KI-systemer medfører store endringer blant annet i arbeidsmetodikk, arbeidsform, innsamling og bruk av data. Når arbeidsgivere tar i bruk kunstig intelligens eller algoritmer som ledelsesverktøy og beslutningsstøtte oppstår spørsmål som ikke er løst i gjeldende lovgivning eller KI-forordningen.
Finansforbundet vil fremheve viktigheten av at lovverket på arbeidsrettsområdet gjennomgås og tilpasses innføring og bruk av kunstig intelligens. Vi viser i den forbindelse til artikkel 2 nr. 11 hvor det fremgår at nasjonale myndigheter kan innføre lovgivning for å beskytte arbeidstakeres rettigheter i forbindelse med arbeidsgiveres bruk av KI-systemer.
Vi fremhever spesielt at informasjon og drøfting med tillitsvalgte ikke ivaretas godt nok gjennom KI-forordningen og gjeldende lovgivning. Dette bør dels reguleres gjennom tariffavtaler. Det er samtidig helt nødvendig å tilpasse dagens bestemmelser om drøfting i arbeidsmiljøloven til den nye arbeidshverdagen som KI-systemer er en integrert del av. Dette vil også bidra til forenkling av regelverket både for arbeidsgiver – og arbeidstakersiden.
Tilpasning av norsk lovgivning og styrking av arbeidstakeres rettigheter til drøfting og informasjon i møte med KI må komme i tillegg til, og i forkant av, eventuell ny lovgivning fra EU om KI og algoritmestyrt ledelse. Finansforbundet mener at myndighetene bør arbeide aktivt både nasjonalt og overfor EU for å sikre arbeidstakeres rettigheter i møte med algoritmestyrt ledelse og KI. Et slikt arbeid kan med fordel også gjøres som del av det pågående Nordiske samarbeidet om KI.
Det pågår for tiden en prosess der EU vurderer å utsette deler av KI-lovgivningen. Næringsaktører ønsker slik vi forstår det, en utsettelse grunnet manglende framdrift i standardiseringsarbeidet. Finansforbundet er bekymret for at man vil hensynta argumenter om utsettelse, og at man gjennom en slik prosess gjør endringer som svekker selve forordningen.
Ettersom KI-forordningen stiller krav om etablering av en regulatoriske sandkasser for KI, mener Finansforbundet det er hensiktsmessig å etablere egne sandkasseprosjekter rettet mot arbeidslivsfeltet. Feltet HR-tech er under rask utvikling, og dette må inn i mer kontrollerte former for å beskytte arbeidstakernes rettigheter, som den svake part. Prosjekter om arbeidsliv i sandkassen vil bidra til dette, gjennom at det bygges opp nødvendig kompetanse på KI og arbeidsliv. Datatilsynet og NTNUs prosjekt om «Copilot med personvernbrillene på» i regi av regulatorisk sandkasse for kunstig intelligens kan fungere som et godt eksempel.
Nyttige tema kan være å forstå KI brukt i forbindelse med rekruttering, overvåking og måling. Ikke minst vil slike prosjekter kunne avdekke behov for ytterligere regelverksutvikling og veiledning. Finansforbundet vil særlig fremheve behovet for formidling, slik at andre virksomheter kan hente læring fra prosjektene. Det er også sentralt at sandkasseprosjekter ikke domineres av arbeidsgiversiden, og at fagforeninger har sentrale roller. De regulatoriske sandkassene er et viktig virkemiddel for innovasjon. Samtidig må de ikke bli en trygg havn for testing av KI på ansatte uten tilstrekkelig medvirkning og transparens.
Finansforbundet støtter departementets vurdering når det gjelder Norsk ratifikasjon av Europarådets rammekonvensjon, og at Norge fullt ut oppfyller krav som konvensjonen stiller, ved vedtakelse av lovforslaget til KI-loven. Vi understreker behovet for internasjonalt samarbeid om ansvarlig KI. Konvensjonen er en viktig kanal for samarbeid utover EØS-området for å dele beste praksis, og håndtere utfordringer som krever bredere internasjonal koordinering.
Finansforbundet støtter departementets forslag om å fastsette hjemmel for å ilegge overtredelsesgebyr og tvangsmulkt. For å sikre at forordningen overholdes er det viktig å synliggjøre konsekvensen av brudd ved en egen hjemmel for overtredelsesgebyr i loven. Samtidig mener vi det er helt nødvendig at myndighetene har verktøy som tvangsmulkt for å sikre etterlevelse av ilagte pålegg.
Med vennlig hilsen
Vigdis Mathisen
Forbundsleder
Vigdis Mathisen
Forbundsleder