EU & arbetsrätt 2 2024

Arbetstagare ska skyddas mot risker med AI-system för rekrytering och arbetsrelaterade beslut

• EU-länderna har nu slutligt antagit förordningen om artificiell intelligens (AI). Förordningens syfte är att säkerställa respekten för EUmedborgarnas grundläggande rättigheter samtidigt som investeringar och innovation inom AI stimuleras. Förordningen reglerar i huvudsak förpliktelser för olika aktörer som ansvarar för AI-systemen. Om förpliktelserna uppfylls kommer arbetstagare att få ett ökat skydd mot risker kopplade till arbetsgivares användning av AI för rekrytering, arbetsledning med mera.

Regelverket är baserat på ett riskklassificeringssystem. Vissa typer av användning anses innebära en så pass hög risk att användningen är otillåten. AI-system som används för arbetsgivarfunktioner är tillåtna, men klassas som högrisk. Två användningsområden för arbetsgivare nämns i förordningen. Det första är rekrytering. Det andra är AI-system som används för att fatta beslut som påverkar villkoren för arbetsrelaterade förhållanden.

För att få släppa ut system för användningsområden som anses förenade med hög risk på marknaden måste leverantörerna uppfylla vissa krav. Bland annat ställs krav på ett riskhanteringssystem, kvaliteten på dataanvändning, teknisk dokumentation, loggning och tillräcklig transparens och information till dem som ska använda systemen. Systemen ska även utformas så att de möjliggör mänsklig kontroll vilket bland annat innebär att en fysisk person ska kunna ingripa i driften av systemet. Ansvaret för att uppfylla dessa krav ligger på leverantören av systemet. Vad gäller de högrisksystem som används för arbetsgivarfunktioner finns ingen tredjepartskontroll av om AI-systemet uppfyller kraven. Det är alltså leverantören som ansvarar för att rapportera till övervakande myndigheter att kraven bedöms vara uppfyllda.

De arbetsgivare som använder sig av AI-system för rekrytering och arbetsledning etc kommer att vara ”tillhandahållare” enligt AI-förordningen och omfattas av krav som ställs på dessa. Dit hör bland annat följande: Lämpliga tekniska och organisatoriska åtgärder ska vidtas för att säkerställa att systemen används i enlighet med bruksanvisning. Fysiska personer som har tillräcklig kompetens, utbildning och nödvändigt stöd ska tilldelas ansvaret för att utöva mänsklig kontroll över systemet. I den mån arbetsgivaren kontrollerar de data som används av systemet ska den säkerställa att data är relevanta och representativa i förhållande till det avsedda ändamålet. Om risker vid användningen av systemet upptäcks ska dessa meddelas till kontrollerande myndigheter. Loggar ska sparas. I tillämpliga fall ska en konsekvensbedömning av datahanteringen göras i enlighet med reglerna i dataskyddsförordningen GDPR. Arbetstagarrepresentanter och berörda arbetstagare ska informeras om att de kommer att vara föremål för användning av systemet.

Under vissa förutsättningar kommer de krav som ställs på leverantörer av AI-systemen att övergå på arbetsgivaren. Detta sker om arbetsgivaren sätter sitt namn eller varumärke på systemet, om den gör en väsentlig förändring av systemet eller ändrar det avsedda ändamålet för systemet.

Förordningen ger enskilda möjlighet att utverka ansvar för felaktig användning av AI-system genom att klaga till en kontrollmyndighet. Förordningen innehåller även en rätt till förklaring av beslutsfattande i individuella fall. Det innebär att alla som berörs av beslut av en tillhandahållare, exempelvis en arbetsgivare, på grundval av data från ett AI-system med hög risk har rätt att få en förklaring till vilken roll AI-systemet spelat för beslutet och de viktigaste delarna av detta. Det gäller förutsatt att beslutet har rättslig verkan eller i övrigt har lika ingripande och negativa effekter på personen.

AI-förordningen påverkar inte det dataskydd som finns i dataskyddsförordningen GDPR. Inte heller påverkar den reglerna i det nyligen antagna plattformsdirektivet (se EU & arbetsrätt nr 1/2024 s. 1). Avslutningsvis kan nämnas att AI-förordningen inte hindrar att medlemsstaterna har regler som är förmånligare för arbetstagare när det gäller användning av AI-system i arbetsgivarfunktioner. Det är även möjligt att sluta kollektivavtal om sådana lösningar. Undantaget tillkom efter kritik mot tidigare versioner av texten. Kritiken gick ut på att AI-förordningen riskerade att lägga ett tak för arbetstagares rättigheter snarare än ett golv.

Sonia Bastigkeit Ericstam doktorand,
Stockholms universitet

Europaparlamentets och rådets förordning om harmoniserade regler för artificiell intelligens. Ännu ej publicerad i EU:s officiella tidning