Så säkerställer du som chef ansvarsfull AI-användning – 4 konkreta tips

Säkrare, mer rättvis och ansvarsfull användning av AI. Det är syftet med EU-förordningen, AI Act, som trädde i kraft i augusti. Men vad betyder egentligen "ansvarsfull användning" Simployers juridiska expert, Arzu Kazimova Sel, går steg för steg igenom AI-förordningens betydelse och vad du som chef måste veta och göra nu.

👉 AI förändrar arbetslivet i snabb takt och bidrar till effektivare rekrytering och beslutsstöd för chefer. Oavsett om ditt företag utvecklar en egen AI-lösning, använder en befintlig tjänst eller outsourcar AI-tjänster, så är det avgörande att den följer gällande regler. Inte minst EU:s AI-förordning (AI Act), som trädde i kraft den 1 augusti 2024.

1. Vad innebär AI-förordningen för HR?

Syftet med AI-förordningen är att säkerställa en säkrare, mer rättvis och ansvarsfull användning av AI inom EU. Den reglerar bland annat hur AI får utvecklas och användas för att:

➡️ skydda grundläggande rättigheter...

➡️ skapa enhetliga regler inom EU...

➡️ främja innovation och konkurrenskraft...

➡️ säkerställa transparens i användningen.

2. Vem påverkas av AI-förordningen?

Förordningen gäller alla som utvecklar, tillhandahåller eller använder AI-system inom privat och offentlig sektor. HR och chefer som använder AI för rekrytering, personalutvärdering eller arbetsledning kommer därför att direkt omfattas av den.

3. När börjar AI-förordningen att gälla?

AI-förordningen trädde i kraft den 1 augusti 2024, men bestämmelserna kommer att börja gälla stegvis.

• Den 2 februari 2025 började bestämmelsen om förbud av vissa AI-system att gälla, exempelvis biometrisk fjärridentifiering i brottsbekämpande syfte (med några undantag).
• Den 2 augusti 2026 kommer de flesta andra bestämmelser att börja gälla, inklusive AI-system med hög risk.

4. Vad innebär "AI-system med hög risk"?

För AI-system som klassas som hög risk, exempelvis de som används vid rekrytering, ställs särskilda krav på både leverantörer och tillhandahållare (exempelvis företag):

1. Leverantörer (de som utvecklar AI-systemet) måste säkerställa att systemet uppfyller krav på riskhantering, teknisk dokumentation och cybersäkerhet.

2. Tillhandahållare (företag som använder AI) har ansvar för att:

• följa bruksanvisningen och förstå AI-systemets funktion...
• informera berörda arbetstagare och fackförbund innan AI-systemet tas i bruk...
• säkerställa transparens och att AI-beslut kan granskas och ifrågasättas.

För HR innebär det att AI inte kan implementeras utan klar insyn och tydliga rutiner.

Amazon-fallet – när AI-rekryteringen gick snett

👉 Många företag använder sig av AI i sina rekryteringsprocesser, bland annat för att granska stora mängder ansökningar och CV:n. Syftet med det är att göra urvalsprocessen snabbare och mer objektiv. Men det finns risker. Amazon-fallet är ett bra exempel på detta.

Amazon utvecklade år 2018 ett eget AI-system för att effektivisera sin rekryteringsprocess. Med AI skulle man granska och rangordna kandidater. Systemet tränades på historisk rekryteringsdata, men eftersom majoriteten av de tidigare anställda var män, lärde sig AI:n att favorisera manliga kandidater och därmed att omedvetet diskriminera kvinnor. Amazon blev tvungen att skrota sitt AI-verktyg som de under flera års tid hade utvecklat.

ℹ️ Det här belyser vikten av att som företag säkerställa att AI tränas på opartisk data, som återspeglar mångfald och inte reproducerar snedvridna mönster. Och att besluten alltid granskas av människor. 

🔗 Läs också: Då är AI chefens bästa vän 👈

4 tips till dig som är chef

👉 AI används idag inte bara vid rekrytering, utan även i andra HR-processer, såsom bedömning av medarbetarnas prestation, kvaliteten på utförda arbetsuppgifter och leveransen av deadlines. Det kan fungera som stöd och hjälpa chefer att flagga för när individer inte når upp till målen. Men det är också viktigt att förstå hur AI gör den bedömningen och hur AI kommer till de slutsatserna. Har AI baserat sina slutsatser på rätt faktorer? Här är 4 tips att börja arbeta med direkt:

1. Ifrågasätt AI:s bedömning
   Som chef måste man ifrågasätta AI:s bedömning särskilt i fall då AI:s bedömning kan komma att ligga till grund för skriftliga varningar, arbetsgivarens beslut att omplacera och eventuellt säga upp en anställd på grund av undermåliga prestationer. 
2. Använd AI som stöd – inte som ersättning
   AI är en möjliggörare och ska användas som ett stöd. Inte som ersättning av mänskligt ledarskap eftersom den saknar förståelse för mänskliga relationer, arbetsplatskultur och individuella omständigheter.
3. Säkerställ att era AI-lösningar följer lagkraven
   Även om de flesta bestämmelserna i AI-förordningen börjar gälla den 2 augusti 2026, är det viktigt att ert företag redan nu säkerställer att er AI-lösningar följer lagkraven.
4. Träna AI på opartisk data
   AI kan skapa effektivare HR-processer, ge värdefulla insikter och minska administrativ börda. Men var medveten om att AI inte alltid är felfritt. Detta eftersom det beror på hur AI-systemet har utvecklats och vilken data den har tränats på. AI fattar inte självständiga beslut, utan analyserar tidigare data och använder algoritmer för att identifiera mönster och göra förutsägelser. Om datan innehåller bias eller snedvridningar, kommer AI:n att återspegla och förstärka dessa mönster. För att AI ska fungera rättvist måste den tränas på varierad och opartisk data, där snedvridningar identifieras och justeras innan systemet implementeras.

🔗 Upptäck alla fördelar med Simployer AI 👈