Hogyan kategorizálja az EU AI Act a mesterséges intelligencia rendszereket?

A mesterséges intelligencia használata mára a legtöbb területen már fellelhető valamilyen formában, így a HR-szektorban is egyre nagyobb jelentőséget kap, különösen a toborzás és kiválasztás területén. Az AI Act szabályainak való megfelelés érdekében ellenőrizni kell, hogy az AI-rendszer melyik kockázati csoportba tartozik és ezáltal munkáltatónak, illetve a külsős HR-es cégnek milyen kötelezettségeknek kell megfelelnie. Az AI Act szabályozási struktúrája kockázatalapú megközelítést követ, négy kategóriába sorolja az AI rendszereket, modelleket az alapján, hogy azok milyen hatással lehetnek a társadalomra és az alapvető emberi jogokra. Ez alapján megkülönböztet elfogadhatatlan, nagy, korlátozott és minimális kockázatú AI-t. 

Milyen szabályozást követ az EU AI Act a munkahelyi érzelemfelismerő rendszerek használatával kapcsolatban, avagy a HR-szektor és az „elfogadhatatlan kockázatú” AI?

A HR-ágazatban a legnagyobb veszélyt az „elfogadhatatlan kockázatú” AI gyakorlatok jelentik – hangsúlyozta Dr. Szabó Gergely Gábor. Ezek az EU értékeivel ellentétesek és használatuk tilos. Az AI Act alapján a legmagasabb kockázati csoportba tartoznak azok az AI-rendszerek, amelyek a munkahelyi környezetben érzelmekre következtetnek. Az érzelemfelismerő rendszerek használata során a mesterséges intelligencia az ember biometrikus adataiból képes következtetni például a munkavállaló elégedettségi szintjére, mentális állapotára. Elég lehet tehát akár egy mozdulat, egy rosszalló mosoly, vagy akár az emberi hang egyes jellemzői is, például suttogás és az AI máris értékes következtetéseket tesz a munkáltató számára. Az érzelemfelismerő rendszerek ilyen jellegű munkahelyi használatát az AI Act egyértelműen tiltja és 2025. február 2.-től komoly következményeket helyez kilátásba. 

Az AI Act megsértése súlyos bírságot von maga után, melynek maximális összege akár 35 millió Euró, vagy a vállalkozás éves forgalmának 7 százaléka lehet, attól függően, hogy melyik súlyosabb. Vannak azonban olyan kivételes helyzetek, melyek esetében a munkahelyi érzelemfelismerő rendszerek használata mégsem válik tiltottá. Egy biztonsági vagy orvosi okból telepített, vagy forgalomba hozott munkahelyi környezetben használt AI, mely pl. balesetek megelőzése érdekében felismeri a fáradtságot tehergépkocsi-vezetők esetében olyan kivétel, melynek használata az AI Act alapján is engedélyezett. Fontos, hogy bár az ilyen rendszerek használata nem tiltott, de „nagy kockázatú” AI-rendszerek kategóriájába tartoznak, így a „nagy kockázatú” mesterséges intelligenciára vonatkozó szabályok irányadóak rájuk.

Hogyan szabályozza az AI Act a „nagy kockázatú” mesterséges intelligencia rendszereket a HR-ágazatban?

A foglalkoztatással kapcsolatos „nagy kockázatú” kategória hatálya alá tartozó tevékenységek várhatóan igencsak széles körben érintik majd a HR-ágazatot és a munkáltatókat. Ezek jelentős veszélyt jelentenek a természetes személyek egészségére, biztonságára vagy alapvető jogaira, és bár az AI Act nem tiltja, használatukat szigorú követelmények betartásához köti. 

– emelte ki a szakértő.

Ebbe a kategóriába tartoznak – a foglalkoztatással és a munkavállalók irányításával összefüggésben – a toborzásra vagy kiválasztására szánt AI-rendszerek, a munkaviszonyt érintő döntések meghozatalára használt AI, valamint számos olyan funkció, mint az előléptetés, felmondás vagy a teljesítmény értékelése. Épp ezért 

– emelte ki a szakember. 

A HR-ágazatban használt AI-rendszerekkel kapcsolatos követelmények célja az átlátható, megkülönböztetésmentes és méltányos működés biztosítása. A vonatkozó kötelezettségek a teljesség igénye nélkül a következők:

1) Toborzás és kiválasztás
 

• Tájékoztatási kötelezettség: A munkáltatónak, illetve a külsős HR cégnek értesítenie kell az adott pozícióra jelentkezőket, hogy esetükben AI-rendszert alkalmaz az állásinterjúk vagy önéletrajzok értékelésére. A jelölteknek továbbá joguk van megismerni, hogy milyen adatokat és hogyan dolgozott fel az AI a kiválasztás során.
• Adatminőség: Az AI-rendszer által használt adatoknak relevánsnak és kellően reprezentatívnak kell lennie a modell rendeltetése szempontjából. Az adatok rendszeres felülvizsgálata elengedhetetlen az esetleges torzítások elkerülése végett, azért, hogy eredményesen biztosítható legyen a diszkriminációmentesség és megelőzhető legyen a téves döntéshozatal.
• Diszkriminációmentesség: A munkáltatónak, illetve a külsős HR cégnek gondoskodnia kell arról, hogy az AI-ban alkalmazott algoritmusok ne erősítsék a hátrányos megkülönböztetést, ne tartalmazzanak előítéleteket valamely védett tulajdonság (nem, etnikum, kor stb.) alapján.
• Emberi felügyelet: A munkáltatónak, illetve a külsős HR cégnek hatékonyan kell biztosítania az általa alkalmazott AI-rendszerek emberi felügyeletét, úgy, hogy a hozzá értő, kellő szakértelemmel rendelkező személy képes legyen többek között figyelemmel kísérni az AI működését, illetve dönteni a rendszer használatának mellőzéséről, vagy kimenetének figyelmen kívül hagyásáról.

2) Munkavállaló értékelése
 

• Tájékoztatási kötelezettség: A munkavállalót, az értékelése során is tájékoztatni kell arról, ha a teljesítményének felméréséhez AI-rendszert vesznek igénybe és arról is, hogy az értékelés során az AI milyen adatokat és hogyan dolgozott fel, illetve milyen szempontokat vett figyelembe.
• Emberi felügyelet: Ahogy a toborzás és kiválasztás során is, úgy a munkavállaló értékelése során is biztosítani kell a hatékony emberi felügyeletet a kockázatok csökkentésének érdekében.
• Adatvédelem: Az értékelés során AI által felhasznált adatoknak meg kel felelnie a hatályos adatvédelmi szabályoknak.

3) Munkaviszonyt érintő döntések meghozatala, a felmondás
 

• Tájékoztatási kötelezettség: Amennyiben a munkaviszonyra vonatkozó döntés, pl. előléptetés, vagy felmondás elhatározására AI-rendszer közreműködésével került sor, a munkáltatónak tájékoztatnia kell az érintettet arról, hogy a döntés meghozatala során AI-t használtak és arról is, hogy az hogyan, milyen szempontok alapján segítette a döntéshozatalt. A munkavállalót tájékoztatni kell továbbá a döntés indokairól és a mögötte húzódó folyamatokról.
• Diszkriminációmentesség: A munkáltatónak biztosítania kell a munkaviszony érintő döntések során, hogy az AI-rendszerek kerüljék a nem, kor, etnikum vagy egyéb védett tulajdonság alapján történő hátrányos megkülönböztetést. Azzal, hogy az alkalmazott AI nem válik a megkülönböztetés forrásává, a munkáltató fontos lepést tehet az egyenlő bánásmód eredményes biztosításának irányába.

A fent leírtakon felül általános követelményként fogalmazható meg még az AI-rendszerek használati utasításoknak megfelelő alkalmazása, az átlátható működéshez szükséges technikai feltételek megteremtése, szolgáltató tájékoztatása az AI használata során észlelt hibákról, incidensekről, valamint az AI-rendszer által automatikusan generált naplók megőrzése legalább 6 hónapig, kivéve, ha az uniós vagy nemzeti jog ettől eltérően nem rendelkezik.