A hasonló esetek listája szinte végtelen, hiszen az algoritmusok és automatizált döntési rendszerek átszövik az életünket. Kis túlzással mondhatjuk, hogy algoritmusok döntenek arról, alkalmasak vagyunk-e egy munkára, hitelképesek vagyunk-e, milyen betegségben szenvedünk, mit olvassunk, nézzünk, vásároljunk vagy együnk. Talán Ön is találkozott már azzal a Facebookon terjedő bejegyzéssel, amely szerint a Facebook algoritmusa rosszul szelektál, és nem azok az ismerősök jelennek meg a hírfolyamban, akiket szeretnénk látni. A bejegyzés arra buzdít, hogy osszuk meg a posztot, hogy „túljárjunk” az algoritmus eszén. Bár az állítás tartalmaz némi igazságot, miszerint az algoritmus bizonyos tevékenységek alapján szelektál, a megoldás közel sem ilyen egyszerű.
Mivel az emberek többsége kizárólag a közösségi médián keresztül tájékozódik, nem túlzás azt mondani, hogy a közösségi média azt is meghatározza, mit tekintünk valóságnak. Az így kreált valóságból pedig rendkívül nehéz kikerülni, hiszen a minket körülvevő algoritmusok folyamatosan megerősítik azokat a címkéket, amelyekkel meghatároznak minket.
Az algoritmusok rejtett torzításai – Az AI sötét oldala
„Az algoritmusok képesek minimalizálni az emberi gondolkodás szubjektív hibáit” – vallják sokan a technológia lelkes hívei. Ez az optimizmus azonban figyelmen kívül hagy egy fontos tényt: a mai adatgazdaságot irányító matematikai modelleket emberek alkotják, és az emberek hibázhatnak. Ráadásul ezek a modellek múltbeli adatokból tanulnak, amelyek gyakran rejtett torzításokat hordoznak. Ezeket a mintázatokat az algoritmusok később viselkedési előrejelzésekhez használják.
A HR-ben például a jelöltszűrő rendszerek alaplogikája gyakran ezen az elven működik: az adott pozícióban sikeres ember jellemzői – mint például iskolái, személyisége, stílusa – határozzák meg a siker definícióját és a szűrési paramétereket.
Ha a pozíciót több férfi tölti be, mint nő, könnyen előfordul, hogy a siker definíciója ezeken a proxy-kon keresztül válik diszkriminatívvá.
Jó példa erre az Amazon által 2014 és 2018 között alkalmazott jelöltszűrő algoritmus, amely nőkkel szemben bizonyult diszkriminatívnak, mivel a tanító adathalmazban a férfiak voltak felülreprezentálva. Ez a minta ismétlődött, számos tehetséges női jelölt kizárásával.
Derek Mobley perelte a Workday Inc.-et, azzal vádolva, hogy AI-alapú felvételi rendszere diszkriminálta őt faji, életkori és fogyatékossági alapon. Az ilyen rendszerek nemcsak a múltbéli torzításokat erősítik fel, hanem gyakran átláthatatlanok még a szakértők számára is. Egy diszkriminatív döntés esetén ráadásul gyakran nincs visszacsatolási vagy panaszlehetőség.
Az algoritmusok működési logikája általában aránytalanul sújtja a társadalom peremén élőket, kisebbségi csoportokat, miközben a kiváltságosokat tovább gazdagítja, ezzel fenntartva a rendszer- és társadalomszintű egyenlőtlenségeket. Míg néhány eset, mint a Kinect vagy a Zoom hibái, kisebb károkat okoz, mások, például a jelöltszűrő vagy diagnosztikai algoritmusok, súlyosabb problémákat eredményezhetnek.
Út a megbízható mesterséges intelligencia felé
Az algoritmusok vitathatatlanul óriási termelékenységnövekedést hozhatnak a HR-ben is. Ha azonban nem megfelelő emberi irányítással használjuk őket, teljesen alááshatják a DEIB (diversity, equity, inclusion and belonging) célkitűzéseket. A mesterséges intelligencia iránti bizalom kiépítése az algoritmikus előítéletek felismerésével és kezelésével kezdődik. Az alábbiakban összegyűjtöttük a felelős mesterséges intelligencia használat alapelveit, amelyek nagy része a 2024. augusztus 1-jén életbe lépett EU AI Act előírásainak is megfelel:
- 1. Átláthatóság és megmagyarázhatóság: Legyen világos, hol, mire alkalmazzák a mesterséges intelligenciát, milyen adatokra épül, hogyan gyűjtik és szűrik azokat.
- 2. Felelősség és irányítás: Egyértelmű felelősségi körök kialakítása, irányítási protokollok kidolgozása hibák kezelésére.
- 3. Méltányosság: Az AI rendszerek rendszeres ellenőrzése, hogy a különböző demográfiai csoportok számára méltányos eredményeket biztosítanak-e.
- 4. Sokszínűség és inklúzió: Sokszínű csapatok, akik a sokszínűségük révén jobban az esetleges torzításokat.
- 5. Felhasználói tudatosság: A tudatosság növelése a potenciális torzítások kapcsán.
- 6. Etikai irányelvek: Etikai kódex az elfogadható kockázatok meghatározására és kezelésére.
- 7. Folyamatos fejlesztés: Visszajelzések beépítése.
- 8. Szabályozási megfelelés: Az AI- és GDPR-előírásváltozások követése és a szabályozói megfelelés biztosítása.
- 9. Független szakértői vizsgálatok: Az algoritmusok kockázatainak és hatásainak rendszeres értékelése külső, független szakértő segítségével.
A DEIB stratégiákat alapos adatelemzésre kell alapozni akkor is, ha még csak tervezünk valamilyen AI-megoldást bevezetni. Az adatelemzés képes a rejtett előítéleteket is felszínre hozni. Az ördög ugyanis a részletekben rejlik, és ez az AI korában különösen kritikus.
Az alapos adatelemzés túlmutat egyszerű kérdőíveken vagy szervezetszintű pay gap elemzésen, hiszen a diszkrimináció gyökere jellemzően nem közvetlenül a nemi vagy faji megkülönböztetés, hanem a rejtett különbségek, amelyek mélyebben megbújó proxy-kon keresztül válnak diszkriminatívvá. Tipikus példa erre a gender pay gap, amely ha a felszínen jól is mutathat, a mélyebb elemzés rávilágít, hogy árnyaltabb kép.
A mesterséges intelligencia esetében hatalmas potenciál van a HR-ben is, de ha nem kezeljük tudatosan a torzításokat, fennáll a veszélye, hogy teljesen aláássa a DEIB célkitűzéseket. A megoldás a technológia és az emberi irányítás megfelelő ötvözésében rejlik. Csak így válhat az AI a valós fejlődés eszközévé.
A szerzőről: Kadocsa Fanni a Hybridge Consulting alapítója, amely budapesti székhelyű HR tanácsadó cégként támogatja a HR csapatokat az AI transzformáció során. Fanni okleveles AI auditor, szakterülete az adatelemzés, adatkezelés és a szabályozói megfelelés, különös tekintettel az EU AI Act előírásaira, amelyek 2026. augusztus 2-ig fokozatosan lépnek hatályba. Célja a HR csapatok támogatása a HR stratégia átalakításában, hogy azok megfeleljenek a mesterséges intelligencia kihívásainak. Jelenleg az ISO 42001 szabvány szerinti auditor képzésén vesz részt, és elkötelezetten dolgozik a felelős AI használatának elterjesztésén a HR területén. Rendszeres szerzője AI és HR témájú szakmai publikációknak, és elhivatottan segíti a HR vezetőket abban, hogy az AI lehetőségeit etikusan és szabályozott keretek között aknázzák ki. A Hybridge Consulting szolgáltatásai között szerepel a teljeskörű HR analitika, az AI rendszerek kockázatelemzése és a stratégiai munkaerő-tervezés.
