MI personāla vadībā: 4. panta atbilstība cilvēku komandām
4. pants nesaka "IT nodaļas". Tas nesaka "juridiskās komandas". Tas saka — ikviens, kas nodarbojas ar MI sistēmu darbību un lietošanu. Lielākajā daļā organizāciju šis apraksts attiecas uz personāla nodaļu vairāk nekā uz jebkuru citu funkciju.
Kad ES MI regulas 4. pants kļuva izpildāms 2025. gada 2. februārī, lielākā daļa atbilstības sarunu koncentrējās uz juridiskajām nodaļām un IT pārvaldību. Šis fokuss izlaida acīmredzamo: personāla nodaļas ir starp visproduktvākajiem MI sistēmu izvietotājiem jebkurā modernā organizācijā. Tās izmanto MI, lai atlasītu kandidātus, analizētu darbinieku veiktspēju, ieteiktu mācību ceļus, prognozētu mainību un automatizētu darbaspēka plānošanu. Katra no šīm lietojumprogrammām aktivizē 4. panta pratības mandātu — un vairākas ietilpst tieši ES MI regulas augsta riska klasifikācijā.
Ja jūsu personāla funkcija vēl nav iesaistīta 4. panta plānošanā, jums ir plaisa, kas paplašinās ar katru MI papildinātu lēmumu, ko pieņem jūsu personāla komanda.
Personāla nodaļa kā MI izvietotājs: tvēruma problēma
- pants prasa, lai "MI sistēmu izvietotāji veiktu pasākumus, lai, cik vien iespējams, nodrošinātu pietiekamu MI pratības līmeni saviem darbiniekiem un citām personām, kas nodarbojas ar MI sistēmu darbību un lietošanu viņu vārdā." Teksts ir tehnoloģiski neitrāls un funkcionāli neitrāls. Tas attiecas visur, kur darbojas MI sistēmas.
Apsveriet MI sistēmas, ko tipiska vidēja lieluma Eiropas personāla nodaļa šobrīd darbina:
Personāla atlase un atlase. Tādas platformas kā HireVue izmanto MI, lai novērtētu video intervijas, vērtējot kandidātus pēc verbālām un neverbālām norādēm. Harver (iepriekš Pymetrics) izmanto neirozinātņu spēles ar MI vadītiem atbilstības algoritmiem. Eightfold AI izmanto dziļo mācīšanos, lai saskaistītu kandidātu profilus ar amatu prasībām. Katra no šīm ir MI sistēma regulas izpratnē, un personāla speciālisti, kas tās konfigurē un interpretē to rezultātus, ir izvietotāji.
Veiktspējas analītika. Rīki, kas apkopo produktivitātes datus, atzīmē iesaistes krituma modeļus vai iesaka attīstības darbības, izmanto mašīnmācīšanās modeļus, ar kuriem personāla darbinieki ikdienā mijiedarbojas.
Mācīšanās un attīstība. MI vadītas platformas, kas personalizē apmācības ieteikumus, novērtē prasmju trūkumus vai prognozē karjeras trajektorijas, kvalificējas. Ironija ir bagāta: MI sistēma, kas iesaka jūsu apmācības programmu, pati ir pakļauta pratības mandātam.
Darbaspēka plānošana. Prognozēšanas modeļi mainībai, personāla skaita prognozēšanai un iekšējai mobilitātei izmanto MI veidos, par kuriem lielākā daļa personāla speciālistu apzinās, bet reti saprot mehāniski.
Personāla funkcija ne tikai "lieto" šos rīkus. Tā tos konfigurē, interpretē to rezultātus un rīkojas pēc to ieteikumiem veidos, kas tieši ietekmē cilvēku nodarbinātību un iztikas līdzekļus.
Kāpēc personāla jomai ir īpaša regulatīvā uzmanība
ES MI regula neizturas pret visām MI sistēmām vienādi. III pielikums nosaka atsevišķas kategorijas kā augsta riska, pakļaujot tās pastiprināiem pienākumiem, tostarp atbilstības novērtējumiem, cilvēka pārraudzības prasībām un detalizētai dokumentācijai. Nodarbinātības un darbaspēka vadības MI ir tieši minēts III pielikuma 4. sadaļā:
MI sistēmas, kas paredzētas izmantošanai fizisko personu pieņemšanai darbā vai atlasei, jo īpaši mērķētu darba sludinājumu izvietošanai, darba pieteikumu analīzei un filtrēšanai un kandidātu novērtēšanai ... MI sistēmas, kas paredzētas izmantošanai lēmumu pieņemšanai, kas ietekmē darba attiecību noteikumus, paaugstināšanu vai darba attiecību izbeigšanu.
Tas nav maznozīmīgs pieminējums. Nodarbinātības MI ir starp regulas galvenajām regulatīvajām prioritātēm, novietots līdzās biometriskai identifikācijai, kritiskai infrastruktūrai un tiesībaizsardzībai. Praktiskā implikācija: personāla komandas, kas izvietot personāla atlases MI, saskaras ne tikai ar 4. panta pratības pienākumiem, bet ar pilnu regulas augsta riska ietvara svaru.
Papildus VDAR 22. pants jau aizliedz lēmumus, kas balstīti vienīgi uz automatizētu apstrādi un rada tiesiskas sekas vai līdzīgi nozīmīgas sekas attiecībā uz personu — un nodarbinātības lēmumi ir starp skaidrākajiem piemēriem. Personāla speciālists, kas nespēj izskaidrot, kā MI atlases rīks nonāca pie sava ieteikuma, ne tikai neatbilst 4. pantam — viņš var veicināt VDAR pārkāpumu.
Ko nozīmē "pietiekama MI pratība" personāla jomai
- panta "pietiekama līmeņa" standarts ir apzināti kontekstuāls. Personāla speciālistiem pietiekamībai jāņem vērā konkrētās sistēmas, ko viņi izvietot, nodarbinātības lēmumu jutīgums un gan MI regulas, gan VDAR regulatīvais slānis. Praksē tas nozīmē vairākas konkrētas spējas.
Sistēmas mehānikas izpratne funkcionālā līmenī. Personāla speciālistam, kas lieto Eightfold AI kandidātu atbilstības meklēšanai, nav jāsaprot transformeru arhitektūras. Viņam jāsaprot, ka sistēma mācās no vēsturiskajiem pieņemšanas datiem, ka šie dati var iekodēt iepriekšējos aizspriedumus un ka atbilstības vērtējumi ir varbūtīgi, nevis determinēti.
Aizspriedumu vektoru atpazīšana. Eiropas Komisijas Augsta līmeņa ekspertu grupa MI jautājumos ir konsekventi norādījusi uz personāla atlases MI kā galveno aizspriedumu problēmu. Personāla komandām jāsaprot, kā apmācības dati, starpniekpazīmes un atgriezeniskās saites cilpas var ieviest vai pastiprināt diskrimināciju — ne kā abstrakti jēdzieni, bet kā praktiski riski rīkos, ko viņi lieto ikdienā.
Rezultātu kritiska izvērtēšana. Kad atlases rīks iesaka noraidīt 200 no 300 pretendentiem, personāla speciālists ar pietiekamu pratību jautā: kādi kritēriji vadīja filtrēšanu? Vai kādas aizsargātās pazīmes korelēja ar noraidīšanu? Vai noraidīšanas rādītājs atšķiras demogrāfisko grupu griezumā? Bez šīs spējas rīka rezultāts kļūst par neapstrīdamu melno kasti.
Jēgpilnas cilvēka pārraudzības nodrošināšana. MI regulas augsta riska ietvars prasa jēgpilnu cilvēka pārraudzību, nevis zīmogu likšanu. Personāla jomai tas nozīmē spēju pārrakstīt MI ieteikumus, zināšanas par to, kad pārrakstīšana ir atbilstoša, un dokumentēšanas praksi, kas demonstrē, ka cilvēka spriedums patiešām tika izmantots.
Lēmumu izskaidrošana ietekmētajām personām. VDAR caurskatāmības prasības kopā ar MI regulas noteikumiem nozīmē, ka kandidātiem un darbiniekiem ir tiesības saprast, kā tika pieņemti MI ietekmēti lēmumi. Personāla darbiniekiem jāspēj sniegt šos paskaidrojumus — kas prasa pietiekamu sistēmu izpratni, lai tās izskaidrotu.
Praktiskā plaisa: kur lielākā daļa personāla komandu atrodas šodien
Lielākā daļa personāla nodaļu ieviesa MI rīkus caur piegādātāju iepirkuma procesiem, kas uzsvēra funkcionalitāti, integrāciju un izmaksas. Piegādātāja apmācība fokusējās uz to, kā lietot rīka saskarni, nevis uz MI sistēmas ierobežojumu, aizspriedumu risku vai regulatīvo implikāciju izpratni.
2024. gada CIPD aptauja (Chartered Institute of Personnel and Development) konstatēja, ka, lai gan 45% personāla funkciju ziņoja par MI rīku lietošanu, tikai 18% bija kāda formāla apmācība MI pārvaldībā. Mercer pētījums no tā paša perioda konstatēja, ka 67% personāla vadītāju jutās "nesagatavoti" novērtēt MI rīkus, ko viņu nodaļas jau bija ieviesušas.
Šī plaisa nav hipotētiska. 2023. gadā ASV Vienlīdzīgu nodarbinātības iespēju komisija panāca izlīgumu pirmajā MI diskriminācijas lietā pret iTutorGroup, kas izmantoja MI personāla atlases programmatūru, kura automātiski noraidīja sieviešu pretendentes virs 55 un vīriešu pretendentus virs 60 gadiem. Personāla komanda, kas lietoja rīku, nesaprata tā filtrēšanas loģiku — mācību grāmatas piemērs tam, kā nepietiekama MI pratība ved pie diskriminējošiem rezultātiem.
Pieci soļi personāla 4. panta atbilstībai
1. Inventarizējiet savas MI sistēmas. Kartējiet katru rīku savā personāla tehnoloģiju kopumā, kas izmanto MI vai mašīnmācīšanos. Iekļaujiet personāla atlases platformas, veiktspējas rīkus, mācību sistēmas un darbaspēka analītiku. Daudzas personāla komandas atklāj, ka izvietot vairāk MI, nekā apzinājās.
2. Klasificējiet riska līmeņus. Salīdziniet savu inventāru ar MI regulas III pielikuma kategorijām. Jebkura sistēma, kas iesaistīta personāla atlasē, veiktspējas novērtēšanā vai nodarbinātības lēmumos, visticamāk ir augsta riska, aktivizējot pastiprinātus pienākumus ārpus pamatpratības.
3. Novērtējiet pašreizējo pratību. Izvērtējiet savas personāla komandas izpratni par katru MI sistēmu, ko tā lieto. Vai viņi var funkcionālā līmenī izskaidrot, kā sistēma ražo savus rezultātus? Vai viņi var identificēt potenciālos aizspriedumu vektorus? Vai viņi var formulēt sistēmas ierobežojumus? Trūkumi šajās spējās ir 4. panta atbilstības trūkumi.
4. Veidojiet lomai specifisku apmācību. Vispārīga MI izpratnes apmācība neapmierina 4. panta kontekstuālo standartu. Personāla speciālistiem nepieciešama apmācība, kas specifiska MI sistēmām, ko viņi izvietot, nodarbinātības lēmumiem, ko šīs sistēmas ietekmē, un VDAR un MI regulas pienākumiem, kas piemērojami.
5. Dokumentējiet visu. 4. pants prasa demonstrējamas pūles ("veikt pasākumus"). Uzturiet ierakstus par savu MI inventāru, risku novērtējumiem, apmācību programmām, apmeklējumu un kompetences vērtējumiem. Kad regulatori jautās, kā jūs nodrošinājāt pietiekamu pratību, dokumentācija ir jūsu pierādījums.
Krustpunkts, par kuru neviens nerunā
- panta atbilstība parasti tiek formulēta kā apmācības pienākums. Personāla jomai tā ir kaut kas fundamentālāks: cilvēki, kas atbild par organizācijas apmācības programmu izstrādi un nodrošināšanu, paši ir pakļauti pratības mandātam, kuru viņi, iespējams, vēl neizpilda.
Tas rada rekursīvu izaicinājumu. Personāla nodaļai jāveido organizācijas mēroga MI pratība, lai apmierinātu 4. pantu — bet pašai personāla nodaļai vajadzīga MI pratība, lai veidotu efektīvas programmas. Funkcija, kas atbild par atbilstību, vienlaikus ir atbilstības subjekts.
Organizācijas, kas atpazīst šo duālo lomu un agri investē personāla MI pratībā, iegūs strukturālu priekšrocību. To atbilstības programmas veidos cilvēki, kas patiesi saprot sistēmas, riskus un regulatīvās prasības — nevis cilvēki, kas atzīmē izvēles rūtiņas, ko pilnībā nesaprot.
Sources
-
EU AI Act — Regulation (EU) 2024/1689, Article 4 and Annex III (2024): The full text of the AI literacy mandate and high-risk AI classification for employment and workforce management. eur-lex.europa.eu
-
GDPR — Article 22, Automated Decision-Making (2016): Prohibition of decisions based solely on automated processing that produce legal effects or similarly significant effects. gdpr-info.eu
-
CIPD — "Quantifying the Impact of Generative AI" (2024): Survey finding 45% of HR functions use AI tools but only 18% have formal AI governance training. cipd.org
-
Mercer — "Global Talent Trends" (2024): Study finding 67% of HR leaders feel "unprepared" to evaluate the AI tools their departments have deployed. mercer.com
-
U.S. Equal Employment Opportunity Commission — "iTutorGroup to Pay $365,000 to Settle EEOC Discriminatory Hiring Suit" (2023): The first AI discrimination case, where recruitment software automatically rejected applicants based on age. eeoc.gov
-
European Commission — High-Level Expert Group on AI (2019): Guidelines on trustworthy AI, including recruitment AI as a primary bias concern. digital-strategy.ec.europa.eu
Detalizētai 4. panta teksta un izpildes grafika analīzei skatiet mūsu 4. panta analīzi juridiskajām komandām. Plašākam kompetences ietvaram, kas kartē MI pratību organizācijas līmeņos, izpētiet TwinLadder ietvaru.