Intelligenza artificiale e gestione del personale: come prevenire i rischi?

Intelligenza artificiale e gestione del personale: come prevenire i rischi?

Un documento dell’Agenzia europea per la sicurezza e la salute sul lavoro sull’uso dell’intelligenza artificiale per la gestione del personale riporta utili raccomandazioni per il mondo del lavoro. Le opportunità, i rischi e la prevenzione.

Bilbao, 31 Ago – L'utilizzo dei sistemi AIWM (AI-based worker management), che permettono nuove forme di gestione dei lavoratori attraverso sistemi basati sull' intelligenza artificiale (IA), è in costante crescita nelle aziende e nei settori economici dell'Unione Europea. Questi sistemi consentono, infatti, alle aziende di migliorare la produttività e l'efficienza.

Tuttavia, l'introduzione di questi sistemi può anche portare a una vasta gamma di criticità: etiche, di privacy e in materia di salute e sicurezza sul lavoro (SSL). Ma se i sistemi AIWM sono costruiti e implementati in modo affidabile e trasparente, sulla base dell'informazione, della partecipazione, della consultazione e della fiducia dei lavoratori e sul principio della minimizzazione della raccolta e dell'utilizzo dei dati dei lavoratori, i sistemi AIWM possono anche offrire opportunità per migliorare la SSL sul posto di lavoro.

A ricordarlo è il report “Artificial intelligence for worker management: an overview” (L’intelligenza artificiale per la gestione del personale: una panoramica); un documento in lingua inglese, prodotto dall’Agenzia europea per la sicurezza e la salute sul lavoro ( EU-OSHA) e a cura di Aleksandr Christenko, Vaida Jankauskaite e Agne Paliokaite (Visionary Analytics), Egidius Leon van den Broek, Karin Reinhold e Marina Järvis (Tallin University of Technology).

In un precedente articolo di presentazione del documento ci siamo soffermati in particolare sui rischi, specialmente rischi psicosociali, mentre oggi raccogliamo dal documento alcune utili raccomandazioni per evitarli o ridurli.

L’articolo si sofferma sui seguenti argomenti:

• AI-based worker management: le caratteristiche e le opportunità
• AI-based worker management: i dati sulla diffusione e le criticità
• AI-based worker management: le raccomandazioni per il mondo del lavoro

Pubblicità

AI-based worker management: le caratteristiche e le opportunità

La relazione, nella parte conclusiva, ricorda che l’acronimo AIWM si riferisce, dunque, ad un sistema di gestione dei lavoratori che raccoglie dati, spesso in tempo reale, dallo spazio di lavoro, dai lavoratori e dal lavoro che svolgono, che vengono poi inseriti in un sistema basato sull'intelligenza artificiale che prende decisioni automatizzate o semi-automatizzate, o fornisce informazioni ai responsabili delle decisioni (ad esempio, responsabili delle risorse umane, datori di lavoro, lavoratori), su questioni relative alla gestione dei lavoratori.

In particolare i sistemi AIWM comprendono una serie di pratiche, tra cui, ma non solo, il miglioramento del monitoraggio/sorveglianza dei lavoratori attraverso, ad esempio, il monitoraggio delle prestazioni, l'introduzione di sistemi di programmazione automatica alimentati dall' intelligenza artificiale per assegnare automaticamente i compiti ai lavoratori, o l'introduzione di sistemi di analisi delle persone al fine, ad esempio, di valutare l'impegno dei lavoratori o prevedere chi potrebbe lasciare l'organizzazione.

Inoltre – come accennato in premessa - i sistemi di AIWM possono anche contribuire alla salute, alla sicurezza e al benessere generale dei lavoratori, se vengono implementati in modo sicuro, affidabile, trasparente ed etico. Ad esempio, l'AIWM può essere utilizzato per identificare i rischi per la salute, la sicurezza e/o il benessere dei lavoratori attraverso sistemi di monitoraggio che possono identificare, ad esempio, i casi di mobbing sul posto di lavoro.

AI-based worker management: i dati sulla diffusione e le criticità

Al di là della costante crescita della diffusione dell’intelligenza artificiale nella gestione dei lavoratori, nel 2019 (dati ESENER-3) il 12% dei luoghi di lavoro utilizza "macchine o sistemi che determinano il contenuto e il ritmo del lavoro", l'8% utilizza "macchine o sistemi che monitorano le prestazioni dei lavoratori" e il 5% utilizza "dispositivi indossabili". Inoltre, secondo i rapporti di McKinsey (2020) e Oracle (2019), oltre il 50% degli ambienti di lavoro intervistati utilizza una sorta di IA in almeno un'area dell'azienda, compresa la gestione dei lavoratori. Tuttavia, nella pratica, molti manager e datori di lavoro spesso non sono in grado di distinguere tra l' intelligenza artificiale e approcci più semplici basati sui dati, il che altera i dati e implica che i risultati di McKinsey e Oracle non sono completamente affidabili.

Riprendiamo dal documento una tabella riguardo alla diffusione dei dispositivi tecnologici:

Ricordiamo brevemente la classificazione (NACE Rev. 2 sectors) presente nella tabella: A – Agriculture, Forestry and Fishing; B – Mining and Quarrying; C – Manufacturing; D – Electricity, Gas, Steam and Air Conditioning Supply; E – Water Supply; Sewerage, Waste Management and Remediation Activities; F – Construction; G – Wholesale and Retail Trade; Repair of Motor Vehicles and Motorcycles; H – Transportation and Storage; I – Accommodation and Food Service Activities; J – Information and Communication; K – Financial and Insurance Activities; L –Real Estate Activities; M – Professional, Scientific and Technical Activities; N – Administrative and Support Service Activities; O – Public Administration and Defence, Compulsory Social Security; P – Education; Q – Human Health and Social Work Activities; R – Arts, Entertainment and Recreation; S – Other Service Activities.

Come abbiamo detto in premessa e in un precedente articolo i sistemi di AIWM possono comportare anche varie criticità.

Ad esempio, la completa automazione del processo decisionale attraverso sistemi basati sull'IA può portare a decisioni non sicure, ingiuste e discriminatorie, nonché all'impossibilità per i lavoratori di contestare la decisione, con conseguente perdita di autonomia e di controllo del lavoro.

Questa situazione potrebbe essere ulteriormente esacerbata da sistemi di monitoraggio intrusivi dei lavoratori. E i sistemi AIWM potrebbero anche esacerbare alcuni pregiudizi discriminatori nelle organizzazioni. Ad esempio, se un sistema di AIWM per il reclutamento dei lavoratori si basa su modelli di reclutamento che favoriscono una particolare razza, sesso o età, tale sistema potrebbe continuare a seguire questo modello. Inoltre, la concessione di autonomia decisionale ai sistemi AIWM potrebbe comportare problemi di responsabilità, in quanto non è chiaro di chi sia la colpa se un sistema del genere commette un errore che porta a conseguenze negative per la SSL.

AI-based worker management: le raccomandazioni per il mondo del lavoro

Il report ricorda che per evitare i rischi connessi all’uso della IA nella gestione dei lavoratori è importante disporre di una solida base normativa che possa mitigare le possibili conseguenze negative.

Tuttavia al di là delle normative che contribuiscono ad affrontare i possibili effetti negativi dell'IA, rimangono alcune lacune a livello europeo e sulla base dei risultati delle ricerche presentate nel report sono state formulate alcune raccomandazioni che possono essere utilizzate per mitigare i rischi per la sicurezza, la salute e il benessere dei lavoratori associati alla progettazione e all'utilizzo dei sistemi di AIWM.

Ne riportiamo, in conclusione, una breve descrizione:

• Raccomandazione 1: rendere la progettazione, lo sviluppo e l'uso dei sistemi AIWM incentrati sulla persona, in modo che vengano utilizzati per sostenere i lavoratori e lasciare alla persona il controllo.
• Raccomandazione 2: garantire la partecipazione, la consultazione e il dialogo sociale dei lavoratori. I lavoratori devono essere coinvolti nelle fasi di progettazione, sviluppo e sperimentazione, nelle valutazioni ex ante ed ex post e nell'utilizzo dei sistemi basati sull'IA. L'inclusione dei lavoratori in tutte le fasi dello sviluppo e dell'utilizzo dell'IA contribuirà a rendere tali sistemi affidabili, incentrati sull'uomo e sempre sotto il controllo umano. Questo è fondamentale per prevenire i possibili rischi dell'AIWM per la SSL.
• Raccomandazione 3: promuovere un approccio olistico nella valutazione dei sistemi di AIWM implica l'inclusione di diverse parti interessate nel processo di valutazione. La valutazione deve comprendere anche gli effetti che l'AIWM può avere sui lavoratori e sulla società nel suo complesso. Il processo di valutazione dovrebbe inoltre essere un processo dinamico piuttosto che un esercizio una tantum, poiché i sistemi basati sull'intelligenza artificiale sono in grado di evolversi attraverso l'autoapprendimento, il che potrebbe portare alcuni sistemi che in passato erano sicuri a diventare pericolosi per i lavoratori.
• Raccomandazione 4: migliorare la progettazione, lo sviluppo e l'uso dei sistemi basati sull'intelligenza artificiale rendendo il funzionamento e lo scopo dell'AIWM trasparente, spiegabile e comprensibile. Ciò potrebbe essere garantito introducendo requisiti più vincolanti per i fornitori e gli sviluppatori di AIWM per garantire che la salute, la sicurezza e il benessere dei lavoratori siano presi in considerazione già dalla fase di progettazione.
• Raccomandazione 5: stabilire una chiara linea di responsabilità che indichi chi è responsabile di assicurare che un sistema AIWM non causi danni ai lavoratori, non violi la legge o non funzioni male. Ciò include la definizione di meccanismi di supervisione, rimedi su come attenuare gli effetti negativi dell'AIWM e una linea d'azione su cosa fare se i manager non riescono a governare il sistema AIWM.
• Raccomandazione 6: migliorare la privacy e la protezione dei dati dei lavoratori aumentando la trasparenza sulla raccolta e l'utilizzo dei dati e introducendo migliori meccanismi di segnalazione sugli abusi degli strumenti di AIWM. Più specificamente, i lavoratori dovrebbero avere il diritto di modificare o bloccare le deduzioni algoritmiche e di contestare le decisioni automatizzate; inoltre, dovrebbe essere garantita loro la piena libertà di rifiutare il consenso alla raccolta dei loro dati attraverso disposizioni aggiuntive che vietino il licenziamento o qualsiasi altra azione negativa nei confronti dei lavoratori in questi casi.
• Raccomandazione 7: garantire il diritto alla disconnessione per i lavoratori. Oltre all'obiettivo primario di garantire ai lavoratori il diritto di disconnettersi dal lavoro durante le ore non lavorative, questa soluzione potrebbe servire anche come strumento per garantire la privacy dei lavoratori e la protezione dei dati personali.
• Raccomandazione 8: è necessario lo scambio di conoscenze, la diffusione e la sensibilizzazione sull'AIWM e su come essa possa influire sulla SSL.
• Raccomandazione 9: la privacy dei lavoratori e la protezione dei dati possono essere migliorate anche potenziando le capacità degli ispettorati del lavoro e la cooperazione con le autorità nazionali per la protezione dei dati.
• Raccomandazione 10: maggiori sforzi educativi per migliorare l'alfabetizzazione dei lavoratori e dei datori di lavoro in materia di AI, promuovendo lo sviluppo di qualifiche e competenze per le applicazioni AIWM. Ciò consentirebbe loro di comprendere meglio i sistemi AIWM e quindi di esercitare il loro diritto di consultazione e partecipazione alla progettazione e all'implementazione di tali sistemi.
• Raccomandazione 11: garantire la trasparenza tra gli sviluppatori di sistemi AIWM e le organizzazioni che li utilizzano. Ciò include la condivisione con le organizzazioni del funzionamento di tale strumento, del modo in cui prende le decisioni, del tipo di rischi ed effetti negativi che può creare, dei suoi vantaggi e svantaggi, e così via. Tuttavia, se la piena trasparenza non è possibile, qualsiasi accordo dovrebbe includere l'avvertenza che se un sistema causa danni e l'azienda che lo impiega non ha il diritto di chiedere che il sistema venga cambiato, il sistema verrà immediatamente chiuso dagli sviluppatori del sistema.

Rimandiamo, in conclusione, i nostri lettori alla lettura integrale del report EU-OSHA che riporta ulteriori dettagli sui sistemi AIWM e sulla gestione dei lavoratori attraverso l’ evoluzione digitale e lo sviluppo dell’intelligenza artificiale.

RTM

Scarica il documento da cui è tratto l'articolo:

Agenzia europea per la sicurezza e la salute sul lavoro, “Artificial intelligence for worker management: an overview”, report in lingua inglese, a cura di Aleksandr Christenko, Vaida Jankauskaite, Agne Paliokaite (Visionary Analytics), Egidius Leon van den Broek, Karin Reinhold, Marina Järvis (Tallin University of Technology), edizione 2022.

Licenza Creative Commons