Digitalizzazione, IA e nuovi rischi: la moderazione dei contenuti social

Digitalizzazione, IA e nuovi rischi: la moderazione dei contenuti social

Un saggio si sofferma sulla digitalizzazione, sull’intelligenza artificiale, sui nuovi rischi per la salute dei lavoratori e la ridefinizione degli obblighi datoriali. Focus su un caso di moderazione dei contenuti social.

Urbino, 16 Apr – In risposta agli interrogativi relativi alle conseguenze in materia di sicurezza e diritto del lavoro derivanti dallo  sviluppo tecnologico e digitale nei luoghi di lavoro, il numero 2/2024 della rivista “Diritto della sicurezza sul lavoro”, pubblicazione online dell'Osservatorio Olympus dell' Università degli Studi di Urbino, raccoglie numerosi saggi che propongono interessanti riflessioni, risposte e proposte su questo argomento.

In particolare, uno di questi saggi affronta il tema proponendosi di riflettere sui nuovi rischi derivanti dalla digitalizzazione e dall’impiego di sistemi di intelligenza artificiale a partire da due “ipotesi di sinistri” provocati da sperimentazione di veicoli a guida autonoma (self-driving cars) o dall’insorgenza di patologie stress correlate nei moderatori dei contenuti social.

Il contributo – come indicato nell’abstract – “indaga i relativi profili di responsabilità penale ed evidenzia la necessità di aggiornare gli obblighi datoriali di valutazione dei rischi, di formazione e informazione del lavoratore, tenendo in debito conto i nuovi fattori di rischio legati alla rivoluzione digitale”.

Stiamo parlando del saggio dal titolo “ Digitalizzazione e I.A.: nuovi rischi per la salute dei lavoratori e ridefinizione degli obblighi datoriali. Note a partire da due casi studio: sperimentazione di self-driving cars e moderazione dei contenuti social” e a cura di Ilaria Giugni (assegnista di ricerca in Diritto penale e docente a contratto di Diritto penale del lavoro presso l’Università degli Studi di Napoli “Federico II”).

Il saggio costituisce la rielaborazione aggiornata di una relazione presentata al convegno “Le posizioni di garanzia datoriale alla prova dell’intelligenza artificiale” (Modena, 19 aprile 2024).

Nel presentare brevemente il saggio, l’articolo affronta i seguenti temi:

• La digitalizzazione, il saggio e i due casi proposti
• La digitalizzazione: il caso della moderazione dei contenuti social
• La digitalizzazione: ridefinizione del debito di garanzia del datore di lavoro

Pubblicità

Cyber Security - Cyber Security - Difendersi dai crimini informatici - 1 ora Corso online - Viaggio alla scoperta dei principali rischi criminali informatici e all'acquisizione di buone pratiche di protezione

La digitalizzazione, il saggio e i due casi proposti

Come indicato in apertura di articolo, l’autrice si propone di riflettere sull’argomento a partire da due casi specifici e, in realtà, anche tra loro molto distanti:

• il primo riguardante “i pericoli connessi alla sperimentazione di veicoli a guida autonoma”. In questo caso si hanno sinistri “provocati da self-driving cars nell’ambito dei test di verifica. Fatti che mettono a repentaglio prima di tutto l’integrità fisica delle persone lavoratrici, e che intercettano appieno il tema attualissimo dell’uso dell’intelligenza artificiale anche nei luoghi di lavoro”;

• il secondo riguardante i pericoli che caratterizzano “una nuova professione che incrocia l’ambito digitale, quella della moderazione dei contenuti pubblicati sui social networks”. In questo caso si parla dell’insorgenza di patologie stress-correlate “nei moderatori a causa della stessa mansione loro affidata”.

A partire da questi due casi – indica il saggio si analizzano i relativi profili di responsabilità penale e soprattutto la “necessità e opportunità di aggiornare gli obblighi gravanti sul datore di lavoro”. Una tale indagine mira, dunque, “a escludere in radice il verificarsi dei fatti lesivi appena citati, così assecondando pienamente la «propensione tutta preventiva» dello specifico settore del diritto penale del lavoro”.

La digitalizzazione: il caso della moderazione dei contenuti social

Ci soffermiamo in particolare oggi su stress lavoro-correlato e responsabilità penale con riferimento ai social media e alla moderazione dei contenuti.

Riguardo ai moderatori dei contenuti sui social media si ribadisce che si tratta “di un mestiere nuovo, originato dalla necessità di controllare e filtrare ex post i contenuti postati sulle piattaforme digitali. Tale attività, infatti, non viene attualmente delegata completamente all’algoritmo: dopo una prima scrematura effettuata dall’I.A., la scelta su che cosa conservare e che cosa cancellare è rimessa a delle persone/dei lavoratori in carne ossa”.

Si segnala che la scelta di non rinunciare all’intervento umano “è motivata dalla necessità di salvaguardare la libera espressione di pensiero sulle piattaforme, dal momento che si ritiene che l’algoritmo di moderazione automatica non sia pienamente in grado di cogliere le sfumature di alcuni post pubblicati”.

Visto che la professione dei moderatori consiste nel visionare immagini o video segnalati per inappropriatezza dagli utenti e, dunque, spesso disturbanti o violenti, “non è quindi difficile immaginare come la stessa mansione loro affidata possa incidere sul loro stato di salute mentale, come dimostrano le testimonianze raccolte con non poche difficoltà in questi anni”.

In particolare, da alcune inchieste giornalistiche emerge una “particolare vulnerabilità di questa categoria di lavoratori, rafforzata anche dalle condizioni di lavoro talvolta precarie e dalla riservatezza loro imposta attraverso non disclosure agreements dallo stesso datore di lavoro (la piattaforma social o, più spesso, un intermediario)”.

Se si ipotizza di confrontarci con “l’insorgenza di problemi di salute mentale (come depressione reattiva, sindrome da stress post traumatico, nevrosi traumatiche, ecc.)” in capo ad una persona impiegata in Italia nella moderazione dei contenuti, “occorre innanzitutto interrogarsi sulla possibilità di accordare una tutela (anche) penale alla persona lavoratrice”.

Si potrebbe fare riferimento all’art. 55, comma 1, lett. a, del D.Lgs. n. 81/2008, “nel caso in cui il datore di lavoro, nel porre in essere la valutazione del rischio, non abbia tenuto in debito conto anche i pericoli per la salute mentale di questa categoria di persone lavoratrici in violazione dell’art. 28 del T.U.S.L. Disposizione, quest’ultima, che impone di considerare ‘tutti i rischi per la sicurezza e la salute dei lavoratori, ivi compresi quelli riguardanti gruppi di lavoratori esposti a rischi particolari, tra cui anche quelli collegati allo stress lavoro-correlato’”.

Tale fattispecie contravvenzionale – “invero, scarsamente dissuasiva vista la sanzione blanda comminata dal legislatore” – è applicata dalla giurisprudenza “non soltanto in caso di omissione tout court della valutazione del rischio, ma anche, secondo una censurabile interpretazione analogica in malam partem, in caso di valutazione incompleta o errata”.

Nel caso in cui una tale “disfunzione organizzativa comporti l’insorgenza di una patologia afferente all’integrità psicologica della persona lavoratrice” – continua l’autrice – “è possibile ipotizzare in capo al datore di lavoro una responsabilità penale colposa per omesso impedimento dell’evento lesivo, qualificando il mancato adempimento dell’obbligo di valutazione ed organizzazione come obbligo giuridico rilevante ex art. 40, cpv., c.p” (ricordiamo il dispositivo dell'art. 40 Codice Penale : Nessuno può essere punito per un fatto preveduto dalla legge come reato, se l'evento dannoso o pericoloso, da cui dipende la esistenza del reato, non è conseguenza della sua azione od omissione. Non impedire un evento, che si ha l'obbligo giuridico di impedire, equivale a cagionarlo).

La digitalizzazione: ridefinizione del debito di garanzia del datore di lavoro

Riguardo alla “ardua configurabilità di una responsabilità penale in capo al datore di lavoro nel caso appena illustrato”, è interessante soffermarsi su come reagiscano gli obblighi datoriali di fronte ai rischi che scaturiscono da questa nuova professione.

Quanto all’obbligo di valutazione del rischio il datore di lavoro, al cospetto della moderazione ex post dei contenuti social, deve “certamente confrontarsi seriamente con i rischi psicosociali derivanti dalla peculiare mansione affidata alle persone lavoratrici come suggerito dall’art. 28 del d.lgs. n. 81 del 2008, potendo, viceversa, incappare in sanzione ai sensi dell’art. 55 dello stesso decreto”.

Riguardo a questo aspetto l’autrice ricorda che la normativa impone al datore di lavoro “di valutare accuratamente anche i rischi connessi alle differenze di genere. Ed infatti, nella valutazione del rischio afferente alla moderazione dei contenuti postati sui social media, occorrerebbe prestare una particolare attenzione alla vulnerabilità delle lavoratrici quantomeno rispetto al vaglio di immagini o video di violenze sessuali e pornografia non consensuale, le cui vittime sono nella stragrande maggioranza dei casi donne”.

In merito poi all’obbligo di formazione e informazione, si indica che se il d.lgs. n. 81/2008 descrive un vero e proprio “processo di trasferimento di conoscenze dal datore al lavoratore, tale da accrescere significativamente la consapevolezza di quest’ultimo e garantire il pieno sviluppo della sua soggettività”, è chiaro che “l’assolvimento di un tale obbligo nei confronti di una categoria peculiare come quella dei moderatori debba mirare a renderli edotti degli specifici rischi di una professione apparentemente meno insidiosa per la salute, oltre che suggerire strategie serie di prevenzione dei pericoli per il loro benessere psicologico e della creazione di dinamiche non sane sul luogo di lavoro”.

Riprendiamo anche alcune conclusioni dell’autrice, che ha cercato di evidenziare come l’introduzione di sistemi di intelligenza artificiale nei luoghi di lavoro e l’interazione stessa con il digitale “possano produrre nuovi rischi per l’integrità psico-fisica delle persone lavoratrici”. E si è cercato di mettere in risalto “condizioni e, soprattutto, limiti dell’intervento penale nei due casi studio presi in considerazione – possibili sinistri cagionati da driverless car in fase di sperimentazione e insorgenza di problemi di salute mentale nei moderatori dei social media –, riscontrando in entrambe le ipotesi possibili ostacoli alla configurazione di una responsabilità penale in capo al datore di lavoro”.

Partendo da questi dati il saggio si sofferma su una “ridefinizione del debito di garanzia del datore di lavoro, sottolineando come, a legislazione invariata, si possa costruire una prevenzione idonea a garantire salute e sicurezza sul lavoro nel contesto attuale”.

E se è vero che la digitalizzazione “implica una trasformazione dei processi produttivi e, quindi, un cambio di paradigma nell’organizzazione e nella materialità del lavoro”, questo tentativo impone uno sforzo ulteriore.

Bisogna monitorare “i cambiamenti rapidissimi di questa rivoluzione, e mantenere un aggiornamento costante su nuove tecnologie, nuove professioni, nuovi rischi, con l’obiettivo di intervenire non appena gli strumenti di cui disponiamo rivelino segni di obsolescenza”. E la strada maestra sembra – conclude il saggio – “quella della contaminazione e dello scambio fra discipline, del trasferimento delle competenze alle realtà produttive, della democratizzazione del sapere nei luoghi di lavoro e della partecipazione di tutti i soggetti alle scelte in materia di sicurezza”. In definitiva, la sfida attuale pare quella di “anticipare i rischi emergenti, investendo in formazione continua e nella promozione di una cultura della sicurezza che coinvolga tutti gli attori del processo produttivo”.

Tiziano Menduto

Scarica il documento da cui è tratto l'articolo:

Università di Urbino Carlo Bo, Osservatorio Olympus, Diritto della sicurezza sul lavoro, “Digitalizzazione e I.A.: nuovi rischi per la salute dei lavoratori e ridefinizione degli obblighi datoriali. Note a partire da due casi studio: sperimentazione di self-driving cars e moderazione dei contenuti social”, a cura di Ilaria Giugni (assegnista di ricerca in Diritto penale e docente a contratto di Diritto penale del lavoro presso l’Università degli Studi di Napoli “Federico II”), Diritto della Sicurezza sul Lavoro (DSL) n. 2/2024.

Licenza Creative Commons