Sviluppo di sistemi di IA: i conflitti di valori come sfida

Nata come organismo per la promozione dello sviluppo economico, con il tempo l’Unione Europea si è trasformata in una comunità politica a cui aderiscono 27 Stati. L’UE promuove i valori europei di dignità umana, libertà, uguaglianza e democrazia, i diritti umani e lo Stato di diritto. Si è inoltre affermata come una delle istituzioni internazionali più influenti tra quelle che tutelano la sicurezza in quanto interesse pubblico centrale. La direttiva Macchine UE 2006/42/CE è diventata un importante strumento di garanzia della sicurezza dei prodotti. Dalle valutazioni condotte è emerso che la direttiva assolve la sua funzione, ma – dato il vertiginoso sviluppo di prodotti digitali e applicazioni di– deve essere integrata con misure supplementari. 

l tentativo di formulare delle prescrizioni in grado di generare impulsi di crescita e, nello stesso tempo, tutelare i valori europei mette a nudo i conflitti e le contraddizioni tra vari importanti valori. I negoziati riguardanti il regolamento sull’ Intelligenza Artificiale, con il quale s’intende promuovere un’IA “Made in Europe”, ne sono un esempio eccellente. Secondo vari documenti UE, tuttavia, tra valori commerciali, politici e sociali non vi sarebbe alcun potenziale conflitto e, sul mercato globale, la tutela dei diritti dei cittadini offrirebbe semmai un vantaggio competitivo. Queste considerazioni, tuttavia, sono forse anche un po’ illusorie. Se degli interessi di mercato dovessero scontrarsi con quelli pubblici e con valori sociali d’importanza centrale, potrebbe essere opportuno procedere a una moderazione da parte degli Stati o a un bilanciamento degli interessi tra le parti coinvolte. Il ricorso alla regolamentazione statale in quanto strumento di mediazione tra interessi vari e importanti valori può innescare proteste e generare diffidenza. A una regolamentazione vincolante e a leggi statali alcuni fabbricanti preferirebbero raccomandazioni e strumenti di autovalutazione. Ma può darsi che anche l’opinione pubblica veda nelle prescrizioni un ostacolo a un facile accesso a prodotti e servizi nonché alla fruizione di questi ultimi: per l’utente medio della rete, p. es., l’effetto più tangibile del regolamento generale UE sulla protezione dei dati consiste nel fatto che navigare in Internet e usare le varie applicazioni è diventato più macchinoso. 

Le nuove tecnologie alimentano grandi speranze, ma anche crescenti preoccupazioni. Allo stato attuale l’approccio basato sul rischio adottato dall’UE a tutela della sicurezza e dei diritti fondamentali dei suoi cittadini appare più giustificato che mai. Prendere coscienza dei rischi costituisce un primo passo, al quale deve poi aggiungersi la possibilità di negoziazione tra valori differenti ed eventualmente contrastanti – un compito non facile nel mondo dell’IA, dove prodotti e servizi cambiano e si evolvono sulla scia di continui update e la linea di demarcazione tra prodotto e servizio risulta spesso poco definita. 

Il principio di precauzione protegge da inutili agitazioni, ma può anche spianare la strada a valide strategie e all’applicazione del principio della realtà, che fungono da parametri guida per la progettazione e lo sviluppo di nuovi prodotti e servizi. Erik Hollnagel, noto esperto di sicurezza, ha a tal proposito messo a punto un semplice strumento: il principio ETTO (Efficiency-Thoroughness Trade-off). Quest’ultimo si fonda sulla considerazione che tutto ciò che l’uomo fa – individualmente o in gruppo – è limitato dalla scarsità. Raramente tempo, informazioni, materiali, utensili, energia e forza lavoro sono disponibili in eccesso. In genere, tuttavia, l’uomo porta a termine i propri compiti, poiché adatta il suo operato alle condizioni vigenti. Nel fare ciò – così Hollnagel – segue il principio ETTO. 

L’accuratezza presuppone una pianificazione, la quale determina per forza di cose un differimento dell’inizio del lavoro: il tempo impiegato per i preparativi riduce infatti il tempo a disposizione per lo svolgimento del compito vero e proprio. L’efficienza comporta a sua volta il massimo contenimento delle risorse necessarie per raggiungere un determinato obiettivo. Nello stesso tempo, per lavorare in modo efficiente spesso occorre almeno un certo grado di pianificazione sistematica: è infatti impossibile essere efficienti se prima non si è stati accurati. 

Il principio ETTO dimostra che in ogni attività si ha un gioco di forza tra accuratezza ed efficienza. Chi investe nell’accuratezza riduce l’efficienza e viceversa. Concentrarsi solo su uno di questi due valori non aiuta, visto che per sbrigare un compito servono entrambi. Il risultato razionale di una ponderazione dipende dall’importanza data ai valori legati a ciascun compito. Benché i valori efficienza e accuratezza non possano essere massimizzati in contemporanea, ciascuno di essi può essere sfruttato per incrementare l’altro. 

Il rapporto tra usabilità e sicurezza è simile a quello tra accuratezza ed efficienza. Entrambi i valori sono fondamentali rispetto alla progettazione di prodotti, ma è pressoché impossibile massimizzare tutti e due in contemporanea: la garanzia di sicurezza di un prodotto va spesso di pari passo con una maggiore difficoltà di utilizzo dello stesso. Nel quadro della ponderazione tra accuratezza ed efficienza e tra sicurezza e usabilità occorre considerare quale rischio sia accettabile e per quanto tempo una persona possa svolgere una determinata attività. Quanto più grandi sono i rischi dovuti a guasti tecnici e cattiva gestione, tanto più importanti saranno accuratezza e sicurezza. 

Il principio ETTO non è uno strumento che aiuta a elaborare delle soluzioni semplici laddove si tratti di trovare un compromesso tra i vari valori di progettazione e valori fondamentali europei. La sua utilità consiste nel gettar luce sulle contraddizioni intrinseche. Alcune delle caratteristiche dell’ intelligenza artificiale offrono grandi vantaggi, ma nello stesso tempo presentano dei punti deboli. Nel caso delle decisioni che siamo chiamati a prendere, spesso il perseguimento di determinati valori ne mette a repentaglio altri. 

Il principio ETTO non è uno strumento che aiuta a elaborare delle soluzioni semplici laddove si tratti di trovare un compromesso tra i vari valori di progettazione e valori fondamentali europei. La sua utilità consiste nel gettar luce sulle contraddizioni intrinseche. Alcune delle caratteristiche dell’intelligenza artificiale offrono grandi vantaggi, ma nello stesso tempo presentano dei punti deboli. Nel caso delle decisioni che siamo chiamati a prendere, spesso il perseguimento di determinati valori ne mette a repentaglio altri. 

Il previsto regolamento sull’IA dovrà concretizzare il regolamento in materia di macchine sotto il profilo dell’intelligenza artificiale. Per quanto riguarda i sistemi di IA – che sono complessi e al tempo stesso poco trasparenti – legislazione e normazione hanno l’arduo compito di trovare i giusti compromessi. 

Jaana Hallamaa 
Professoressa di etica sociale Università di Helsinki 

Fonte: KanBrief 3/22

Licenza Creative Commons