Gli applicativi di riconoscimento facciale continuano a creare problemi

Gli applicativi di riconoscimento facciale continuano a creare problemi

È recente la notizia che la polizia di Essex, in Gran Bretagna, ha smesso di utilizzare applicativi di riconoscimento facciale, dopo aver registrato gravi problemi in termini di accuratezza e orientamento razziale.

La polizia di Essex aveva cominciato ad utilizzare un sistema di riconoscimento facciale, fornito da un’azienda israeliana, specializzata in questi applicativi biometrici.

Nei primi sei mesi di utilizzo sono stati rilevati problemi significativi nell’utilizzo di questo applicativo, in particolare con riferimento all’orientamento razziale dell’applicativo. In altre parole, l’applicativo era in grado di riconoscere più accoratamente i volti di persone appartenenti a determinate razze, ad esempio di origine africana, rispetto ad altre razze umane. Questa particolare caratteristica di un applicativo di riconoscimento facciale viene contrassegnata dall’acronimo EIA – equality impact assessment.

A questo punto, i responsabili della polizia hanno incaricato il laboratorio fisico nazionale e l’Università di Cambridge di sviluppare dei test indipendenti su questo applicativo. I risultati, pubblicati il 12 marzo 2026, hanno confermato che l’applicativo riconosceva più correttamente gli uomini, rispetto alle donne, e che era in grado di riconoscere assai più accoratamente volti di origine africana, rispetto a volti di persone appartenenti ad altri gruppi etnici.

A questo punto, i responsabili della polizia decisero di avviare un colloquio con il fornitore del software, chiedendo di effettuare degli aggiornamenti e riservando l’ulteriore utilizzo al fatto che, dopo questi aggiornamenti, l’applicativo venisse nuovamente testato dai due enti, menzionati in precedenza, che avevano effettuato valutazioni oggettive.

Questa situazione ha rallentato l’utilizzo dell’applicativo anche in altri contesti, come ad esempio quello in cui, facendo riferimento a un romanzo scritto tempo addietro, l’applicativo poteva consentire ad un singolo operatore penitenziario di esaminare il volto di tutti i soggetti carcerati, secondo un principio di funzionamento che venne allora descritto come “panopticon”.

In questa struttura penitenziaria, una garitta, posta al centro di un anfiteatro rotondo, consentiva ad una sola guardia di tenere sotto controllo tutte le celle e, in particolare, i detenuti ivi presenti.

Abbiamo ritenuto opportuno aggiornare i lettori su questo recente sviluppo, sia per mettere in evidenza l’approccio professionale adottato dai responsabili della polizia del Regno Unito, sia per mettere in guardia i lettori su possibili applicazioni, che stanno già utilizzando, o pianificano di utilizzare, che potrebbero portare a risultati non conforme alle attese.

Tra l’altro, nel Regno Unito sono molte attive le associazioni che proteggono i dati personali delle persone e in questo contesto numerose contestazioni sono state già avanzate.

In un caso recente, l’applicativo aveva riconosciuto i componenti di una banda, che avevano effettuato una rapina in banca, ma gli avvocati difensori della banda hanno sottoposto al giudice una contro valutazione, che è stata accolta.

Adalberto Biasiotti

Licenza Creative Commons