Bello il riconoscimento facciale, ma la prudenza è d’obbligo

Bello il riconoscimento facciale, ma la prudenza è d’obbligo

La TSA Transport security Adminstration ed il Federal bureau of investigations hanno cominciato ad utilizzare su larga scala algoritmi di riconoscimento facciale, che però hanno destato alcune preoccupazioni negli organi parlamentari degli Stati Uniti.

La Transport Security Adminstration ed il Federal bureau of investigations hanno ormai attivato da qualche tempo degli algoritmi di riconoscimento facciale, che si ritiene possano essere molto utili per aiutare nelle indagini e nel riconoscere tempestivamente persone sospette o coinvolte in attività criminose.

Il GAO - general Accountability Office, vale a dire l’organismo federale che ha l’incarico di vigilare sulle attività svolte dalle agenzie federali statunitensi, ha condotto un’indagine approfondita sugli algoritmi utilizzati e le modalità di utilizzo, presentando tutta una serie di raccomandazioni migliorative.

Questa situazione ha destato l’attenzione della commissione di controllo del congresso americano, che ha chiamato a deporre un rappresentante dello FBI.

La sessione è stata oltremodo interessante, perché ha messo in evidenza come questi algoritmi siano stati attivati con molto entusiasmo e forse poca prudenza, in vista delle risultanze della deposizione.

Tanto per cominciare, questi algoritmi ormai esaminano alcune centinaia di milioni di volti, in parte acquisiti dagli archivi dello FBI, in parte acquisiti dagli archivi dei vari Stati americani, dove sono archiviate le fotografie utilizzate per il rilascio della patente di guida. Ricordo che negli Stati Uniti in pratica il 100% dei cittadini è in possesso di una patente di guida, in quanto viene utilizzata anche come documento di riconoscimento, in assenza di carte di identità.

Il rappresentante l’FBI ha dichiarato che ad oggi non si dispone di statistiche che possano permettere di esprimere un giudizio sulla validità di questi algoritmi. Giova ricordare che questi algoritmi non propongono un solo volto, messo a confronto con il volto di riferimento, ma una serie di due o tre volti, tra i quali l’agente incaricato può effettuare una valutazione visiva e scegliere il volto che più si approssima a quello ricercato.

Pubblicità

Le cronache hanno dato numerose notizie in merito a cittadini innocenti, che venivano coinvolti in indagini per il solo fatto che il loro volto assomigliava a quello di un ricercato, ad esempio perché ripreso dalle telecamere di videosorveglianza pubbliche o private. Le preoccupazioni dei tutori della privacy evidentemente sono cresciute esponenzialmente ed ecco la ragione per la quale questa commissione del congresso ha ritenuto opportuno approfondire la situazione.

Le risposte del rappresentante FBI sono state alquanto imbarazzate, soprattutto quando ha dovuto riconoscere che l’FBI aveva attivato questo algoritmo, senza effettuare prima una valutazione di impatto, simile a quella che viene richiesta in Europa dall’articolo 35 del regolamento generale europeo.

Altre preoccupazioni nascono dal fatto che questi algoritmi possano essere condizionati, nel loro funzionamento, dall’appartenenza del soggetto ripreso a particolari categorie di cittadini, come ad esempio afroamericani e simili. Anche su questo piano, lo FBI non è stato in grado di dare garanzie circa il fatto che questa situazione non abbia a verificarsi.

Anche il rappresentante del NIST national Institute of Standard and technologies, una sorta di comitato europeo di normazione, che opera negli Stati Uniti, ha dichiarato che le tecnologie utilizzate da FBI sono risalenti a qualche tempo fa e il rapidissimo progresso di questi applicativi di riconoscimento facciale può aver reso, dopo solo un paio d’anni, obsolete precedenti tecnologie.

Alla conclusione dell’indagine della commissione, i commissari hanno deciso di dare qualche tempo a FBI per allineare le sue pratiche con le raccomandazioni scaturite dalla ispezione del GAO, convocando nuovamente il rappresentante nel giro di un paio di mesi. Nel frattempo, tutti i cittadini americani sono stati messi in guardia circa il fatto che i loro volti potrebbero essere inseriti in sistemi di ricerca automatizzata, che potrebbero dare risultati assai meno affidabili, rispetto ai risultati che dà invece l’ormai apprezzato sistema AFIS - automatic fingerprint identification system, la cui affidabilità è molto elevata e collaudata da decenni di utilizzo.

Adalberto Biasiotti

Questo articolo è pubblicato sotto una Licenza Creative Commons.

I contenuti presenti sul sito PuntoSicuro non possono essere utilizzati al fine di addestrare sistemi di intelligenza artificiale.