Forse gli applicativi intelligenti diventano troppo intelligenti!

Forse gli applicativi intelligenti diventano troppo intelligenti!

Gli applicativi di video analisi rappresentano una costante nella progettazione di impianti di videosorveglianza di medie e grandi dimensioni. Alcuni esperti però avanzano dei dubbi sul fatto che questi applicativi stiano diventando troppo intelligenti.

Risalgono agli anni 80 i primi applicativi, provenienti dall’estremo oriente, chiamati “motion detection”. Questi applicativi, che analizzavano le immagini riprese da telecamere analogiche, erano in grado di rilevare delle variazioni delle immagini e segnalare le zone coinvolte all’operatore.

Di strada ne è stata fatta moltissima, da quei tempi ad oggi, ed oggi gli applicativi di analisi intelligente del segnale video hanno raggiunto un livello di intelligenza e flessibilità straordinariamente elevato. Sono almeno 7-8 le funzioni che possono essere realizzate, utilizzando applicativi che rilevano non solo la variazione dell’immagine, ma anche la direzione e la velocità del movimento, nonché altri parametri, che portano alla visualizzazione di appropriate segnalazioni all’operatore.

D’altro canto, con impianti di videosorveglianza composti da centinaia di telecamere non è certamente pensabile che l’operatore possa tenere sotto controllo le immagini e quindi questi applicativi rappresentano una necessità.

L’aumento della potenza di calcolo dei computer e le dimensioni e costi sempre più ridotti delle memorie hanno fatto sì che oggi sia possibile sviluppare applicativi oltremodo intelligenti, caricati su schedine di memoria poste a bordo delle telecamere, oppure a bordo di server di adeguata potenza.

I più recenti sviluppi in termini di applicativi di video analitico, sostenuti da tecniche di intelligenza artificiale, permettono oggi agli applicativi di tenere sotto controllo le scene riprese con un livello di attenzione quasi simile a quello di un operatore umano. Ad esempio, le tecnologie di identificazione automatica permettono di riconoscere il soggetto ripreso e delle telecamere montate su droni possono tenere sotto controllo il traffico di un intero quartiere.

Il vantaggio di questi applicativi consiste nel fatto che essi tengono sotto controllo la situazione senza distrazioni, affaticamenti, od oneri per il personale.

Pubblicità

Modelli di documenti - Procedure per la gestione della Security nei luoghi di lavoro Tutti i modelli di procedure pronti all'uso per il responsabile della security (Security Manager)

Il livello di sorveglianza che può essere raggiunto è inimmaginabile, tornando indietro di soli pochi anni. Un volume, recentemente pubblicato, che metto a disposizione dei lettori, mette in evidenza come questi applicativi possano raggiungere livelli estremamente elevati di intelligenza, facendo sì che i controlli effettuati con impianti di videosorveglianza possano essere radicalmente modificati.

Oggi è possibile non solo verificare se un veicolo od una persona entrano in un’area proibita, ma possono anche individuare soggetti che corrono, rispetto a soggetti che camminano, in quanto si può rilevare anche la velocità di movimento.

Il salto di qualità in questi applicativi nasce dal fatto che oggi essi non solo identificano azioni, ma permettono di estrarre delle valutazioni su ciò che sta accadendo nelle scene riprese. Alcuni applicativi ad esempio possono mette in evidenza il fatto che persone, che non indossano una tuta, sono presenti all’interno di un magazzino, dove solo persone con specifico abbigliamento dovrebbero essere presenti.

Anche se l’applicativo non è in grado di identificare per nome e cognome una persona, è tuttavia in grado di acquisire la sua immagine e seguire tutti i suoi movimenti, mano a mano che l’individuo si sposta all’interno delle zone coperte da telecamere. Si tratta di un sistema di identificazione non legato a uno specifico individuo, ma legato a un soggetto che si aggira nelle zone riprese. Oggi Amazon, che ha aperto un paio di grandi magazzini per la vendita diretta, negli Stati Uniti, utilizza questi applicativi per mettere in evidenza comportamenti anomali di clienti, che potrebbero sottrarre del materiale.

Quando poi l’applicativo è in grado di accedere anche ai social media, il volto, di cui non si conosce l’identità, può essere invece identificato, proprio effettuando confronti automatici fra il volto catturato e le fotografie presenti sui social media.

Già da tempo sono in funzione applicativi che riconoscono automaticamente le targhe delle autovetture e possono accedere, sempre in forma automatica, agli archivi delle auto rubate o agli archivi della motorizzazione, per verificare se la revisione del veicolo è in vigore.

È evidente che degli applicativi di tale potenza possono essere utilizzati sia per il controllo dell’attività criminosa, ma anche per altre attività più invasive. Risulta infatti, da studi pubblicati su riviste di settore, che in Cina questi applicativi vengano utilizzati per tenere sotto controllo il comportamento di specifici soggetti, durante manifestazioni pubbliche, che potrebbero fare riferimento a comportamenti contrari a quanto le pubbliche autorità ritengono appropriato.

Altre applicazioni illecite di questi applicativi potrebbero essere legate al fatto che, ad esempio, persone di sesso ed etnia differenti potrebbero essere gestiti dall’applicativo in modo diverso, creando problemi, ad esempio, nell’accesso a aree, che si vogliono proteggere secondo parametri, non certamente dettati da armoniose accettazioni di genere e di etnia.

Non per nulla la amministrazione di San Francisco recentemente ha proibito l’utilizzo di tecnologie di riconoscimento facciale da parte della polizia e altri enti governativi, perché si ritiene che questi applicativi possano portare a risultati oltremodo invasivi nei confronti di soggetti ripresi.

È evidente che certamente questi interventi non possono bloccare lo sviluppo delle tecnologie, ma sempre più urgente diventa un intervento di inquadramento e coordinamento nell’uso di questi applicativi, sempre più performanti, per evitare utilizzi non appropriati.

I lettori che vorranno leggere il documento allegato si renderanno conto che le applicazioni di intelligenza artificiale possono creare un effetto moltiplicatore delle già avanzate prestazioni di questi applicativi, con conseguenze che è forse già ora possibile immaginare e che non sembrano affatto eque.

Adalberto Biasiotti

ACLU, “ Th­e Dawn of Robot Surveillance. AI, Video Analytics, and Privacy ” (formato PDF, 9.72 MB).                                                

Questo articolo è pubblicato sotto una Licenza Creative Commons.

I contenuti presenti sul sito PuntoSicuro non possono essere utilizzati al fine di addestrare sistemi di intelligenza artificiale.