Riconoscimento facciale: IBM e Amazon dicono stop. I motivi

Riconoscimento facciale: IBM e Amazon dicono stop. I motivi

Dito puntato contro la tecnologia per il riconoscimento facciale. Da più parti piovono accuse di razzismo e abuso di utilizzo. E dopo la folla nelle strade, a mettersi di traverso sono anche le Big Tech. Cosa sta accadendo in Occidente e l’eccezione Cina.

Ban per il riconoscimento facciale. Dopo l’uccisione di George Floyd e le proteste e le  rivolte contro la polizia che si sono succedute in tutto il mondo, anche i grandi della tecnologia ora scendono in campo a fianco delle organizzazioni per la difesa delle libertà civili, i sostenitori della privacy e i cittadini arrabbiati. La richiesta unanime è una regolamentazione che metta ordine su chi può usare il facial recognition, quando e perché.

Imputato Facial Recognition

L’accusa principale – e anche quella più pesante – è che il facial recognition si presti facilmente ad usi e abusi, alla profilazione etnica da parte delle polizie e che sia anche razzista. Sì, proprio razzista. Perché l’algoritmo d’Intelligenza Artificiale che sottende alla tecnologia del riconoscimento facciale, pare non sia assolutamente in grado di distinguere i visi scuri. Dove per scuri s’intende una tale ampia gamma di sfumature di colore di pelle, da tenere fuori solo i bianchi e mettere in uno stesso calderone intere popolazioni, dagli asiatici ai neri ai latini.

E poi ancora: rafforza i pregiudizi, lede la privacy degli individui, mina le basi dei diritti civili e induce in errore sull’identificazione del vero colpevole di un eventuale crimine. Perché se il software indica un sospettato con certezza al 90% e più, chi è preposto alle indagini sarà indotto a convincersi di qualcosa che potrebbe non essere. Una tecnologia divisiva, insomma, che però è già in uso un po’ ovunque. Anche in Italia (Perché Como è diventata una delle prime città in Italia a usare il riconoscimento facciale)

LEGGI ANCHE: Digital transformation, tutto quello che c’è da sapere

IBM, Amazon e Google: pollice verso sul facial recognition

La prima a schierarsi con decisione contro il facial recognition è stata IBM. Lo stesso CEO dell’azienda, Arvind Krishna, ha inviato una lettera al congresso degli Stati Uniti, affermando che la company si oppone fermamente all’uso del riconoscimento facciale e non accetterà in alcun modo l’utilizzo di questa tecnologia per fini di sorveglianza di massa, profilazione etnica, violazione di diritti umani e libertà (Riconoscimento facciale e pregiudizi etnici: Amazon e Ibm contro la polizia Usa).

A cascata sono seguiti gli altri colossi del tech, anche quelli che del riconoscimento facciale hanno fatto un loro prodotto. È il caso di Amazon e del suoRekognition, una tecnologia molto contestata per il facial recognition, già in dotazione alle agenzie governative. Vedendo la mala parata e l’evolversi degli eventi, Bezos ha pensato fosse il caso di allinearsi. Così ha imposto alla polizia un fermo di un anno al suo utilizzo, in attesa che il Congresso legiferi in materia. Unica eccezione, l’uso come strumento di supporto alla lotta alla tratta degli esseri umani e il ritrovamento dei bimbi scomparsi.

Critico anche Timnit Gebru, leader del team etico dell’Intelligenza Artificiale di Google. A suo giudizio il riconoscimento facciale è meno accurato di quello praticato dagli esseri umani, può realmente creare pregiudizio e danno alle comunità e si è già dimostrato uno strumento per la profilazione dei manifestanti. Insomma, una tecnologia prematura per i tempi, che non va, troppo poco trasparente (A case for banning facial recognition).

Senza contare il lato psicologico della questione. In questo caso, però, la tecnologia non c’entra. Si tratta di un’attitudine di noi esseri umani: tendiamo a fare troppo affidamento sulla tecnologia. E così smettiamo di controllare, di ragionare, di esercitare il dubbio.

Il caso ClearView AI

Le preoccupazioni (legittime) che circondano il riconoscimento facciale, non sembrano al momento sfiorare ClearView AI. Si tratta di un’applicazione, sviluppata da una start-up americana, che scandaglia la rete e raccoglie le immagini pubbliche degli utenti, senza che questi lo sappiamo o ne siano avvisati. Al momento la società sostiene di avere un database di 3 miliardi di immagini che, tramite confronto, consentono l’identificazione di una persona con una precisione del 99,6%. L’applicazione doveva essere riservata solo ai corpi di polizia e alle agenzie governative ma negli ultimi mesi i dubbi sulla cessione della tecnologia a singoli individui, disposti a pagare per averla, si sono moltiplicate. Del resto la trasparenza non è una delle principali qualità della company, che sembra avere tra i suoi clienti già moltissimi Paesi e stia puntando anche all’Europa, Italia inclusa, dove però deve affrontare un’alzata di scudi e – fortunatamente per noi – lo scoglio del GDPR (Una controversa startup di riconoscimento facciale vuole fare affari anche con l’Italia).

Per il patron della company, Hoan Ton-That, business is business. E, in questo caso, il riconoscimento facciale è proprio il core busines. Così, con la motivazione che il proprio software aiuta a diminuire i crimini, ClearView non solo non si è allineata alla posizione delle Big Tech ma ha apertamente dichiarato che continuerà a vendere la sua tecnologia ai dipartimenti di polizia sparsi per il mondo (Clearview AI Won’t Stop Providing Its Tool To Police Departments).

La Cina ama la biometria

Lo sappiamo da tempo: a differenza dell’Europa, dove è ben radicato, in Cina il concetto di privacy non esiste. Non sorprende dunque che, proprio nella superpotenza  asiatica, la tecnologia per il riconoscimento facciale trovi ampia applicazione. Il riconoscimento facciale è parte integrante del piano delle sicurezza di Pechino e ogni 1.000 abitanti ci sono circa 100 telecamere che sfruttano questa tecnologia per il controllo. Attualmente il facial recognition è in fase di test anche nelle metropolitane e persino se si tratta di effettuare degli acquisti come, per esempio, una nuova Sim card (Biometric data: 50 countries ranked by how they’re collecting it and what they’re doing with it)

Il ban può servire

Il vero, unico, grande scopo della tecnologia è migliorare le nostre esistenze. Quindi se il suo ruolo non solo è dubbio ma anche potenzialmente nocivo, allora occorre fermarsi e prendersi il tempo per ragionarci su ed elaborare direttive precise e chiare. In tal senso speriamo che la politica agisca. Ha tempo al massimo un anno, forse anche meno.

Cosa pensate della tecnologia per il riconoscimento facciale? In quali casi ritenete legittimo e utile utilizzarla e in quali no? Twittate i vostri commenti a @AgostinelliAldo

Se vi è piaciuto questo articolo, leggete anche: “Marketer e AI: gli investimenti sono in aumento. Ecco perché