Amazon ha vietato alla polizia di utilizzare il suo software di riconoscimento facciale per un anno. Secondo il governo, la moratoria sull’uso di Amazon Rekognition è progettata per offrire ai governi molte opportunità di introdurre regolamenti e quadri per impedire che il riconoscimento facciale contribuisca alla discriminazione in qualsiasi forma. Nel frattempo, Amazon continuerà a consentire alle organizzazioni dedite ad affrontare questioni come la tratta di esseri umani e il rapimento di minori di utilizzare la sua tecnologia. L'annuncio segue un'azione simile da parte di IBM, che ha interrotto tutte le attività di ricerca e sviluppo associate alla controversa tecnologia a causa del rischio di abuso.
Riconoscimento facciale amazzonico
Sebbene la tecnologia di riconoscimento facciale abbia fatto notevoli progressi negli ultimi anni e possa contribuire a legittimare le indagini di polizia, la sua applicazione è sempre stata controversa. Le preoccupazioni sulle possibilità della sorveglianza di massa e del punteggio sociale sono aggravate dalla questione dei pregiudizi legati all’intelligenza artificiale, che potrebbero vedere le persone discriminate in base ai loro attributi fisici. I metodi di controllo dei set di dati alla base dei modelli di intelligenza artificiale (incluso il software di riconoscimento facciale) per individuare eventuali pregiudizi rimangono incoerenti e non regolamentati, aumentando la possibilità che la tecnologia possa danneggiare ulteriormente i dati demografici delle minoranze. Amazon Rekognition ha affrontato i pregiudizi razziali stessi, con un articolo del 2019 scritto dai ricercatori Joy Buolamwini e Deborah Raji in cui si sostiene che il software non identifica correttamente le persone con la pelle più scura e confonde anche le donne con la pelle scura con gli uomini Lo studio ha anche scoperto che il sistema Amazon potrebbe valutare le immagini di individui dalla pelle chiara con una precisione quasi perfetta. I risultati sono stati poi verificati da un gruppo di ricercatori sull’intelligenza artificiale, che hanno fatto eco alle preoccupazioni espresse da Buolamwini secondo cui la tecnologia non dovrebbe essere utilizzata in un contesto di applicazione della legge. Amazon sembra essere giunto alla stessa conclusione, anche se non ha mai ammesso le accuse secondo cui il suo software Rekognition avrebbe pregiudizi razziali. "Stiamo attuando una moratoria di un anno sull'uso da parte della polizia della tecnologia di riconoscimento facciale di Amazon", si legge in una dichiarazione rilasciata dall'azienda. "Abbiamo sostenuto che i governi stabiliscano norme più severe per regolamentare l'uso etico della tecnologia di riconoscimento facciale e negli ultimi giorni il Congresso sembra pronto ad accettare questa sfida". "Speriamo che questa moratoria di un anno possa far guadagnare al Congresso abbastanza tempo per attuare le regole appropriate e siamo pronti ad aiutare se richiesto". Non è noto quante forze dell'ordine utilizzassero Amazon Rekognition prima del divieto, anche se questa decisione segna un cambiamento epocale nella politica dal 2018, quando il CEO di AWS Andy Jassy disse ai dipendenti di essere soddisfatto del valore offerto dal servizio a tutti i clienti, compresi la polizia. Via The Verge