Riepilogo:

In uno studio condotto dagli accademici di Harvard e del MIT, è stato scoperto che la Cina guida il mondo nell’esportazione della tecnologia di riconoscimento facciale. Le aziende cinesi hanno 201 accordi di esportazione che coinvolgono il riconoscimento del viso, mentre le aziende statunitensi hanno 128 accordi. Ciò ha sollevato preoccupazioni tra gli esperti secondo cui l’esportazione di questa tecnologia può consentire ai governi di eseguire una maggiore sorveglianza, violando potenzialmente i diritti umani dei cittadini. Il rapporto mette in evidenza anche le esportazioni della Cina nelle esportazioni di intelligenza artificiale (AI), con 250 accordi su 1.636 che coinvolgono una qualche forma di AI. Gli Stati Uniti sono il secondo esportatore più grande sia nel riconoscimento facciale che nella tecnologia AI.

Punti chiave:

1. La Cina è il leader mondiale nell’esportazione della tecnologia di riconoscimento facciale, seguita dagli Stati Uniti.

2. Le aziende cinesi guidano anche nelle esportazioni di intelligenza artificiale.

3. L’esportazione della tecnologia di riconoscimento facciale può portare ad una maggiore sorveglianza e potenziali violazioni dei diritti umani.

4. La tecnologia del riconoscimento facciale ha varie applicazioni pratiche.

5. I ricercatori del MIT-Harvard si sono concentrati sulla tecnologia Smart City, dove il riconoscimento del viso viene spesso utilizzato per la videosorveglianza.

6. Gli Stati Uniti hanno espresso preoccupazione per la Cina che guadagna un vantaggio nella tecnologia AI.

7. Il governo degli Stati Uniti ha imposto restrizioni alla tecnologia cinese, compresa la tecnologia 5G di Huawei.

8. Gli sforzi per limitare l’esportazione del riconoscimento facciale dalla Cina potrebbero comportare sanzioni nei paesi importanti.

9. Gli Stati Uniti devono regolare l’uso del riconoscimento facciale e dare l’esempio per altri paesi.

10. Le aziende cinesi dominano la tecnologia di riconoscimento facciale a causa dei legami governativi e dei finanziamenti.

Domande:

1. In che modo la Cina si confronta con gli Stati Uniti nell’esportazione della tecnologia di riconoscimento facciale?

La Cina è il leader mondiale nell’esportazione della tecnologia di riconoscimento facciale, con 201 accordi di esportazione, mentre gli Stati Uniti hanno 128 accordi.

2. Quali sono le preoccupazioni sollevate dagli esperti in merito all’esportazione della tecnologia di riconoscimento facciale?

Gli esperti sono preoccupati che l’esportazione della tecnologia del riconoscimento facciale possa consentire ai governi di eseguire una maggiore sorveglianza, violando potenzialmente i diritti umani dei cittadini.

3. Quali sono alcune applicazioni pratiche della tecnologia di riconoscimento facciale?

La tecnologia di riconoscimento facciale può essere utilizzata per sbloccare gli smartphone, fornire autenticazione nelle app e identificare gli amici nei post sui social media.

4. Qual è l’obiettivo dello studio dei ricercatori del MIT-Harvard?

I ricercatori si sono concentrati sulla tecnologia Smart City, dove il riconoscimento facciale è spesso distribuito per migliorare la videosorveglianza.

5. Ciò che preoccupava gli Stati Uniti espressi sulla Cina in termini di tecnologia AI?

Gli Stati Uniti hanno espresso preoccupazione per la Cina che guadagna un vantaggio nella tecnologia AI.

6. Quali restrizioni ha il governo degli Stati Uniti imposto alla tecnologia cinese?

Il governo degli Stati Uniti ha imposto restrizioni all’uso della tecnologia 5G di Huawei e ha preso di mira le aziende di intelligenza artificiale cinese con un embargo con chip.

7. Quali misure potrebbero essere prese per limitare l’esportazione della tecnologia di riconoscimento facciale dalla Cina?

Una possibile misura potrebbe essere imponente sanzioni sui paesi che importano la tecnologia. Gli Stati Uniti potrebbero anche regolare l’uso del riconoscimento facciale a livello nazionale e offrire alternative alla tecnologia cinese all’estero.

8. Qual è la preoccupazione per quanto riguarda gli Stati Uniti il ​​secondo più grande esportatore di tecnologia di riconoscimento facciale?

C’è la preoccupazione che gli Stati Uniti, essendo un importante esportatore della tecnologia di riconoscimento facciale, mina l’idea che la tecnologia americana incarna naturalmente i valori di libertà e democrazia.

9. Ci sono standard nazionali negli Stati Uniti che limitano l’uso del riconoscimento facciale?

No, non ci sono standard nazionali che limitano o limitano l’uso del riconoscimento facciale negli Stati Uniti, sebbene alcune città abbiano posto restrizioni al suo utilizzo.

10. Come può il successo degli Stati Uniti in Cina nell’esportazione della tecnologia di riconoscimento facciale?

Gli Stati Uniti possono contrastare il successo della Cina regolando l’uso del riconoscimento facciale a livello nazionale e offrendo tecnologie alternative alle esportazioni cinesi.

11. Perché le aziende cinesi vengono a dominare la tecnologia di riconoscimento facciale?

Uno dei motivi sono i loro legami con gli enti governativi, che forniscono una grande quantità di foto e finanziamenti significativi per lo sviluppo della tecnologia.

12. Quella che è stata la posizione del Congresso degli Stati Uniti sulla limitazione della tecnologia di riconoscimento facciale?

Le prospettive del Congresso degli Stati Uniti che concordano sui limiti significativi alla tecnologia di riconoscimento facciale sono sottili.

13. Qual è la preoccupazione per quanto riguarda i valori incorporati nella tecnologia americana?

Vi è la preoccupazione che la tecnologia americana, nonostante sia un importante esportatore di tecnologia di riconoscimento facciale, potrebbe non incarnare i valori di libertà e democrazia.

14. Quali sono le accuse contro le società statunitensi, come Clearview AI?

I gruppi di libertà civili sostengono che Clearview e società statunitensi simili invadono la privacy dei cittadini senza giustificazione legale collegando le immagini della telecamera di sorveglianza alle identità online.

15. Ciò che è stato suggerito come il modo migliore per contrastare il successo della Cina nell’esportazione del riconoscimento del viso?

La regolazione dell’uso del riconoscimento facciale a livello nazionale e che offre tecnologie alternative alle esportazioni cinesi è stata suggerita come i modi migliori per gli Stati Uniti di contrastare il successo della Cina.

Riconoscimento facciale e oltre: giornalista iniziale all’interno dello stato di sorveglianza della Cina

(Nota: la Thailandia è in procinto di introdurre una legge sulla protezione dei dati che garantirebbe il richiesto il consenso esplicito quando si utilizzano dati sensibili (compresa la biometria) ma i ritardi in corso rendono questo non chiaro al momento).

La Cina è il mondo’il più grande commerciante di riconoscimento facciale

Gli esperti temono che le vendite della tecnologia esportano anche idee autoritarie sulla sorveglianza biometrica. Il secondo esportatore più grande è gli Stati Uniti.

Salva la storia

Salva la storia

All’inizio dell’anno scorso, il governo del Bangladesh ha iniziato a valutare un’offerta da una società cinese senza nome per costruire una città intelligente nella baia del Bengala con infrastrutture arricchite dall’intelligenza artificiale. La costruzione della metropoli ad alta tecnologia deve ancora iniziare, ma se procede può includere software di riconoscimento facciale che può utilizzare le telecamere pubbliche per identificare le persone scomparse o tracciare i criminali in mezzo alla folla, capitalità già standard in molte città cinesi.

Il progetto è tra quelli che rendono la Cina il leader mondiale nell’esportazione del riconoscimento del viso, secondo uno studio degli accademici di Harvard e del MIT pubblicato la scorsa settimana dall’istituto di Brookings, un importante think tank.

Il rapporto rileva che le aziende cinesi guidano il mondo nell’esportazione del riconoscimento facciale, tenendo conto di 201 accordi di esportazione che coinvolgono la tecnologia, seguite da aziende statunitensi con 128 accordi. La Cina ha anche un vantaggio in AI in generale, con 250 su un totale di 1.636 accordi di esportazione che coinvolgono una qualche forma di AI a 136 paesi importanti. Il secondo più grande esportatore erano gli Stati Uniti, con 215 accordi AI.

Il rapporto sostiene che queste esportazioni possono consentire ad altri governi di eseguire più sorveglianza, potenzialmente danneggiando i cittadini’ diritti umani. “Il fatto che la Cina stia esportando in questi paesi può in qualche modo lanciarli per diventare più autocratici, quando in realtà potrebbero diventare più democratici,” afferma Martin Beraja, economista del MIT coinvolto nello studio il cui lavoro si concentra sul rapporto tra nuove tecnologie come AI, politiche del governo e macroeconomia.

La tecnologia del riconoscimento facciale ha numerose applicazioni pratiche, tra cui lo sblocco di smartphone, la fornitura di autenticazione nelle app e la ricerca di amici nei post sui social media. I ricercatori del MIT-Harvard si sono concentrati su affari che coinvolgono la cosiddetta tecnologia della città intelligente, in cui il riconoscimento facciale viene spesso distribuito per migliorare la videosorveglianza. La ricerca ha utilizzato le informazioni sui progetti di sorveglianza globale della Carnegie Endowment per la pace e i dati internazionali raschiati da società di intelligenza artificiale cinesi.

Negli ultimi anni i legislatori e i presidenti statunitensi hanno espresso preoccupazione per il fatto che la Cina stia guadagnando un vantaggio negli Stati Uniti nella tecnologia AI. Il rapporto sembra offrire prove concrete di un’area in cui si è già verificato questo turno.

Più popolare

Google lo fa’ti ho bisogno di acquistare il suo telefono pieghevole

Boone Ashworth

La leggenda di Zelda: lacrime del regno È un’evoluzione

Will Bedingfield

Voi’Probabilmente sottovalutare i chatbot AI

Steven Levy

Le 13 migliori bici elettriche per ogni tipo di corsa

Adrienne So

“Bolsterà il caso del perché dobbiamo impostare i parametri attorno a questo tipo di tecnologia,” afferma Alexandra Seymour, membro associato presso il Center for New American Security che studia le implicazioni politiche dell’IA.

C’è un crescente interesse bipartisan negli Stati Uniti nel limitare la tecnologia cinese in tutto il mondo. Sotto il presidente Trump, il governo degli Stati Uniti ha imposto le regole progettate per limitare l’uso di Huawei’S 5G Technology negli Stati Uniti e altrove e ha preso di mira in Cina’S AI Firms with a Chip Embargo. L’amministrazione Biden ha riscosso un blocco di chip più ampio che impedisce alle aziende cinesi di accedere a chip all’avanguardia o tecnologia di produzione di semiconduttori e ha posto sanzioni ai fornitori cinesi di riconoscimento facciale utilizzato per monitorare i musulmani Uyghur.

Cerca nel nostro database di intelligenza artificiale e scopri storie per settore, tecnologia, azienda e altro ancora.

Ulteriori sforzi per limitare l’esportazione del riconoscimento facciale dalla Cina potrebbero forse assumere la forma di sanzioni sui paesi che importano la tecnologia, afferma Seymour. Ma aggiunge che anche gli Stati Uniti devono dare l’esempio al resto del mondo in termini di regolazione dell’uso del riconoscimento facciale.

Il fatto che gli Stati Uniti siano il mondo’S il secondo più grande esportatore di rischi tecnologici per il riconoscimento facciale che minano l’idea – promossa dal governo degli Stati Uniti – che la tecnologia americana incarna naturalmente i valori di libertà e democrazia.

L’uso del riconoscimento facciale è in aumento tra i dipartimenti di polizia statunitensi e mentre alcune città hanno posto restrizioni all’uso della tecnologia, non vi sono standard nazionali che limitano o limitano il suo uso. Alcune aziende statunitensi, come Clearview AI, si sono sviluppate e stanno esportando strumenti di riconoscimento facciale in grado di collegare un’immagine della telecamera di sorveglianza di una persona, un caso d’uso che i gruppi di libertà civili sostengono invade il cittadino’S Privacy senza giustificazione legale.

Seymour dice il modo migliore per contrastare la Cina’Il successo nell’esportazione del riconoscimento del viso potrebbe essere quello di regolarne l’uso in patria e quindi offrire alternative alla tecnologia cinese all’estero. “Avere una conversazione sui valori aiuterà a modellare alcune delle limitazioni che devono essere impostate su queste tecnologie,” lei dice. Ma le prospettive del Congresso degli Stati Uniti che concordano sui limiti significativi alla tecnologia sembrano sottili.

Le aziende cinesi sono arrivate a dominare la tecnologia di riconoscimento facciale in parte a causa dei legami con enti governativi che possono fornire enormi quantità di foto e finanziamenti significativi per la tecnologia’Sviluppo S. In un documento pubblicato nel novembre 2021, Beraja e i suoi coautori hanno sostenuto che l’innovazione nello sviluppo del riconoscimento facciale AI può prosperare nelle autocrazie a causa dello stretto allineamento tra la tecnologia e gli obiettivi del governo.

Controllare la diffusione degli usi sgradevoli del riconoscimento del viso potrebbe essere difficile, perché la stessa tecnologia può avere molti più usi benigni.

E David Yang, uno di Beraja’I coautori e un economista presso la Harvard University, afferma che le recenti mosse statunitensi per contenere la tecnologia cinese si sono concentrate maggiormente sulla prevenzione dello sviluppo di nuove capacità, non limitando il trasferimento di quelle esistenti. “La Cina ha già sviluppato una suite completa di AI Tech di sorveglianza che può vendere,” lui dice. “Le recenti restrizioni non fanno nulla per cambiarlo.”

Seymour del Center for New American Security afferma che altre aree emergenti dell’IA potrebbero anche essere destinate a svilupparsi in potenti nuovi strumenti di sorveglianza la cui proliferazione dovrebbe essere attentamente monitorata.

Il riconoscimento del volto è stato uno dei primi usi pratici per l’IA ad apparire dopo algoritmi di elaborazione delle immagini notevolmente migliorati che utilizzano reti neurali artificiali emerse all’inizio del 2010. Suggerisce che i modelli di grandi dimensioni che hanno causato eccitazione per strumenti di conversazione intelligenti come Chatgpt potrebbero seguire un percorso simile, ad esempio essere adattati in modi più efficaci per censurare il contenuto web o analizzare le comunicazioni.

Riconoscimento facciale e oltre: giornalista iniziale all’interno dello “stato di sorveglianza” della Cina

Le telecamere di sicurezza e la tecnologia di riconoscimento facciale sono in aumento in Cina. Nel 2018, Le persone quotidianamente, Il portavoce dei media del partito comunista al potere cinese, ha affermato su Twitter in lingua inglese che il sistema di riconoscimento facciale del paese era in grado di scansionare i volti del 1 della Cina.4 miliardi di cittadini in un solo secondo.

Il giornalista tedesco Kai Strittmatter parla fluentemente mandarino e ha studiato la Cina per più di 30 anni. Dice che non è chiaro se il governo cinese sia in grado di utilizzare il software di riconoscimento facciale nel modo in cui sostiene. Ma aggiunge, a un certo livello, la veridicità dell’affermazione non è importante.

“Non importa nemmeno se sia vero o no, finché le persone ci credono”, dice. “Quello che sta facendo il partito comunista con tutta questa tecnologia di sorveglianza ad alta tecnologia è che stanno cercando di interiorizzare il controllo. . Una volta che credi sia vero, è come se non avessi nemmeno bisogno dei poliziotti all’angolo, perché stai diventando il tuo poliziotto.”

Il nuovo libro di Strittmatter, Siamo stati armonizzati: la vita nello stato di sorveglianza della Cina, esamina il ruolo della sorveglianza nello stato autoritario della Cina. Avverte che il presidente cinese Xi Jinping, che è salito al potere nel 2012, ha abbracciato una rigidità ideologica sconosciuta dai tempi di Mao Zedong.

“La maggior parte delle persone con cui ho parlato, anche membri del partito e persone all’interno delle istituzioni del partito, hanno pensato che forse Xi Jinping avrebbe iniziato con le riforme più in qualche modo liberale”, afferma Strittmatter. “Tutti sono stati completamente sorpresi da come si è rivelato. . È davvero un nuovo tipo di regime e stato che non abbiamo mai visto prima.”

Strittmatter afferma che lo stato cinese ha accumulato una sorprendente quantità di dati sui suoi cittadini, che usa per punire le persone per anche minori deviazioni dalle norme previste.

Parallelismi

Il riconoscimento facciale in Cina è un grande affare poiché i governi locali aumentano la sorveglianza

“Le persone a volte mi chiedono: ‘Dobbiamo temere la Cina?'”Dice Strittmatter. “La mia risposta è davvero, alla fine, non abbiamo bisogno di temere la Cina. Ciò che dobbiamo temere – se abbiamo bisogno di temere qualcosa – è in realtà noi stessi. È il nostro fatalismo, le nostre dimissioni. Dobbiamo alzarci e dobbiamo combattere per i nostri valori e per il nostro sistema, perché credo che sia ancora il meglio che abbiamo.”

Racconti di intervista

Sulla Cina diventa leader nell’intelligenza artificiale e nella raccolta dei dati

Da un lato, hai un ragazzo [xi] che sta reintroducendo la repressione su una scala che non abbiamo visto da Mao Zedong. Quindi è fondamentalmente con un piede che risale al passato, ma con l’altro piede, sta andando lontano, lontano nel futuro e abbraccia davvero tutta questa nuova tecnologia informatica e intelligenza artificiale e i big data, come, direi, nessun altro governo sul pianeta in realtà e certamente nessun altro governo autoritario.

Questa è una delle cose straordinarie, giusto? Voglio dire, ci è stato detto per così tanti anni e decenni da questi profeti tecnologici che ogni tipo di nuova tecnologia avrebbe effettivamente servito la causa della libertà e avrebbe minato e sovverterebbe il dominio autoritario. Bene, i cinesi, ci hanno già mostrato . Più di 20 anni, che non solo non hanno paura di quelle nuove tecnologie, ma al contrario, sono diventate amarle. .

Il partito comunista non vede quelle nuove tecnologie come un pericolo per la loro regola. Al contrario, hanno scoperto o pensano che in realtà queste nuove tecnologie danno loro nuovi strumenti che perfezionano la loro regola.

Il partito comunista non vede quelle nuove tecnologie come un pericolo per la loro regola. Al contrario, hanno scoperto o pensano che in realtà queste nuove tecnologie offrano loro nuovi strumenti che perfetteranno la loro regola, e renderà la loro regola a prova di crisi, e ora è la stessa cosa con l’intelligenza artificiale e i big data.

Su come l’uso diffuso dell’app WeChat consente allo stato cinese di monitorare i cittadini

C’è questa app su ogni telefono cellulare cinese che si chiama WeChat. E con WeChat fondamentalmente puoi vivere tutta la tua vita a WeChat. È iniziato come un normale programma di chat come WhatsApp, ma molto presto si è trasformato in una sorta di Facebook cinese. Poi è diventato un Uber cinese. Potresti ottenere credito, potresti richiedere credito alla tua banca con esso. Potresti usarlo come ID. Potresti presentare i tuoi documenti di divorzio tramite questa app al tribunale locale e puoi fare tutte le tue transazioni finanziarie tramite questa app. E questo funziona con i codici a barre. E usano già questi codici a barre da molto tempo.

Nessuno in Cina usa carte di credito. . Tutti fanno tutto con i loro telefoni cellulari. E così arrivi al punto che anche i mendicanti di strada li usano e ti diranno: “È così conveniente.”Ma allo stesso tempo, è anche incredibilmente conveniente per la sicurezza statale. E ognuna delle tue transazioni finirà effettivamente su uno dei server.

Su come i cittadini cinesi sentono la presenza dello stato attraverso Wechat

Kai Strittmatter è stato corrispondente in Cina per più di un decennio per Süddeutsche Zeitung, uno dei più grandi giornali tedeschi. Lasse Bech Martinussen/HarperCollins nascondere la didascalia

Didascalia a disattivazione

Lasse Bech Martinussen/HarperCollins

Kai Strittmatter è stato corrispondente in Cina per più di un decennio per Süddeutsche Zeitung, uno dei più grandi giornali tedeschi.

Lasse Bech Martinussen/HarperCollins

Cittadini cinesi, sono stati abituati a questo, sentono la presenza dello stato, hanno sentito la presenza dello stato per tutte le loro vite. Ti rendi conto che a volte quando alcuni dei tuoi testi vengono censurati, mancano improvvisamente parole o frasi . E non raggiungono mai l’altra parte o in realtà non hai parte della conversazione che i tuoi amici ti inviano. Questo è come qualcosa che molte esperienze cinesi. .

Tecnologia

La Cina intercetta i testi di WeChat da U.S. E all’estero, dicono i ricercatori

Avevo alcuni amici [che erano interessati alla politica] e ne ho visti due arrestati a causa dei loro record di WeChat, perché in realtà avevano su WeChat, erano d’accordo con altre persone, con gli amici per andare a una poesia in cui un poeta a Pechino avrebbe dovuto leggere alcune poesie a sostegno degli studenti di Hong Kong nella lotta per la democrazia. E non sono mai arrivati ​​alla lettura della poesia. Sono stati arrestati lungo la strada. Ed era chiaramente a causa delle loro conversazioni di WeChat.

Sul punto del sistema i cittadini hanno nella città di Rongcheng, in cui ottengono punti per buone azioni e ottengono punti ancorati per gli atti disonesti

In realtà è davvero come fuori da un libro illustrato. Ogni cittadino di Rongcheng inizia con un punteggio di 1.000 punti. E poi puoi salire. Puoi ottenere più punti facendo cose davvero buone per la società e puoi cadere. . Se hai più di 1.050 punti, puoi essere un cittadino AAA e poi diventi un cittadino AA se ti abbatti, e C e D. Se sei un cittadino D, in realtà sei disonesto e hai meno di 599 punti. .

Dicono di voler creare il cittadino onesto, il cittadino affidabile, e vogliono punire i Breakers Trust. Quindi, ad esempio, puoi guadagnare punti se doni sangue o midollo osseo o se dai lezioni ai bambini del vicino di cui hanno bisogno per la scuola. Sono andato in un quartiere in cui una signora ha ottenuto cinque punti perché in realtà ha fornito una delle sue stanze del seminterrato per il coro locale che ha cantato canzoni rivoluzionarie. .

Mondo

GitHub è diventato un paradiso per gli utenti di Internet censurati in Cina

Allo stesso tempo, vieni punito per le cose che non dovresti fare e puoi essere punito per Jaywalking. Puoi essere punito per il download di cose piratate. Puoi essere punito per aver lasciato il tuo cane [cacca] sul prato di fronte al quartiere, per tutti questi tipi di cose. Così tante di queste cose sarebbero in realtà azioni che le consideriamo anche non buone azioni e forse degne di essere puniti. Ma ovviamente, allora va molto oltre, e diventa anche politico. E puoi anche essere punito perché metti in pericolo l’armonia sociale su Internet, per esempio.

Sulle potenziali conseguenze se il tuo punteggio scende troppo basso nel sistema di punti

Quello che dobbiamo effettivamente dire è che stanno introducendo il sistema passo dopo passo. Ora, non è ancora un sistema a livello nazionale e dovremo vedere come si sviluppa nei prossimi due anni. Ma una cosa è già a livello nazionale, e questo è il sistema di liste nere. Se sei inserito nella lista nera perché il tuo credito sociale è inattivo, allora in realtà sei già sanzionato. Ad esempio, non ti è più permesso di prendere un aereo. Non sei più in grado di acquistare i biglietti aerei. Non ti è più permesso di prendere una ferrovia ad alta velocità. Non sei più permesso, ad esempio, in hotel costosi. I tuoi figli non sono più autorizzati ad andare in buone buone scuole e cose come questa. E questo è qualcosa che sta già accadendo. Questa è una parte del sistema già attiva. Nel 2018, c’erano più di 17 milioni di persone che venivano vietate dal volare a causa del sistema.

Su come le città implementeranno la vergogna pubblica

Hai questi sistemi di cartelloni pubblicitari e telecamere e telecamere di intelligenza artificiale quando Jaywalk, già già mentre sei ancora in mezzo alla strada, il tuo viso appare sull’enorme cartellone da vedere.

A Shenzhen, ad esempio, nel sud o a Shenyang, nel nord -est, hai questi sistemi di cartelloni pubblicitari e telecamere e telecamere di intelligenza artificiale quando Jaywalk, già già mentre sei ancora in mezzo alla strada, il tuo viso appare sull’enorme cartellone pubblicitario per tutti. E accanto al tuo viso, appare il tuo nome, il tuo numero ID, parte di esso è [censurato]. . Ma il punto è: “Sappiamo chi sei. Questo sei tu e in realtà stai danneggiando la società in questo momento in questo momento.”Quindi la vergogna pubblica è una parte importante.

SU Opinione pubblica su questi sistemi

Mondo

In Cina, una nuova chiamata per proteggere la privacy dei dati

Una lezione che ho imparato è che la propaganda funziona, le opere di censura. Funziona davvero. E le persone credono davvero molte delle cose che sentono, perché non hanno altre informazioni. Anche perché non c’è un dibattito pubblico su molte di queste cose. Non esiste una tradizione di dibattito pubblico sulla privacy, la protezione dei dati e cose come questa, e gli argomenti del governo sono sostanzialmente duplici: uno è . convenienza. Rende la tua vita così conveniente. E la seconda cosa è . rende la nostra vita più sicura. Questo è soprattutto quello che usano per il riconoscimento facciale e le telecamere, e in realtà rendiamo la tua vita al sicuro e al sicuro. E puoi attraversare la città, puoi lasciare la borsetta ora in un autobus e in un treno della metropolitana, e nessuno oserà prenderlo, e hanno ragione, probabilmente. E molte persone lo acquistano, e a loro piace.

Sam Briger e Seth Kelley hanno prodotto e modificato questa intervista per la trasmissione. Bridget Bentz e Molly Seavy-Gener lo hanno adattato per il Web.

La Cina ora consente ai cittadini di rinunciare al riconoscimento privato del volto. Fa il tuo paese?

Esso’non è segreto che la Cina’L’uso della tecnologia di riconoscimento facciale (FRT) è il più invasivo al mondo. Nella nostra recente analisi di come 100 paesi usano FRT, la Cina ha avuto il punteggio peggiore con l’uso più diffuso della tecnologia.

Ma in una svolta recente, la Cina’La Corte Suprema ha dato ai cittadini il diritto di rifiutare l’uso da parte di imprese private, tra cui banche, hotel e discoteche. La sentenza, che la Corte Suprema si è affrettata a eseguire perché è “non poteva’aspettare più,” Garantisce che il consenso di opt-in informato venga ottenuto da imprese private che vogliono usare FRT.

Questo rende questo un caso storico, Posizionare la Cina a testa alta e le spalle al di sopra di artisti del calibro di Stati Uniti, Regno Unito, Canada e Australia quando si tratta di proteggere i cittadini’ Privacy contro l’uso da parte delle imprese private.

Non solo questo è un caso straordinario perché proviene da un paese che’S rinomata per aver ignorato i cittadini’ Privacy, ma colloca la Cina all’interno di un gruppo di paesi d’élite (e incredibilmente piccolo) che hanno sentenze/pezzi di legislazione specifici che circondano l’uso della FRT per le imprese private. Mentre la FRT cresce a un ritmo esponenziale, molti paesi non riescono a stare al passo attraverso la loro legislazione. Quindi, anche se alcune protezioni per la privacy possono essere fornite attraverso artisti del calibro di GDPR, la mancanza di una legislazione specifica ed esplicita sull’uso del riconoscimento facciale significa che ci sono lacune e scappatoie che possono essere sfruttate.

Per scoprire come la Cina’S La nuova sentenza si oppone agli altri paesi, abbiamo studiato i primi 25 paesi (secondo il PIL) per vedere cosa, se non ci sono le sentenze della legislazione/del tribunale.

(Nota: la Thailandia è in procinto di introdurre una legge sulla protezione dei dati che garantirebbe il richiesto il consenso esplicito quando si utilizzano dati sensibili (compresa la biometria) ma i ritardi in corso rendono questo non chiaro al momento).

La Cina è solo uno dei sei paesi per governare le imprese private

Dei 25 paesi che abbiamo coperto, solo sei paesi hanno leggi/sentenze esplicite sull’uso di FRT in un ambiente privato. Questi sono Cina, Brasile, Spagna, Paesi Bassi, Svezia e Belgio. Il Belgio vieta categoricamente l’uso della FRT, mentre la Spagna ne limita gravemente l’uso (in generale, non ha una base giuridica se non in circostanze estreme, e.G. per infrastrutture critiche). La regola del resto è richiesto il consenso esplicito (informato, consenso opt-in). Ma, in Svezia’S Case, questo è richiesto solo se la tecnologia viene utilizzata per identificare le persone. Se viene utilizzato in modo anonimo (utilizza un caso in cui i modelli di movimento dei visitatori venivano monitorati ma le immagini del viso venivano immagazzinate/analizzate), il consenso ISN’T richiesto. Questo rende la Svezia’s che governa meno protezione per la privacy rispetto agli altri all’interno di questa categoria.

Anche la Francia e la Germania hanno alcune indicazioni dalle loro autorità pertinenti per la protezione dei dati, è necessaria la sentenza che è stato informato, il consenso opt-in è necessario.

In netto contrasto, sette paesi non riescono a fornire una protezione adeguata ai cittadini quando si tratta di non avere leggi chiare e non richiedono esplicitamente il consenso. Questi sono Stati Uniti, Arabia Saudita, Tailandia, Taiwan, Indonesia, Canada e India.

Negli Stati Uniti, solo una manciata di stati/città hanno vietato la FRT (tra cui Maine, Massachusetts e Cities di Minneapolis e San Francisco) ma senza sentenza federale o guida sul suo utilizzo, questo lascia ogni stato libero di governare su FRT in quanto desidera desiderare. In Canada, è attualmente possibile raccogliere e condividere immagini facciali a fini di identificazione senza consenso. Il Privacy Act non riesce anche a includere o definire informazioni facciali e biometriche.

Alcuni altri paesi rientrano tra i due estremi sopra indicati, con una legislazione/orientamento generale sulla protezione dei dati che può aiutare a limitare l’uso della FRT in un contesto privato. Ad esempio, le leggi e le raccomandazioni dell’UE possono entrare in vigore in Svizzera, Germania, Polonia e Italia, garantendo che si ottiene il consenso informato, opt-in. Ma poiché la legge locale non interpreta/applicazione di queste azioni, c’è una mancanza di chiarezza in queste aree.

Altri sei paesi richiedono un consenso informato, che significa che un cartello che mostra l’uso di FRT alla porta del negozio, ad esempio, può essere sufficiente. Questo è il caso in Messico, Giappone, Turchia, Corea del Sud, Australia e Regno Unito.

In Australia, ad esempio, una catena di minimarket, 7-Eleven, ha lanciato il riconoscimento facciale in tutti i 700 dei suoi negozi per confermare le valutazioni all’interno della sua app. Un segno, che recita: “Il sito è in costante videosorveglianza. Entrando nel negozio acconsenti alle telecamere di riconoscimento facciale che catturano e memorizzano la tua immagine” era considerato abbastanza adeguato dal negozio’s avvocati. Ma, nel Regno Unito, un uso apparentemente più invasivo della tecnologia è stato implementato all’interno del supermercato cooperativo. Ha installato tranquillamente il riconoscimento facciale in 18 dei suoi negozi meridionali nel tentativo di combattere il taccheggio. Il sistema, il faceewatch, le scansioni degli acquirenti’ affronta contro un database di sospetti di interesse. Se qualcuno è “riconosciuto” Viene quindi chiesto di lasciare il negozio. La società ha affermato che c’erano chiari segni in atto in modo da rispettare la legislazione pertinente.

In che modo le aziende ottengono il consenso informato, opt-in?

Gli esempi di cui sopra sono molto probabilmente visti come il modo più semplice e chiaro per ottenere le persone’consenso. Un cartello all’ingresso della porta avverte i visitatori della tecnologia in uso e, se entrano nella consapevolezza che è in atto, stanno dando il loro consenso.

Tuttavia, questo è informato, consenso di opt-out (il visitatore ISN’t Dare esplicitamente il loro consenso attraverso un documento firmato consegnato su un tablet prima di entrare nel negozio, per esempio) e viene fornito con un gran numero di problemi di privacy.

Innanzitutto, i segni possono essere in chiaro per le persone che entrano nel negozio, ma aggiungono una folla, una strada trafficata, le persone che si affrettano a fare commissioni e si può garantire che ogni visitatore abbia visto o smesso di leggere il cartello? NO.

In secondo luogo, la tecnologia può essere installata negli ingressi del negozio. Quindi, se un cliente si avvicina al negozio, nota il segno, non lo fa’T di consenso e se ne va, la loro immagine potrebbe essere già stata catturata.

Terzo, il negozio non è’t Dare ai clienti un’opzione. Se vogliono usare il negozio, devono acconsentire. Questo rimuove il “liberamente” E “esplicitamente” Dato elemento che alcune leggi richiedono quando si tratta di consenso.

Il processo complesso che le aziende dovrebbero passare per ottenere il consenso è forse il motivo per cui ci sono pochi esempi all’interno di paesi con rigorosi requisiti di consenso informato e di opt in opt in. Dover convincere tutti i clienti a firmare un modulo di consenso per entrare nel negozio sarebbe dispendioso in termini di tempo, costoso e forse scoraggiante. E quello’s prima di loro’verrebbe persino affrontato cosa succederebbe se un visitatore rifiutasse il loro consenso (come rimuoverebbe la loro immagine dalle telecamere mantenendo le immagini di coloro che’ve ha acconsentito?).

Ma nei paesi con leggi più rilassate e dove il consenso di opt-out è considerato abbastanza adeguato, da parte dei luoghi pubblici, e in particolare all’interno dei supermercati, sembra crescere a un tasso allarmante.

In sostanza, richiedendo legalmente il consenso informato, opt-in, i paesi stanno limitando gravemente l’uso da parte degli ambienti privati, sostenendo notevolmente i cittadini’ protezioni per la privacy. E il fatto che la Cina sia ora in prima linea in queste protezioni dovrebbe essere un chiaro segno per tutti gli altri paesi che usano la FRT che non si usano’T ha ottenuto tali misure che devono agire – Fast.

Metodologia

Utilizzando i primi 25 paesi secondo il PIL, abbiamo cercato la legislazione pertinente e le sentenze che circondano l’uso della tecnologia di riconoscimento facciale all’interno di contesti privati. Queste leggi/sentenze possono o meno applicarsi ai governi o alle forze dell’ordine e/o regole separate possono essere applicate a queste. Questo non è stato trattato in questa ricerca.

Inoltre, molti paesi hanno clausole all’interno della loro legislazione che offrono ai governi e alle forze dell’ordine il diritto di utilizzare la FRT in caso di sicurezza pubblica e altre circostanze di questo tipo. In questi tipi di casi, le agenzie governative potrebbero essere in grado di scavalcare i requisiti di privacy nelle imprese private se possono dimostrare che è nell’interesse della sicurezza pubblica. Ancora una volta, questo va oltre lo scopo della nostra ricerca.

Per un elenco completo di fonti e legislazioni, visitare qui.

Ricercatore dei dati: Rebecca Moody

Cosa c’è in questo articolo?

• La Cina è solo uno dei sei paesi per governare le imprese private
• In che modo le aziende ottengono il consenso informato, opt-in?
• Metodologia

Dibattito pubblico sulle tecnologie di riconoscimento facciale in Cina

Cina’L’ascesa sulla fase globale nei settori dell’intelligenza artificiale e del riconoscimento facciale è stata ampiamente notata nella borsa di studio e nei media in lingua occidentale. Gran parte dell’attenzione si è concentrata sulle applicazioni di queste tecnologie nei sistemi di sicurezza del governo e.

di Tristan g. Brown, Alexander Statman e Celine Sui

Pubblicato il 10 agosto 2021

Ultimo rilasciato

2 anni fa

Mostra dettagli

Dibattito pubblico sulle tecnologie di riconoscimento facciale in Cina

Astratto

Cina’L’ascesa sulla fase globale nei settori dell’intelligenza artificiale (AI) e il riconoscimento facciale è stata ampiamente notata nella borsa di studio e nei media in lingua occidentale. Gran parte dell’attenzione si è concentrata sulle applicazioni di queste tecnologie nei sistemi di sicurezza del governo e sulle loro implicazioni geopolitiche. Qui, cerchiamo di esplorare gli usi privati ​​e domestici del riconoscimento facciale. Quali dinamiche informano i dibattiti popolari sull’uso e le applicazioni di queste tecnologie in Cina e come si inseriscono in un quadro più globale? Presentiamo una serie di casi degli ultimi tre anni in cui il software di riconoscimento facciale ha attirato l’attenzione dei media in contesti legali, commerciali ed educativi. Riconoscendo che la Cina è troppo grande e diversificata perché ci sia solo una dinamica in gioco, proponiamo che mentre i dibattiti sul riconoscimento facciale sono diventati effettivamente più comuni, esiste ancora un ampio supporto pubblico per gli usi che promettono una maggiore sicurezza o convenienza. Lo stato è stato selettivamente ricettivo alla critica limitata, ma in genere in un modo che conserva il suo ruolo attivo nel modellare i contorni della discussione pubblica.

Parole chiave: Riconoscimento facciale, legge cinese, social media

Tristan g. Marrone
Facoltà di storia, Massachusetts Institute of Technology

Alexander Statman
School of Law, University of California, Los Angeles

Celine Sui
Dipartimento di Storia della Scienza, Medicina e Tecnologia, Johns Hopkins University

obiettivi formativi

• Introdurre gli studenti alla diversità dei modi in cui il riconoscimento facciale è discusso in contesti globali, in particolare sulle discussioni su “benefico” E “dannoso” usi della tecnologia.
• Portare la Cina nella conversazione sulla tecnologia ed etica per gli studenti in modo che capiscano cosa’s ampiamente simile tra la Cina’il caso s e quelli di altri paesi, nonché cosa’s diverso.
• Incoraggiare gli studenti a considerare la tensione tra etica e legge attraverso il caso della tecnologia di riconoscimento facciale.
• Fare in modo che gli studenti pensino alle circostanze in base alle quali i pubblici notizie e vocano preoccupazioni contro alcune tecnologie, nonché i rischi e i premi della partecipazione ai dibattiti che li circondano.
• Permettendo agli studenti di esaminare criticamente il ruolo che i governi potrebbero svolgere nel modellare le narrazioni sulle implicazioni etiche della distribuzione di tecnologie emergenti da parte di attori statali e privati.

introduzione

Nel gennaio del 2021, i risultati di un sondaggio sul riconoscimento facciale sono apparsi sul sito di notizie in lingua cinese Pechino News Think Tank. Il sondaggio ha rilevato che, su 1.515 intervistati anonimi a un questionario, oltre l’87 % si è opposto all’uso della tecnologia di riconoscimento facciale per i pagamenti in contesti commerciali come centri commerciali e strade al dettaglio, citando come una ragione principale per le loro sfiduci. Articoli in lingua inglese che coprono il sondaggio’I risultati sono presto seguiti, con uno intitolato “Il riconoscimento facciale viene utilizzato in Cina per tutto, dalla raccolta dei rifiuti ai distributori di rotoli per la toilette e i suoi cittadini si stanno crescendo sempre più allarmati, mostra le indagini, mostra le indagini.” 1 Un sondaggio simile dal 2019, che copre 6.152 intervistati, ha rilevato che circa l’80 % degli intervistati era preoccupato per la protezione dei dati personali in relazione al riconoscimento facciale. I risultati di questo sondaggio sono stati riportati anche nei media in lingua inglese e con conclusioni simili (ad esempio: “Il Cina Survey mostra un’alta preoccupazione per l’abuso di riconoscimento facciale”). 2

Un lettore che segue la pista mediatica in inglese potrebbe ragionevolmente presumere che i risultati di questi sondaggi di piccoli batch fossero indicativi di crescenti preoccupazioni in Cina riguardo al “Stato di sorveglianza.” Pur riconoscendo questa possibilità, suggeriamo una lettura alternativa in cui la preoccupazione pubblica è principalmente diretta verso specifici tipi di usi privati, indicando che l’autorità finale dello stato per utilizzare la tecnologia di riconoscimento facciale è ampiamente accettata. Il nostro obiettivo è identificare istanze di dibattito pubblico sul riconoscimento facciale in Cina e offrire alcune osservazioni preliminari sui contesti in cui si verifica e sui modi in cui lo stato risponde. Cerchiamo anche di collocare queste analisi in un contesto più ampio globale per aiutare a illuminare ciò che è e ciò che non è specifico per il caso cinese.

Le tecnologie di riconoscimento facciale in Cina sono state adottate non solo dalle istituzioni statali, ma anche da una vasta gamma di imprese private. Oggi sono intrecciati in pagamenti digitali, sale d’attesa ospedaliere, complessi abitativi, sistemi di trasporto e polizia urbana. 3 Le tecnologie di riconoscimento facciale sono ampiamente apprezzate dal grande pubblico quando sono intese come una maggiore comodità e sicurezza: ad esempio, pagamenti commerciali più veloci, senza contanti o saltando la coda di sicurezza in metros, biblioteche, stazioni ferroviarie, aeroporti e così via. D’altra parte, è più probabile che le sfide si verifichino quando il riconoscimento facciale viene implementato dalle aziende a scopo di lucro in modi che si percepiscono di interferire direttamente negli individui’ vite quotidiane senza risparmiare tempo o aumentare la loro sicurezza. In effetti, un commentatore ha definito la raccolta aziendale di dati biometrici in Cina a “gratuito per tutti.” 4 Un avvertimento importante proviene dalla distorsione della fonte: i dibattiti che possono rimanere online possono allinearsi con il governo centrale’O obiettivi, quindi hanno molte più probabilità di acquisire sfide agli usi commerciali della tecnologia rispetto a quelli dello stato. Tuttavia, questo fatto è esso stesso significativo, perché rivela come lo stato controlla la narrazione sulle tecnologie di riconoscimento facciale consentendo protesta e dissenso limitati.

In Cina come in altri paesi, diversi standard legali si applicano agli usi pubblici e privati ​​del riconoscimento facciale. Gli organi di sicurezza statale possono essenzialmente raccogliere qualsiasi informazione ritenuta necessaria nei luoghi pubblici o quando indagano su un crimine. Rispetto agli Stati Uniti, esiste un sistema di leggi sulla privacy relativamente più debole che proteggono i cittadini dalle indagini della polizia e le leggi sulle procedure penali che regolano le azioni delle forze dell’ordine. 5 La polizia ha il dovere di mantenere le informazioni personali, comprese le informazioni biometriche – confidenziali, ma i vincoli su come le raccolgono o usano internamente sono minimi. Per questo motivo, la maggior parte del dibattito pubblico in Cina sul riconoscimento facciale riguarda piuttosto il suo utilizzo da parte di organizzazioni private, tra cui le imprese a scopo di lucro e i complessi residenziali. Detto questo, il ruolo delle organizzazioni private si allinea allo stato in diversi modi. Il loro uso della tecnologia di riconoscimento facciale tende ad essere accettato maggiormente quando contribuisce a due priorità statali ampiamente accettate come legittime: maggiore sicurezza e convenienza generale.

Un tema centrale dei media cinesi domestici è la sicurezza pubblica a livello locale. Con frequenti rapporti sulle sparatorie di massa negli Stati Uniti, tumulto politico altrove e la diffusione globale di Covid-19, non è raro incontrare l’opinione che la Cina “è il paese più sicuro del mondo.” 6 senza interrogare l’accuratezza o la trasparenza del paese’statistiche criminali ufficiali, è sicuro affermare che questa attenzione “sicurezza pubblica” è diventato una parte particolarmente importante della narrativa nazionale sotto la guida di Xi Jinping. L’implementazione diffusa della tecnologia di riconoscimento facciale da parte degli organi di sicurezza pubblica nel paese è stato effettivamente correlato alle direttive ufficiali per migliorare la sicurezza pubblica.

L’implementazione delle tecnologie di riconoscimento facciale è stata anche incorniciata e intesa come miglioramento della comodità degli utenti, specialmente nel caso di pagamenti senza contanti, che oggi sono onnipresenti in Cina. In altri casi, il riconoscimento facciale consente alle persone di svolgere la propria attività con meno interruzioni a causa di controlli di identità che già si verificano comunque. Negli Stati Uniti dopo gli attacchi del terrorismo dell’11 settembre, l’aumento delle misure di sicurezza ha spesso comportato inconvenienti per i passeggeri che viaggiano negli aeroporti o frequentano grandi sedi. Qualcosa di simile esiste in Cina, in cui i checkpoint di sicurezza sono comuni nei sistemi metropolitane e nei sistemi dei treni. Poiché la tecnologia di riconoscimento facciale può rendere i controlli di sicurezza sia più rapidi che più approfonditi, questi usi governativi della tecnologia di riconoscimento facciale sono talvolta citati come crescenti sicurezza e comodità allo stesso tempo, che è un potente arco narrativo per favorire il sostegno per la sua adozione.

Lo sviluppo e la regolamentazione del riconoscimento facciale in Cina e oltre

Lo sviluppo della tecnologia di riconoscimento facciale in Cina ha seguito un percorso dei primi pionieri, attraverso il supporto statale per le nuove scoperte, a completare il lancio nazionale. Negli anni ’80 e ’90, molti degli attuali leader del settore, come Tang Xiao’Ou 汤晓鸥 che ha conseguito il dottorato di ricerca dal MIT nel 1996, ha completato i loro titoli all’estero prima di tornare a gettare le basi per i miglioramenti dei modelli esistenti e successivamente innovazioni tecnologiche. 7 Già nel 1989, il Ministero della pubblica sicurezza ha commissionato Su Guangda 苏光大, professore di ingegneria elettrica dell’Università di Tsinghua, per intraprendere un progetto di ricerca chiamato “Sistema di combinazione di ritratti per computer.” Dopo molti anni di lavoro accademico, Su’Il sistema di riconoscimento facciale integrato è stato testato a livello nazionale nel 2005, con il primo database facciale contenente oltre dieci milioni di volti completati dai Giochi Olimpici di Pechino del 2008. 8

L’anno 2014 ha segnato importanti progressi nella tecnologia di riconoscimento facciale a livello globale. Nel marzo di quell’anno, Facebook ha annunciato che il suo algoritmo DeepFace, che per la prima volta ha integrato il deep learning con la verifica facciale per identificare gli umani nelle immagini digitali, ha raggiunto un tasso di precisione record di 97.35 percento sui volti etichettati nel benchmark selvaggio. 9 quello stesso anno, Tang Xiao’OU 汤晓鸥 ha guidato un team di ricerca presso l’Università cinese di Hong Kong per superare Facebook’S record con un tasso di precisione di 98.52 percento, segnando la prima volta che l’intelligenza artificiale (AI) ha superato le prestazioni a livello umano. 10 Nell’ottobre del 2014, Tang ha monetizzato gli algoritmi fondando il sensetime, che è diventato il mondo’La compagnia di intelligenza artificiale più preziosa alla fine del 2010. 11

Le scoperte tecnologiche della metà del 2010 hanno fornito viali per l’uso di massa del riconoscimento facciale, compresi i nuovi meccanismi per la sorveglianza statale. C’è stato un quadro complesso emergente in tutto il paese, con importanti investimenti in capitale privato nelle startup dell’IA, lo sviluppo di infrastrutture tecniche che supportano la raccolta dei dati di massa, l’uso diffuso del riconoscimento facciale nei settori pubblico e commerciale e, in particolare, il lancio statale della tecnologia di monitoraggio e i gruppi etnici di polizia di polizia. Nel 2016, Chen Quanguo 陈全 国 è stato nominato segretario del partito comunista della regione autonoma Uyghur di Xinjiang dal suo precedente post in Tibet. Il suo mandato ha visto la creazione di ciò che lo stato si riferisce ufficialmente come “Xinjiang Centri di istruzione e formazione professionale” Nella regione, così come il diffuso lancio di tecnologie di riconoscimento facciale per sorvegliare l’area. 12 Questo utilizzo è generalmente raggruppato nei rapporti del governo con discussioni sulla pubblica sicurezza. La sua piena estensione è sconosciuta, sia per il pubblico che per gli osservatori accademici.

Sebbene non vi sia ancora alcuna legge che regola specificamente l’uso del riconoscimento facciale in Cina, una varietà di leggi esistenti, tra cui il codice civile del 2020 e la legge sulla sicurezza informatica del 2017, sono state citate dai tribunali cinesi nelle decisioni di regolare la raccolta e la distribuzione privata delle persone’ Dati facciali. Sono anche importanti gli standard di sicurezza delle informazioni personali, che sono linee guida non compulsive emesse a beneficio degli attori statali e non statali. L’attuale usanza legale può diventare più esplicita nel 2021, se viene approvata una nuova legge proposta, la legge sulla protezione delle informazioni personali (PIPL), che riguarda l’uso commerciale delle tecnologie di riconoscimento facciale,. 13

Questa legge proposta avrebbe due conseguenze importanti. In primo luogo, limiterebbe l’uso della raccolta dei dati di riconoscimento facciale nei luoghi pubblici commerciali in circostanze in cui si trova nell’interesse di “sicurezza pubblica” come definito dallo stato. In secondo luogo, richiederebbe che sia installata la segnaletica per chiarire che tale raccolta si sta verificando e impedire l’ulteriore distribuzione delle informazioni senza esplicito consenso. 14 Ma ci sono importanti avvertenze per ogni disposizione: i confini della pubblica sicurezza sono amorfi e il consenso pubblico per tali misure non è stato storicamente difficile da raggiungere. Una sezione aggiuntiva pone anche alcune restrizioni sugli organi statali, che “non può superare la portata o l’estensione necessarie per adempiere ai loro doveri e responsabilità statutari”—Quando si deve ricordare che determinare tale portata e estensione rimane lo stato’S Prerogativa unica. 15 In breve, la legge proposta renderebbe più facile per lo stato reprimere gli usi privati ​​della tecnologia, affrontando al contempo il pubblico’S preoccupazioni per determinati abusi di dati personali. 16

Cina’L’uso del riconoscimento facciale non è semplicemente una storia cinese. Le aziende americane sono state coinvolte nei dibattiti etici sulla Cina’S Uso del riconoscimento facciale mentre tentano di navigare i propri usi e gli standard legali su tutta la linea rimangono oscuri. Nel 2019, quattro ricercatori con sede negli Stati Uniti hanno scritto all’editore Wiley per ritirare un documento scientifico contenente algoritmi che erano stati utilizzati per tenere traccia dei membri del gruppo etnico Uyghur in Cina. 17 MIT in particolare è stato sottoposto a controllo per le sue associazioni con società di intelligenza artificiale, come Sensetime e Iflytek, che presumibilmente hanno dispiegato tali tecnologie contro le minoranze etniche all’interno della Cina. 18 casi come questi hanno dominato la copertura dei media occidentali della Cina’strout di riconoscimento facciale; Inutile dire che la copertura all’interno della Cina è stata diversa. Mentre i rapporti occidentali hanno ampiamente interrogato le società tecnologiche private che collaborano con lo stato cinese per scopi di sorveglianza, la discussione interna cinese ha spesso richiesto un aumento della supervisione dello stato sulle società private. Il nostro obiettivo non è quello di interrogare quale enfasi è legalmente o eticamente desiderabile, ma piuttosto di introdurre il pubblico alla diversità dei modi in cui questa tecnologia è stata discussa in contesti globali.

Un’ipotesi comune ai rapporti dei media nei paesi occidentali è che la Cina’Il lancio del riconoscimento facciale è unicamente distopico. Tuttavia, i problemi legali e normativi che la Cina deve affrontare e le ambiguità che li circondano sono in astratto non così diversi dagli Stati Uniti o dall’Europa. Negli Stati Uniti, ad esempio, alcuni stati rendono illegale per le imprese private utilizzare una persona’S Dati biometrici facciali senza il loro consenso, mentre altri no. L’Unione europea e la zona economica europea’S Regolamento generale sulla protezione dei dati (GDPR), in effetti da maggio 2018, protegge i dati biometrici personali per i cittadini dell’UE sia in Europa che all’estero e impedisce i loro dati di essere trasferiti in un paese terzo. Ma anche in Europa, rimane indeterminato se i regolamenti si abbinano ai dati biometrici trasferiti nell’UE da cittadini non europei all’estero, come si applica a “transitorio” (non personalmente identificabili) dati e come si estende ai contesti di ricerca accademica. 19

Le principali differenze tra la Cina e i casi statunitensi riguardano i rispettivi quadri costituzionali e correttamente i termini del dibattito pubblico. Negli Stati Uniti, la Carta dei diritti cuoce la protezione legale dell’individuo dallo Stato alla Costituzione. Il dibattito pubblico spesso riflette questa realtà, vista dalle recenti controversie politiche sui passaporti dei vaccini. I dibattiti negli Stati Uniti hanno anche toccato l’importante questione della razza, in particolare in relazione all’ingiustizia algoritmica nelle tecnologie di riconoscimento facciale. 20 Questa dimensione è stata generalmente assente nelle discussioni nazionali all’interno della Cina, nonostante l’uso della tecnologia sui gruppi di minoranza. Inoltre, i tribunali statunitensi sono in qualche modo indipendenti dal sistema politico, il che non è il caso in Cina. I termini e gli enfasi del possibile dibattito sono diversi e alcuni aspetti della Cina’Il lancio del riconoscimento facciale, in particolare nel contesto della sicurezza pubblica, è stato relativamente olimit per la discussione pubblica. Tuttavia, la legge statale e il sistema legale, come vedremo di seguito, contano davvero in Cina, anche se è intrinsecamente intrecciata con lo stato del partito, ed non è saggio supporre che la Cina rappresenti un esempio nazionale che non può offrire lezioni e riflessioni per i paesi occidentali sul tema del riconoscimento facciale.

Negli ultimi anni, ci sono stati diversi incidenti principali che hanno coinvolto il riconoscimento facciale in Cina che hanno suscitato una notevole discussione interna. Profittiamo quattro di questi casi. Ognuno di questi casi è stato ampiamente discusso nei media di proprietà statale o sui social media monitorati dallo stato, che sono i luoghi principali per i cittadini cinesi per accedere a notizie e analisi. Ogni caso rappresenta quindi una controversia secondo cui il governo centrale è disposto a sostenere, se non perdona. Per questo motivo, si dovrebbe presumere che non riflettano l’intera gamma di opinioni private. Tuttavia, i quattro seguenti casi sono interessanti perché mostrano l’ampio spettro sociale di questioni relative al riconoscimento facciale in Cina oggi: dai suoi usi negli affari, nell’istruzione e nella sicurezza, alla sua discussione nelle notizie tradizionali di trasmissione, sui social media online e nel sistema legale. Ciò che questi usi e discussioni nel tutto suggeriscono è che alcuni apparenti scettici del riconoscimento facciale possono effettivamente essere a favore della supervisione e della regolamentazione del governo più centrali, non meno. Questo spiega perché alcune discussioni sulla tecnologia del riconoscimento facciale sono prese sul serio e il più delle volte affrontate dal governo.

Case Study One: A Wildlife Park

Nel 2019, un professore di giurisprudenza presso la Zhejiang Polytechnic University, Guo Bing 郭兵, ha citato in giudizio l’Hangzhou Wildlife Park, un’azienda privata situata nella provincia di Zhejiang, per aver presumibilmente violato il paese’S La legge sulla protezione dei consumatori raccogliendo visitatori’ dati individuali attraverso il riconoscimento facciale. Negli anni passati, il professor Guo aveva usato le impronte digitali per entrare nel parco’I locali, ma nell’ottobre del 2019, ha appreso che era diventato obbligatorio per gli ospiti registrarsi utilizzando l’organizzazione’sistema di riconoscimento facciale. Cioè, l’impresa si è spostata su un sistema di riconoscimento facciale per registrare i visitatori che entrano nel parco. A seguito dell’accettazione ampiamente segnalata di Guo’S Case dal popolo del distretto di Fuyang’La corte di Hangzhou, la corte ha stabilito che il parco ha dovuto rimborsare la sua quota di abbonamento ed eliminare tutti i suoi dati facciali, incluso la sua fotografia originale, dal sistema informativo del registro dei visitatori. 21 Un’ulteriore sentenza su Guo’Il caso S emesso dalla stessa corte ha ordinato allo zoo di eliminare ulteriormente Guo’S Dati di impronta digitale, che erano stati precedentemente raccolti con il suo consenso. 22

Guo’Il caso S è stato identificato dai media nazionali cinesi come il “Primo caso giudiziario che coinvolge l’uso del riconoscimento facciale in Cina.” 23 Il caso avrebbe dovuto dipendere dagli standard di sicurezza delle informazioni personali, che riguardavano la questione se il parco avesse agito in conformità con i tre principi di “legalità, validità e necessità” Per la raccolta privata di dati personali dai consumatori. Tuttavia, nella sua sentenza finale, il tribunale ha ampiamente eliminato queste questioni più ampie, centrando invece in merito agli obblighi contrattuali e al consenso degli utenti. La corte ha semplicemente ordinato al parco di eliminare le informazioni sul viso che erano state raccolte, secondo il principio che il parco’S Switch dall’identificazione delle impronte digitali al riconoscimento facciale – che Guo non ha accettato – ha esteso il contratto di servizio esistente rappresentato dalla sua carta di iscrizione al parco annuale. 24 Le sentenze non vietarono al parco di raccogliere dati facciali, sebbene il parco fosse apparentemente trasferito in un sistema volontario di opt-in e opt-out anche prima che il caso fosse ascoltato dal tribunale distrettuale. La Corte ha anche negato Guo’s sostanziale affermazione secondo cui la raccolta di informazioni facciali senza il suo permesso costituiva una violazione dei tre principi. Vale la pena sottolineare le implicazioni limitate di questo singolo caso, che non ha affrontato le condizioni in cui la tecnologia di riconoscimento facciale potrebbe essere distribuita da imprese private. Ciò che ha indicato è solo che in determinate circostanze, le parti private dovrebbero ottenere il consenso prima di raccogliere dati di riconoscimento facciale.

IL “Primo caso di riconoscimento facciale” In Cina ha attirato una significativa attenzione su Internet cinese. Questa attenzione è essa stessa significativa, come possiamo supporre dal suo restante online che lo stato ha permesso un grado di dibattito sulla questione, aumentando così il pubblico interno’s Consapevolezza dello stato’s supervisione della protezione dei dati e del consenso dell’utente. Le indagini di cui sopra hanno rivelato specifiche preoccupazioni pubbliche sulla potenziale mancanza di adeguate procedure contrattuali nella raccolta dei dati facciali da parte delle imprese private. 25 In questo caso, lo stato, rappresentato dai tribunali, ha svolto il ruolo di protettore sociale applicando un grado di protezione dei consumatori e quindi ha incoraggiato una conversazione più ampia al riguardo. Sebbene gli esperti legali abbiano espresso riserve sull’impatto legale di questa sentenza, dal punto di vista politico vi era un diffuso sostegno alla Corte’S decisione tra i commentatori dei cittadini, come si vede nei seguenti commenti sul sito web dei social media cinesi, Weibo. (Vedi Figura 1.) Sembra quindi che i cittadini possano essere meno preoccupati di stabilire condizioni legali generali in base alle quali possono avvenire le attività di riconoscimento facciale che per garantire che abbiano una certa misura per quanto riguarda la propria partecipazione. 26

Caso di studio due: monitoraggio degli studenti

Nel 2019, China Pharmaceutical University, un’istituzione pubblica di istruzione superiore situata nella provincia di Jiangsu, ha lanciato un sistema di riconoscimento facciale in alcune aule per monitorare la frequenza degli studenti e le prestazioni della classe. Era piuttosto ampio e potente, anche in grado di rilevare gli studenti che si doravano in classe. Seguì il pushback locale, con i membri degli studenti della comunità scolastica e altri commentatori online che esprimono scetticismo sulla proposta. Nonostante questo respingimento, l’università è rimasta ferma. Il portavoce ha giustificato i suoi piani con un vago riferimento alla sicurezza pubblica, sostenendo che l’università costituiva uno spazio pubblico in cui era garantita una sorveglianza completa. 27 anche in questo caso, lo stato’S Action era limitata, sebbene a conti fatti sembra essersi schierata leggermente di più con la festa che utilizza la tecnologia di riconoscimento facciale. Il Ministero della Pubblica Istruzione a Pechino alla fine ha risposto con la promessa di implementare un tale piano con cautela e, al momento della stesura, il sistema veniva ancora lanciato. 28

Il respingimento online contro la misura ha rivelato che l’opposizione era particolarmente forte per l’uso del riconoscimento facciale in classe. Queste telecamere sono andate oltre l’identificazione degli studenti semplicemente. Erano intesi piuttosto come uno strumento disciplinare per monitorare i comportamenti degli studenti, come la frequenza di classe e le emozioni, come i livelli di attenzione. Alcuni studenti hanno equiparato la presenza di una tecnologia di sorveglianza avanzata nelle aule alle carceri educative. Altri commentatori hanno messo in dubbio la necessità di monitorare gli studenti universitari, che avevano già dimostrato l’autodisciplina durante i loro anni di preparazione per la Cina’s rigoroso esame di ammissione al college, il Gaokao. Alcuni hanno criticato l’idea di dare la priorità alle tecnologie di sorveglianza rispetto agli aggiornamenti in classe. Nessuno, tuttavia, ha espresso una critica ampia di tecnologie di riconoscimento facciale di per sé.

In effetti, l’università aveva già una storia di utilizzo del software di riconoscimento facciale, che non era solo non opposto, ma anche ampiamente popolare. A partire dal 2019, i sistemi di riconoscimento del viso sono stati installati nei principali ingressi, dormitori e librerie per l’accesso facilitato e la sicurezza del campus. Queste misure sono state ricevute in modo abbastanza positivo dagli studenti, alcuni dei quali sono stati sollevati dal fatto che dimenticare le loro carte di accesso nelle loro stanze del dormitorio non era più una causa di preoccupazione. I flussi di traffico pedonale sono stati notevolmente migliorati. Campus universitari in tutta la Cina avevano implementato misure simili, senza problemi apparenti. La nuova proposta alla China Pharmaceutical University era, tuttavia, unica nell’installazione anche di telecamere in alcune aule per l’uso nel monitoraggio del comportamento degli studenti, e questo era il problema specifico che ha guidato l’insoddisfazione degli studenti e online. 29 (vedi Figura 2.)

Cina Università farmaceutica’S Uso del riconoscimento facciale sia in classe che all’esterno tocca oggi una serie di temi chiave in prima linea nelle discussioni nel paese. Rivela un’accettazione generale e un supporto per le misure che sono intese per migliorare la sicurezza e facilitare la comodità. Allo stesso tempo, rivela un grado di sospetto di usi che vanno oltre queste funzioni. L’uso delle telecamere nelle aule ha potenzialmente introdotto il monitoraggio degli studenti’ comportamenti individuali, toccando un nervo in tutto il corpo studentesco che continua ad essere discussi online oggi. Tuttavia, anche i sostenitori hanno risposto, difendendo l’uso del riconoscimento facciale nelle aule come opportunità per tracciare gli studenti’ apprendimento. La discussione in corso sui limiti adeguati della tecnologia di riconoscimento facciale continua quindi, consentendo a diverse voci di esprimere le loro opinioni all’interno di un insieme abbastanza stretto di parametri.

Anche se la libertà di parola non è esplicitamente menzionata nella stampa cinese, tanto meno dai tribunali, non è irragionevole pensare che potrebbe aver avuto un po ‘di opinioni della comunità in un contesto accademico. Non c’è dubbio che il suo dispiegamento in classe potrebbe avere l’effetto di cambiare ciò che i professori insegnano e gli studenti sono disposti a dire. In effetti, uno dei commenti popolari su questo post ha toccato la nozione molto sensibile di “diritti umani,” implicando che gli studenti’ I diritti alla privacy sono stati violati dallo spiegamento della tecnologia. Il fatto che il commento non sia stato eliminato dai censori statali suggerisce inoltre la volontà di sostenere alcune critiche particolarmente difficili nel contesto specifico di un contesto educativo, in cui il controllo statale è già fermo e in cui gli investimenti nello status quo sono più alti.

Per non dare l’impressione che la raccolta di dati facciali per studenti sia stata unica per la Cina, ci sono stati diversi casi sulla raccolta di big data anche nelle università americane. Come in Cina, le università – con un gran numero di studenti che riappariranno ancora e ancora negli scatti della telecamera – sono alimentari allettanti per estrarre i dati facciali e sperimentare nuove tecnologie. Nel 2016, la Duke University ha rilasciato oltre due milioni di video frame di filmati di studenti che camminano nel campus universitario. Gli scienziati dell’Università di Stanford e dell’Università di Washington si sono impegnati in atti di data mining fuori dal campus e hanno pubblicato le informazioni senza esplicito consenso. Sebbene gran parte di questi dati siano stati eliminati nel 2019 in seguito all’attenzione dei media nazionali, i documenti accademici hanno continuato a citare i dati raccolti dalle raccolte di immagini. 30 Rimane un vero problema nel fatto che non è sempre possibile sapere quando viene utilizzato il riconoscimento facciale, poiché è tecnicamente fattibile prendere campionati selettivi di dati dalle immagini di telecamere di sicurezza generiche. Nel 2020, gli studenti dell’Università di Miami hanno accusato la scuola’Samministrazione S dell’utilizzo del riconoscimento facciale per identificare i manifestanti degli studenti in filmati standard: una carica che l’amministrazione ha negato. 31

Potremmo anche sottolineare che ci sono differenze tra gli Stati Uniti e la Cina in termini di chi ha espresso insoddisfazione finora. Nel caso della China Pharmaceutical University, la preoccupazione proveniva dai netizen online e da alcuni studenti stessi. Nel contesto americano, in cui l’istruzione superiore è divisa tra istituzioni pubbliche e private, fino a quel momento è in gran parte proveniente da giornalisti, attivisti e accademici che sono preoccupati per gli usi generali e le estensioni di questa tecnologia. Ad oggi, l’Università della California meridionale, un’istituzione privata, è uno dei soli istituti di istruzione superiore nel paese che ha ammesso apertamente l’uso istituzionale della tecnologia di riconoscimento facciale all’interno dei loro sistemi di sicurezza del campus. Al suo lancio nel 2020, il sistema ha scatenato una discussione riscaldata sul campus. 32 Per la maggior parte degli studenti americani non iscritti all’USC, il problema potrebbe non sembrare ancora eccessivamente urgente. Ma se gli studenti affrontano gli usi migliorati del riconoscimento facciale nei loro campus in futuro, potrebbe esserci più respingimento.

Case Study tre: Metro Security

Nel 2019, il governo municipale di Pechino ha annunciato l’intenzione di lanciare la tecnologia di riconoscimento facciale ai controlli di ingresso della sicurezza nelle stazioni metropolitane in tutta la città, lanciata come un modo per aumentare la comodità degli utenti riducendo le linee di sicurezza. Il nuovo protocollo utilizzerebbe il riconoscimento facciale per identificare i passeggeri noti e dividerli in gruppi in base al loro rating di credito sociale che necessita di diversi livelli di controlli di sicurezza. La proposta è stata contrastata pubblicamente da Lao Dongyan 劳东燕, professore di diritto presso l’Università di Tsinghua, che ha chiesto un quadro giuridico più formale per l’attuazione della tecnologia di riconoscimento facciale e la raccolta di dati personali da parte del governo e delle imprese private. In un saggio ampiamente diffuso, Lao ha incorniciato la sua argomentazione nei seguenti termini:

Il riconoscimento facciale prevede la raccolta di dati biologici importanti per gli individui e le organizzazioni o le istituzioni pertinenti devono dimostrare la legalità di questa pratica prima della raccolta…. Se viene implementata l’adozione arbitraria di standard interni per dividere i passeggeri in tre, sei o nove classi e applicare diverse misure di controllo della sicurezza, abbiamo motivo di sospettare che tale misura violi i principi dell’equità nella costituzione; viola anche il diritto fondamentale alla libertà personale per i cittadini. 33

人 脸 识别 涉及 对 个人 重要 的 生物学 数据 的 收集 ， 相关 组织 或 机构 在 收集 之前 ， ， 证明 这 种 做法 做法 …上 的 平等 原则 ， 也 涉嫌 侵犯 公民 的 人身 自由 不 受 侵犯 的 基本 基本 权利 权利

Il professor Lao ha opposto la tecnologia di riconoscimento facciale all’interno di una più ampia critica dell’aumento apparentemente infinito degli investimenti in pubblica sicurezza e delle misure di prevenzione del crimine. Tuttavia, a partire dal marzo 2021, il sistema viene lanciato attraverso Pechino come parte di un processo pubblico per ridurre i tempi di attesa ai punti di controllo della sicurezza. Apparentemente, il governo crede che una maggiore comodità per le persone sarà il modo migliore per promuovere la misura. 34

Va sottolineato che ci sono diffusi fraintendimenti della Cina’S “Sistema di credito sociale” nella stampa occidentale. Non esiste un punteggio di credito uniforme o un sistema di credito integrato a livello nazionale. Invece, esistono una varietà di metriche private basate su punti e sistemi governativi locali. Il governo’L’obiettivo è eventualmente collegare i programmi pilota privati ​​di successo all’interno di un sistema nazionale che funzionerebbero idealmente come una sorta di doppio record di polizia e punteggio di credito. 35 Come concepito nel contesto specifico della metropolitana di Pechino, i pendolari con record puli. Il piano consentirebbe semplicemente una pista rapida nelle linee di sicurezza della metropolitana per le persone che non hanno una storia di portare oggetti illegali sui treni. Poiché la maggior parte dei ciclisti rientra in questa categoria, qualsiasi “buon credito sociale” Il record sarebbe essenzialmente servito a tenere il suo titolare fuori da una lista nera di piloti con una storia di problemi, che potrebbero essere messi da parte per controlli elevati. Il risultato è che, sebbene incorniciato come un modo per premiare un buon credito sociale, il sistema di riconoscimento facciale funzionerebbe in realtà per punire quelli con un cattivo credito sociale.

Seguendo il suo saggio sul sistema di metropolitana di Pechino, il professor Lao entrò di nuovo ai riflettori pubblici un anno dopo, quando fece circolare i posti dalla chat di gruppo della sua comunità residenziale, parlando contro la società di gestione della proprietà’S Decisione di implementare la tecnologia di riconoscimento facciale nel sistema di controllo degli accessi per gli ingressi in edifici residenziali. Nelle discussioni con la comunità locale, il professor Lao ha invocato gli standard di sicurezza delle informazioni personali. Questo atto alla fine ha portato i manager a fornire ai residenti la scelta di optare nel sistema di riconoscimento facciale. La sua protesta con i gestori di proprietà è stata diffusa online attraverso i social media e persino pubblicizzata in alcuni media popolari. 36 (vedi Figura 3.)

Lao’è in piedi come professore di diritto all’Università di Tsinghua, classificato in modo rotto come Cina’La migliore istituzione di istruzione superiore: la ha fornito con una piattaforma distinta per pubblicare e far circolare la sua insoddisfazione per il riconoscimento facciale. Di tutti i casi presentati qui, il professor Lao’S è in qualche modo il più insolito, poiché ha attaccato direttamente l’uso del riconoscimento facciale da parte di un governo municipale. Comprendiamo le sue circostanze come uniche, in quanto è una persona potente in un’importante istituzione pubblica di istruzione superiore che ha incorniciato la sua critica a un sistema locale come sostenendo lo stato riferendosi alla costituzione e alla legge esistente. Allo stesso tempo, la sua critica sul sistema metropolitana non ha avuto un impatto evidente in termini di politica effettiva. Questo risultato conferma inoltre sia la misura in cui lo stato rimane fermo sui propri usi del riconoscimento facciale sia il grado in cui il suo saggio era considerato non minaccioso.

Sebbene la professoressa Lao non abbia avuto successo nel contestare il piano per il sistema metropolitana intrapreso dallo stato, è riuscita a cambiare la sua comunità residenziale’S “privato” Uso della tecnologia su scala molto più piccola. Per questo successo, un numero modesto di utenti Weibo ha celebrato i suoi sforzi. 37 Ma dobbiamo sottolineare che l’uso del riconoscimento facciale nei complessi residenziali recinti è probabilmente uno degli usi commerciali più diffusi e ampiamente popolari della tecnologia in Cina oggi. Alla fine, la legittimità degli usi pubblici è stata nuovamente affermata e gli usi privati ​​non erano vietati, solo limitati in modo da richiedere un grado di buy-in e accettazione da parte delle persone.

Case Study Four: un’esposizione televisiva

IL “315 festa serale” è un evento televisivo sponsorizzato dalla televisione centrale cinese e dal governo cinese che si svolge ogni anno il 15 marzo, data designata dalla ONG Consumer International come Giornata mondiale dei diritti dei consumatori. IL “315” La tradizione è stata avviata nel 1991 per attirare l’attenzione sulle pratiche commerciali che danneggiano i consumatori’ interessi. Durante l’evento del 2021, il problema principale era la raccolta non consensuale di informazioni sul viso da parte delle imprese nelle sedi di vendita al dettaglio. Più di venti marchi nazionali e internazionali che operano in Cina, tra cui Kohler, Max Mara e una concessionaria di automobili certificati BMW, hanno scoperto che hanno installato suonosamente le telecamere di riconoscimento facciale e raccolto i loro clienti’ Dati nei negozi al dettaglio in tutta la Cina. Kohler, l’American Plumbing Products Company, è stato il primo ad essere nominato e vergognoso durante la festa serale. I giornalisti anonimi in Cina avevano appreso da uno dei suoi direttori di vendita che le telecamere di riconoscimento del viso sono state utilizzate per aiutare l’azienda a tracciare i singoli clienti’S Visitare la storia in diversi negozi al dettaglio. 38

L’esposizione a CCTV ha sottolineato le restrizioni stabilite negli standard di sicurezza delle informazioni personali non compulsivi, classificando i dati facciali come “Informazioni sensibili personali,” la raccolta di cui richiede il soggetto’consenso in anticipo. 39 Come abbiamo visto in precedenza, molte imprese commerciali in Cina attualmente impiegano il riconoscimento facciale senza acquisire tale consenso, in violazione delle linee guida. Il partito serale è stato quindi un’opportunità per il governo di registrare l’insoddisfazione popolare con la pratica continua insieme al supporto per la politica contro di essa. Il particolare regolamento citato era stato aggiornato nell’ottobre del 2020 e l’evento televisivo lo ha pubblicizzato come un vantaggio alla probabile adozione di leggi di riconoscimento facciale più specifiche e vincolanti nel 2021. Più in generale, l’evento può essere inteso come un segnale ufficiale che le imprese private dovrebbero essere preparate a incorporare una maggiore protezione dei dati e accordi degli utenti nell’uso del riconoscimento facciale, come già obbligatorio o raccomandato dalle linee guida ufficiali statali. (Vedi Figura 4.)

Di tutti i casi profilati in questo studio, questo particolare incidente ha ricevuto la massima attenzione online, con 19.512 “piace” Per il miglior commento Weibo: “Questo tipo di tecnologia: può’Lo usiamo per risolvere il traffico di donne e bambini?” Questo commento vale la pena considerare per un momento. Cattura perfettamente il modo in cui il sospetto pubblico delle applicazioni private e commerciali della tecnologia di riconoscimento facciale coincide e sembra persino contribuire al sostegno allo stato “sicurezza” usi. Come accennato in precedenza, il “315 festa serale” è un evento televisivo sponsorizzato dallo stato e la vergogna pubblica delle imprese commerciali di alto profilo ha attirato un pubblico grande ed energico. Mentre un singolo commento non può essere preso come prova conclusiva di grandi tendenze, potremmo considerare la possibilità che lo stato svolga un ruolo nel modellare i termini del dibattito attraverso un dialogo attentamente curato e sostenuto con opinione popolare. Lo stato sembra attirare l’attenzione sugli abusi privati ​​e commerciali della tecnologia, legittimando il proprio uso relativamente incontrollato. Questo ciclo di feedback alla fine funziona per supportare l’azione statale allineandola con l’opinione popolare contro i cattivi attori privati ​​che non seguono le procedure appropriate.

Detto questo, vale la pena sottolineare che Facebook, IBM, Google, Microsoft, Amazon e Facefirst sono stati tutti citati in giudizio nei tribunali statunitensi per la loro raccolta e analisi dei dati facciali. 40 Molte di queste aziende stanno combattendo attivamente queste cause e ci sono poche prove che l’onere finanziario di questo contenzioso ha cambiato significativamente il loro comportamento, sebbene in futuro potrebbe in futuro con ulteriore regolamentazione. Può darsi che i motivi politici abbiano galvanizzato gli organizzatori del “315 festa serale” per chiamare una serie di importanti aziende straniere che operano nel paese. Ciò non significa che le accuse contro queste società fossero false; Con ogni probabilità, erano accurati. Facendo causa a IBM negli Stati Uniti e gestire una storia televisiva sulla BMW in Cina potrebbe in effetti avere una funzione simile, vale a dire le compagnie pubblicamente vergognose con l’obiettivo di disegnare un pubblico più ampio’s Attenzione ai problemi di privacy e cambiano il comportamento aziendale.

Conclusioni

Va sottolineato che questi quattro casi non rappresentano una visione completa del pubblico cinese’S Views delle tecnologie di riconoscimento facciale. Come l’uso quantitativo di sondaggi anonimi di piccoli batch, il nostro approccio qualitativo cerca semplicemente di fornire un’istantanea di un paesaggio complesso e in continua evoluzione. Rimangono sfide metodologiche, dovute in particolare alle limitazioni nella documentazione pubblica. Non abbiamo alcuna indicazione della particolare esperienza degli uiguri con la tecnologia di riconoscimento facciale, ad esempio, e abbiamo fatto affidamento in gran parte sugli utenti di Internet per un paese in cui circa trecento milioni o più persone non mancano ancora di accesso, anche se quel numero sta rapidamente diminuendo. 41 per essere chiari, anche un post “è piaciuto” Quasi quarantamila volte rappresenta una piccola goccia nel secchio per un paese di 1.4 miliardi di cittadini. Inoltre, la situazione cambia costantemente. Aneddoticamente, diversi colleghi che lavorano nel mondo accademico e industriale cinesi ci hanno suggerito che il sostegno pubblico per l’uso del riconoscimento facciale per una serie di usi potrebbe essere aumentato sulla scia della pandemica Covid-19.

Dobbiamo anche sottolineare che tutti e quattro i casi profilati sopra si sono verificati in contesti urbani e oltre l’80 % degli intervistati a uno dei suddetti sondaggi sono stati i laureati. Sono necessarie ulteriori ricerche nelle divisioni di classe. Ad esempio, sebbene le tecnologie di riconoscimento facciale siano state distribuite in fabbriche cinesi per sostituire le carte di accesso e il documento dell’orario di lavoro, si è discusso poca su come il lancio delle tecnologie di riconoscimento facciale nelle fabbriche possa violare i lavoratori’ diritti. 42 Questi quattro casi studio dovrebbero essere intesi solo come una finestra incompleta su percezioni, reazioni e dibattiti pubblici sulla tecnologia di riconoscimento facciale nel paese oggi.

Provvisoriamente, suggeriamo che il governo centrale potrebbe monitorare l’adozione della tecnologia di riconoscimento facciale nel settore commerciale come un modo per valutare il pubblico’S reception di queste tecnologie all’ingrosso. Anche se i limiti di ciò che costituisce esattamente “pubblico” Lo spazio è dibattuto e negoziato caso per caso, esiste una chiara differenza normativa nel paese tra gli usi della sicurezza della tecnologia di riconoscimento facciale da parte dello stato, che non sono in gran parte discussi nei forum online-e usi commerciali da parte di aziende come Alibaba o complessi abitativi, che sono. Detto questo, questa divisione è talvolta difficile da discernere, come si vede nell’ultimo anno, quando le agenzie governative hanno esternalizzato lo sviluppo delle app del codice sanitario di servizio pubblico che hanno coinvolto la raccolta dei dati facciali per le principali aziende tecnologiche Tencent e Alibaba. 43 Esistono ulteriori differenze normative tra grandi “privato” Le imprese che sono necessarie per creare stretti legami con l’apparato statale e le piccole imprese private, come un parco della fauna selvatica o una concessionaria di automobili, che operano a livello locale. E, negli spazi tra, il rapporto tra alcune organizzazioni, come una società di gestione dell’edilizia abitativa, e le filiali locali dell’autorità statale non sono sempre del tutto chiare.

Senza interrogare l’effettivo divario tra “privato e feste” In Cina, sosteniamo semplicemente che la percezione pubblica di una differenza tra i due è importante per comprendere l’arena del gioco. Mentre la discussione sullo stato’L’uso del riconoscimento facciale è generalmente limitato che ampiamente accetta, c’è un dibattito attivo sull’uso percepito del settore privato della tecnologia, ed è in questa direzione che lo stato tenta di dirigere la preoccupazione pubblica e l’energia. In quanto tale, insoddisfazione pubblica con un parco safari’L’uso dei dati facciali potrebbe non tradursi in un ufficio di polizia’s uso di dati simili. Attraverso l’adozione diffusa delle tecnologie di riconoscimento facciale nel settore commerciale, il governo centrale ha probabilmente imparato molto su ciò che funziona e cosa fa’t Agli occhi del pubblico. Può darsi che molte persone che abbracciano la tecnologia di riconoscimento facciale in alcuni contesti preferirebbero una maggiore supervisione governativa sui suoi usi commerciali, in particolare quando si verifica senza individui’ conoscenza o consenso. Sembra anche che quando i cittadini spingono contro una specifica impresa commerciale’S Uso del riconoscimento facciale, l’impresa è generalmente tenuta a fornire un’opzione opt -in o -out in un accordo utente. Lo stato potrebbe effettivamente prepararsi a fare tali accordi standard prassi, una posizione promossa in “315 festa serale” e suggerito dalle dichiarazioni nella bozza di legge sulla protezione delle informazioni personali del 2021. In che modo gli accordi di consenso dell’utente saranno pratici o significativi è un’altra domanda.

È sorprendente notare, anche nel nostro stretto sottogruppo di casi – il ruolo della comunità legale, e in particolare i professori di diritto, nel esprimere preoccupazioni per le tecnologie di riconoscimento facciale. I professori Guo Bing e Lao Dongyan sono stati alcuni dei personaggi più importanti nel esprimere preoccupazioni per la raccolta, la protezione e lo stoccaggio dei dati facciali in Cina negli ultimi tre anni. Eppure le loro preoccupazioni sono state mirate a applicazioni molto specifiche della tecnologia, piuttosto che all’uso generale della tecnologia stessa. Tali tattiche possono riflettere la politica del possibile in Cina oggi. Gli accademici legali dell’Università possiedono naturalmente una maggiore conoscenza del paese’le leggi e il sistema legale rispetto al cittadino medio, e quindi sono in grado di protestare contro determinati implementazioni della tecnologia citando leggi pertinenti, inquadrarsi come dalla parte dello stato e fornendo loro un certo grado di copertura politica. Ma con una maggiore supervisione degli accademici universitari durante Xi Jinping’Singo.

In effetti, il governo centrale sotto XI’La direzione non si è allontanata dalle misure che mettono in evidenza il sistema legale e continuano una lunga tendenza verso la routinizzazione dei procedimenti legali e sembra probabile che la tecnologia di riconoscimento facciale sarà presto presa in considerazione più formalmente. 44 La legge mantiene un alto livello di prestigio sociopolitico in Cina, e non è del tutto accurato affermare che la legge esiste semplicemente come strumento di controllo dall’alto verso il basso, anche se in questo modo viene utilizzata. È notevole che la maggior parte degli oppositori di applicazioni specifiche delle tecnologie di riconoscimento facciale menzionate qui abbiano invocato le leggi nazionali esistenti o gli standard normativi per fare i loro punti. Ma data la storia decennale dello sviluppo delle tecnologie di riconoscimento facciale in Cina, la relativa mancanza di regolamenti aziendali e chiari che regolano le applicazioni private della tecnologia fino al 2020 è sorprendente. Questa lacuna è probabilmente intenzionale. Il riconoscimento facciale rappresenta un panorama in rapido mutevole – sia tecnologicamente che nella corte dell’opinione pubblica – e lo stato sta dando forma a nuove leggi mentre impara di più.

In un certo senso, la situazione in Cina non è dissimile da quelli in Europa e Nord America. Le normative legali globali per l’acquisizione e l’uso dei dati facciali rimangono molto un lavoro in corso in queste regioni. La raccolta senza preavviso di dati facciali da parte dei ricercatori si è verificata sia in Cina che in Occidente, e le società private sono state nominate e vergognose per i loro usi della tecnologia in violazione della privacy personale su tutto il consiglio. Il fatto che le leggi proposte e emanate in Cina e altrove siano ora cercando di garantire che il consenso sia ottenuto prima che i dati facciali minerari siano ulteriormente indicati che in Cina, Europa e Stati Uniti, la raccolta senza consenso è probabilmente già in atto. Mentre la portata del dibattito può differire tra i paesi, i problemi normativi generali che questi paesi stanno affrontando sono in parte simili perché tutti rispondono alla stessa situazione in rapida evoluzione sul campo.

L’invocazione della legge da parte dello stato cinese e dei commentatori popolari è importante per un’altra ragione. Mentre spesso concepiamo la legge come uno strumento per codificare le norme etiche esistenti, la legge può anche essere impiegata per annullare le domande etiche inquiete dalla portata della discussione. I casi di successo presentati contro la tecnologia di riconoscimento facciale presentato qui generalmente non hanno fatto appello alla moralità o all’immoralità della tecnologia, ma piuttosto alle affermazioni precise radicate nello stato cinese’S propri codici e regolamenti. Detto questo, tra il grande pubblico, alcuni commenti online hanno toccato dimensioni etiche più ampie, come i diritti umani, e resta da vedere se lo stato’S “strategia” Nel consentire selettivamente un dibattito limitato potrebbe ritorcersi contro o innescare una domanda più forte di libertà civili nel tempo. 45

Concludiamo con due ampi takeaway. Da un lato, non dovremmo vedere lo stato cinese’S usi delle tecnologie di riconoscimento facciale nella sicurezza pubblica e gli usi privati ​​di queste tecnologie nel regno commerciale come nel conflitto ideologico o persino la contraddizione pratica: consentendo un dibattito limitato sugli abusi privati, lo stato cinese in realtà consolida la propria posizione di garante della legge, sostenendo al contempo la sicurezza e la convenienza del pubblico. D’altra parte, poiché lo stato si presenta come un attore etico consumato del pubblico domestico, lo spazio primario aperto per la discussione risiede nei campi e nelle applicazioni che devono ancora essere saldamente regolamentate da esso. Questa dinamica pone una domanda intrigante: poiché lo stato assume un controllo più esplicito sulle società private coinvolte nella raccolta e nella conservazione dei dati biometrici, dove saranno diretti le preoccupazioni pubbliche se e quando sorgono problemi futuri?

Domande per la discussione

• In che modo i diversi governi potrebbero modellare il dibattito pubblico sulle implicazioni etiche delle tecnologie emergenti? Quali incentivi politici sono in gioco in Cina e altrove?
• Ci sono principi etici fondamentali nell’uso della tecnologia di riconoscimento facciale che tengono costanti in diversi tipi di regime?
• Chi dovrebbe essere gli attori sociali e le autorità politiche per fare la distinzione tra usi benefici e dannosi della tecnologia di riconoscimento facciale?
• Se dovessi progettare nuove applicazioni delle tecnologie di riconoscimento facciale, come si potrebbe prendere in considerazione sia le normative legali che le considerazioni etiche? Come pensi che queste considerazioni siano in tensione sia negli Stati Uniti che in Cina?
• Come possono essere utilizzati i social media nella ricerca sulla ricezione pubblica della tecnologia? Cosa ci raccontano i post su Twitter, Tiktok o Facebook del pubblico americano’S preoccupazioni per la tecnologia? Come potrebbero anche portarci fuori strada?
• In qualsiasi circostanza, potresti accettare telecamere in una classe? Cosa sarebbero? Potresti accettare il riconoscimento facciale in un campus universitario se è stato offerto per aumentare la tua sicurezza?
• Se sapessi che il tuo campus universitario impiegava il riconoscimento facciale, ciò influenzerebbe la tua decisione di unirsi a una protesta nel campus contro l’amministrazione universitaria?
• Quali aziende oggi possiedono i tuoi dati facciali? Puoi persino rispondere a questa domanda? Se lo sai, potresti chiederlo? Come faresti a farlo?
• Quali gruppi di persone nella società americana sono stati in prima linea nell’identificazione dei rischi della tecnologia di riconoscimento facciale? Sono impiegati nel governo? Lavorano per le aziende tecnologiche? Scrivono per i media? Prima di prendere questa lezione, hai sentito parlare di tali rischi?

Riconoscimenti

Questo caso di studio è nato attraverso un progetto di opportunità di ricerca universitaria (UROP) del MIT 2020-2021 che esamina il contenzioso nella RPC attraverso il database online, “Giudizioni cinesi online.” Vorremmo ringraziare David Kaiser, Emma Teng, David Goldston, David Clark, Yasheng Huang, Jeremy Daum, Nathan Hill, Zeyi Yang, Yuan Yang, Wenfei Zhou, Neal Xu, Henry Xu e Tianyu Fang per il loro generoso feedback di questo caso. Tutti gli errori sono nostri.

Bibliografia