La nuova frontiera del controllo in Cina è il riconoscimento delle emozioni

I nuovi sistemi di riconoscimento usati in Cina non verificano soltanto i lineamenti del viso, ma vengono usati per controllare le emozioni delle persone e la loro origine etnica

(Foto: STR/ Getty Images)

Il riconoscimento delle emozioni è l’ultima evoluzione nel mondo dei sistemi di sorveglianza in Cina. Dopo l’obbligo del riconoscimento facciale per chiunque possieda uno smartphone, le autorità cinesi puntano a monitorare e controllare anche lo stato d’animo delle persone. Chiaramente l’utilizzo di queste tecnologie comporta anche una massiccia raccolta di dati personali sensibili, come l’etnia e lo stato di salute mentale.

“La gente comune qui in Cina non è felice di questa tecnologia, ma non ha altra scelta. Se la polizia dice che ci devono essere telecamere in una comunità, la gente dovrà semplicemente conviverci. Questa richiesta c’è sempre stata e noi siamo qui per soddisfarla”, ha detto al Guardian Chen Wei di Taigusys, un’azienda specializzata nella tecnologia di riconoscimento delle emozioni.

La Cina è il primo paese al mondo per utilizzo di sistemi di riconoscimento facciale e l’industria del riconoscimento delle emozioni è in piena espansione. I sistemi della Taigusys sono installati in circa 300 prigioni, centri di detenzione e strutture di custodia in tutta la Cina e collegano tra loro circa 60mila telecamere. Oltre che nel settore della sicurezza, gli strumenti di controllo delle emozioni sono stati installati anche in alcune scuole per monitorare insegnanti, alunni e personale, nelle case di cura per anziani per rilevare i cambiamenti nello stato emotivo dei residenti e in alcuni centri commerciali e parcheggi.

L’opinione pubblica ha sollevato alcune critiche, riporta il Guardian, rispetto all’uso della tecnologia di riconoscimento delle emozioni nelle scuole, ma quasi nessuna discussione rispetto all’uso fatto dalle autorità per controllare la popolazione in generale. Chen, pur consapevole delle critiche, insiste sul contributo che il sistema potrebbe dare nel fermare incidenti che arrechino danni alle persone o alle cose. Le tecnologie di riconoscimento delle emozioni sono presumibilmente in grado di dedurre i sentimenti di una persona sulla base di tratti come i movimenti muscolari del viso, il tono della voce, i movimenti del corpo e altri segnali biometrici, rilevando espressioni facciali collegate alla rabbia, tristezza, felicità o noia. La raccolta di queste informazioni sarebbe quindi utile a prevenire crimini o comportamenti violenti. Dall’altra parte però, questi dati possono tranquillamente essere usati per profilare e monitorare le persone all’interno della già super-sorvegliata società cinese.

Gli errori degli algoritmi

Un altro problema è che i sistemi di riconoscimento si basano su degli archivi creati con l’utilizzo di attori e attrici, che posano in quelle che ritengono essere espressioni di felicità, tristezza, rabbia o altri scenari emotivi. Tuttavia, le espressioni facciali possono variare ampiamente tra le culture, portando ad ulteriori imprecisioni e bias etnici. Inoltre, i sistemi della Taigusys, includono identificatori come uiguro, una minoranza etnica di religione musulmana che vive nello Xinjiang. “In Cina” ha detto Chen al Guardian “i nostri sistemi di riconoscimento vengono usati per distinguere gli uiguri dai cinesi han” riferendosi all’etnia dominante del paese: “Se appare un uiguro, verrà etichettato, cosa che non succederà con un han”.

Numerosi attivisti per i diritti umani come il gruppo Articolo 19, che si occupa delle implicazioni sociali e legali delle nuove tecnologie, contestano questi sistemi di riconoscimento come basati su stereotipi pseudo-scientifici e potenzialmente molto pericolosi per quanto riguarda la tutela della privacy e la libertà d’espressione, non solo in Cina ma in tutto il resto del mondo. La mancanza di leggi ad hoc dà completa libertà allo sviluppo di queste tecnologie e alla raccolta di impressionanti quantità di dati.

Fonte : Wired