Come la Cina ha regolato l’intelligenza artificiale

“Nel rapido sviluppo dell’economia digitale del nostro paese, si sono verificate alcune tendenze disordinate e malsane”, ha affermato il presidente cinese Xi Jinping in un discorso tenuto nell’ottobre 2021. Fare l’elenco degli effetti collaterali provocati – non certo solo in Cina – dall’incredibile accelerazione digitale degli ultimi anni sarebbe interminabile; nel mirino del Partito Comunista ci sono però alcuni bersagli ben precisi, a cui è stata dedicata una nuova legge entrata in vigore il primo marzo.

Se nel continente europeo si è sempre data grande attenzione alla protezione dei dati e più di recente anche ai rischi connessi agli strumenti di sorveglianza (a partire dal riconoscimento facciale), Pechino ha invece deciso di prendere di petto altri aspetti controversi, sempre legati all’impatto che gli algoritmi che regolano molte delle piattaforme digitali hanno sulle nostre vite.

Dall’entrata in vigore della nuova legge – nota come “Disposizioni per la gestione delle raccomandazioni algoritmiche sui servizio di informazioni di internet” – sarà per esempio vietata la pratica nota come “algorithmic pricing”, in cui è un algoritmo di intelligenza artificiale a determinare automaticamente il prezzo di un servizio sulla base di alcuni dati. Dati che possono essere di carattere generale – immaginate una macchinetta per le bevande che aumenta i prezzi nelle giornate più calde – ma che nella maggior parte dei casi fanno riferimento ai dati personali degli utenti, alzando o abbassando i prezzi sulla base delle previsioni relative alla nostra disponibilità economica o volontà di usufruire di un certo servizio.

È un fenomeno che non si verifica soltanto in Cina e che rappresenta una forma di discriminazione: è per esempio possibile che una persona considerata un “viaggiatore costante” trovi sulle piattaforme di prenotazione dei voli dei prezzi più elevati rispetto a chi magari non viaggia da molto tempo o più di una volta si è informato sui voli senza poi fare acquisti. Con la nuova legge varata in Cina, sarà vietato usare le informazioni personali raccolte online per offrire agli utenti prezzi differenti per un prodotto o un servizio.

Non solo, tutte le piattaforme – a partire dai social network e dai motori di ricerca – dovranno visibilmente informare gli utenti del fatto che i loro dati personali sono utilizzati per selezionare i contenuti che si reputano più interessanti per loro, filtrarne altri e personalizzare la pubblicità; offrendo loro la possibilità di rifiutare questa profilazione. La stessa legge protegge dalle operazioni degli algoritmi i lavoratori della gig economy (rider, autisti delle app di noleggio auto e altro ancora).

Altre norme sono più difficili da rendere operative, ma chiariscono comunque la direzione intrapresa da Pechino: sarà infatti vietato manipolare i numeri del traffico online, creare falsi account e promuovere contenuti che causano dipendenza. In più, le società che operano online dovranno “promuovere i valori istituzionali”, “disseminare vigorosamente un’energia positiva” e “prevenire o risolvere le controversie e le dispute”. Chi non rispetterà le nuove norme riceverà multe, non potrà registrare nuovi utenti, potrebbe veder ritirata la sua licenza o subire la chiusura dell’applicazione o del sito  web.

Si tratta chiaramente di norme che non hanno solo l’obiettivo di ridurre le varie forme di discriminazione algoritmica a cui sono soggetti i cittadini cinesi (con l’eccezione della sorveglianza governativa, cui prevedibilmente non si fa nemmeno accenno), ma anche di proseguire in quel percorso “virtuoso” che Xi Jinping ha inaugurato da qualche tempo, riducendo per legge l’utilizzo dei videogiochi, disincentivando le testate a dare troppa attenzione al gossip e stigmatizzando la cultura delle celebrità e degli influencer.

Ancora prima che le nuove regole entrassero in vigore, alcune società si erano già adeguate. È il caso della cinese Bytedance e della sua app TikTok (che in Cina ha però il nome di Douyin): già da ottobre, questo social network mostra video di cinque secondi per chiedere agli utenti che sono collegati da troppo tempo di disconnettersi dall’app, in modo da ridurre l’effetto di un algoritmo considerato tra quelli maggiormente in grado di creare dipendenza. Bytedance ha inoltre già introdotto degli strumenti che consentono agli utenti di non ricevere contenuti raccomandati sulla base dei loro dati personali. Più in generale, 26 delle 28 applicazioni più popolari in Cina si stanno già adeguando a queste nuove norme varate dal governo cinese.

Solitamente, la Cina non è una nazione da cui prendere esempio. Eppure, alcune delle misure contenute in questa legge sono state osservate molto da vicino anche in Europa. “Il fatto che la Cina abbia fatto tutto ciò prima del resto del mondo è una svolta davvero sorprendente”, ha spiegato a Protocol Kendra Schaefer, responsabile della società di ricerca Trivium China. “Si stanno muovendo molto rapidamente e spesso mi viene chiesto se la Cina non stia già facendo ciò che dovremmo fare anche noi”, ha invece affermato, parlando con Wired, Rogier Creemers, esperto di legge cinese dell’università di Leiden (Paesi Bassi).

Anche le linee guida per l’intelligenza artificiale stilate dall’Unione Europea prendono in considerazione alcuni dei temi più importanti quando si parla di possibili discriminazioni e manipolazioni algoritmiche, senza però prevedere delle norme precise sulle modalità in cui gli algoritmi gestiscono automaticamente – e in maniera discriminatoria – i prezzi. Inoltre, prima che queste linee guida si trasformino in vere e proprie leggi recepite dalle singole nazioni potrebbero passare anni.

Negli Stati Uniti, prevedibilmente, il settore è molto meno regolamentato che altrove: solo alcune città hanno vietato il riconoscimento facciale, mentre una legge che mira a proibire la discriminazione di genere o etnica da parte degli algoritmi, proposta al Senato, è ancora all’inizio del percorso parlamentare. Per una volta – e limitatamente ad alcune specifiche norme – la Cina sembra aver tracciato una strada che anche noi dovremmo seguire.

Fonte : Repubblica