Privacy e riconoscimento facciale: gli abiti avversativi di una startup italiana ci nasconderanno dalle IA

Uno dei protagonisti di Zero History, un romanzo del 2010 di William Gibson, indossa “una t-shirt orribile” con uno strano disegno stampato sopra che impedisce alle telecamere dotate di intelligenza artificiale di riconoscerlo come persona: “La telecamera lo vede, però poi dimentica di averlo visto”, per dirla con le parole dello scrittore, uno dei padri della fantascienza moderna.

Una decina d’anni dopo, quella che era solo un’ipotesi di fantasia è diventata realtà: ormai da tempo, gli umani combattono con le macchine una battaglia per la tutela della loro privacy e della loro identità, e oggi questo tipo di abbigliamento si può già comprare e indossare. Anche in Italia, prodotto e fatto con competenze italiane.

Cap_able e gli adversarial pattern

“I dispositivi di rilevamento biometrico sono ovunque, soprattutto in Paesi come gli Stati Uniti, la Cina, il Giappone (e presto pure da noi, ndr): riconoscono i volti, acquisiscono i nostri dati e le nostre identità senza che nemmeno ce ne accorgiamo e senza sapere dove vanno queste informazioni”, ci ha detto Rachele Didero, CEO e co-founder di Cap_able, una startup nata a luglio 2022 che appunto produce e vende capi d’abbigliamento che impediscono queste operazioni.

Didero ha avuto l’idea nel 2019 durante un periodo di studio a New York, e il segreto sta in quella che gli americani chiamano “adversarial pattern”, e che in italiano si potrebbe tradurre con immagine avversaria, o avversativa: “La nostra soluzione permette di nascondersi senza nascondersi, cioè senza dover coprire il volto, che è una cosa illegale – ci ha spiegato Federica Busani, l’altra co-founder – E anzi, con i nostri vestiti si spicca in mezzo agli altri e si è fortemente riconoscibili dagli altri umani, cioè dalla nostra specie, ma irriconoscibili per le macchine”. Che ci vedono ma dimenticano di averci visti, per dirla come Gibson.

Busani e Didero hanno entrambe meno di 30 anni, sono piemontesi e Cap_able è nata dal loro incontro: “Siamo una startup innovativa benefit, siamo partite con un contributo di 5mila euro della Regione e ci siamo finanziate da sole con altri 20-25mila euro”. Soldi che sono serviti soprattutto per fare ricerca e sviluppo, cioè per trovare le immagini giuste da stampare su magliette, maglioni, felpe, pantaloni e vestiti.

Quello che vede una IA e quello che (non) vede dietro ai tessuti brevettati da Cap_able

Come si crea l’abbigliamento avversativo

Le due founder hanno brevettato il tessuto usato per la loro Collezione Manifesto nel febbraio del 2021, anche grazie a una partnership con il Politecnico di Milano (fra i soci della startup c’è anche il professor Giovanni Maria Conti), ma arrivarci non è stato facile: sono stati necessari mesi di studi sul machine learning, sui tessuti, sui volumi del corpo per capire quali colori e forme combinare insieme per ostacolare l’attività delle IA impegnate nel riconoscimento facciale.

“Abbiamo fatto test con software di riconoscimento degli oggetti e delle persone, come Yolo (che è questo, ndr) – ci ha raccontato ancora Didero – per scoprire come indurli in errore. Poi abbiamo realizzato i primi campioni di quelli che sarebbero diventati i nostri capi d’abbigliamento, per poter condurre prove ancora più approfondite”. A oggi, gli abiti di Cap_able sono realizzati partendo da 14 colori, due diversi tipi di forme (geometriche oppure tondeggianti) e soprattutto su tessuti specifici: “Quelli più riflettenti, come cotone, viscosa e seta, sono più efficaci per lo scopo che ci siamo date – ci ha detto Didero, che si occupa anche del design dei capi – Meglio non usare lana, mohair o cachemire, se non in piccole percentuali e comunque mescolati al resto”.

Che l’accostamento di alcuni colori (gialli molti intensi, sfumature di rosso e verde) e la disposizione di specifiche forme metta in difficoltà le macchine non è una novità: nel marzo del 2019, l’Università di Ku Leuven, in Belgio, pubblicò uno studio spiegando proprio questo e dimostrò online l’efficacia di quanto scoperto. Busani, che di Cap_able è anche business developer, ci ha confermato che “il disegno è in qualche modo più forte del volto della persona, spicca e confonde il software di riconoscimento” e che “la macchina non capisce proprio che dietro a quel disegno c’è una persona”. In che senso? “Quando una IA capisce che in quello che sta guardando c’è una persona, inizia un’analisi più approfondita e va alla ricerca di dettagli come i tratti del viso, la posizione degli occhi, l’espressione del volto e così via: i nostri abiti bloccano questo processo prima ancora che inizi”.

youtube: l’esperimento dell’Università Ku Leuven

Come comprare l’abbigliamento di Cap_able

I capi della startup sono fatti a Carpi, in provincia di Modena, nella sede italiana della giapponese Shima Seiki, fra le aziende leader nel settore della maglieria: al momento si possono vedere e prenotare online (lasciando una caparra di 49 euro), ma presto saranno disponibili anche su Kickstarter.

“Il 27 settembre sarà attivo un crowdfunding che andrà avanti un mese e che useremo sia per raccogliere fondi sia per avviare la produzione”, ci hanno spiegato le due fondatrici di Cap_able: la pagina è già accessibile ma non ancora attiva, e l’obiettivo iniziale è di raccogliere 80mila euro. L’offerta dovrebbe essere divisa in tre: sconto del 15% sul prezzo finale per i sostenitori, del 25% per i cosiddetti early bird (cioè i primi ad aderire) e del 40% per i VIP, che dovrebbero essere quelli che hanno già lasciato un deposito sul sito. Nelle intenzioni, la spedizione dei capi dovrebbe essere completata a partire da dicembre 2022: saranno 250 divisi su 2 modelli, mentre l’intera collezione (composta da 7 modelli) andrà a completarsi nel corso del 2023. Inoltre, l’idea è quella di creare anche una linea di accessori, come borse o cappelli, per verificare l’efficacia di questi disegni anche avendo a disposizione superfici più piccole.

I prezzi non sono popolari: di listino, 380 euro per una t-shirt e 560 per un felpa con cappuccio. Ci sono alcune ragioni: “Va tenuto conto del tempo investito nella ricerca, che ha un costo – ci hanno ricordato da Cap_able – e del fatto che tutta la produzione è fatta in Italia e usando materie prime di qualità, come cotone egiziano a fiocco lungo che rispetta le linee guida della Better Cotton Initiative”. Non solo, aggiungiamo noi: va considerato il valore che si dà alla propria privacy e alla tutela della propria immagine. Nello specifico, del proprio volto.

Da sinistra, Rachele Didero e Federica Busani

Il business del mercato delle facce

Una cosa da capire, quando si parla di identificazione e riconoscimento facciale, è l’uso che viene fatto del viso delle persone, perché il problema non è solo quello che succede sul momento, ma anche quello che succederà dopo: ci sono compagnie, come le americane Affectiva o Clearview AI, che basano il loro business su database composti da milioni e milioni di facce. Le usano (fra l’altro) per allenare le intelligenze artificiali a capire le espressioni degli umani e le raccolgono proprio così, facendo scraping delle immagini catturate dalle telecamere, delle foto postate sui social network o in generale online, anche sui siti d’informazione, su YouTube o su altre piattaforme di video upload.

Non solo: c’è anche chi usa questi volti per creare deepfake (cosa sono?) migliori e praticamente indistinguibili dagli originali, per realizzare filmati a luci rosse, per impersonare una persona famosa o per altre attività al limite della legalità o anche del tutto illegali. Ed è decisamente possibile che pure la nostra faccia, magari catturata dall’apparentemente innocua telecamera di un aeroporto o di un centro commerciale, venga usata per questi scopi. Che è il motivo per cui dovremmo essere attenti che non finisca in mani sbagliate o comunque al di là del nostro controllo, come su Italian Tech abbiamo ricordato qualche settimana fa.

La questione etica e il futuro

Quello della legalità è un punto importante anche per le due giovani fondatrici di Cap_able, e quando abbiamo chiesto loro se non temono un uso criminoso del loro abbigliamento (per esempio, per rapinare una banca e non farsi riconoscere dalle telecamere di sorveglianza) ci hanno dato una risposta interessante: “I nostri abiti non sono un mantello dell’invisibilità, le immagini non vengono alterate o sfocate. Le persone riprese si vedono, e si vede che sono persone. Sono solo le IA che non le vedono, ma se fosse necessario identificare o riconoscere qualcuno, lo si potrebbe comunque fare. Però dovrebbe farlo un’altra persona”. Il punto è proprio questo: “Quello che vogliamo è impedire è la raccolta indiscriminata di volti, facce, dati e identità da parte di questi sistemi di riconoscimento biometrico, che sono troppi e troppo invasivi. E anche spingere un po’ a riflettere sullo spazio che stiamo dando a queste tecnologie”.

Tecnologie che con il passare del tempo diventeranno più brave, perché le stesse immagini avversative usate per ingannarle vengono utilizzate anche per allenarle a superare questi ostacoli: “Però anche noi diventeremo più brave – ci hanno detto Busani e Didero con un sorriso – Già oggi stiamo studiando nuove combinazioni di colori e nuovi materiali da inserire nei tessuti, come quelli cangianti a seconda della luce o della temperatura, che possano impedire alle IA non solo di riconoscere il volto, ma pure il movimento”. In una corsa continua per prevalere, che forse nemmeno William Gibson avrebbe immaginato.

Fonte : Repubblica