Le intelligenze artificiali sono croce e delizia dei nostri tempi, vantaggi e svantaggi, opportunità e rischi. Soprattutto nel mondo dell’informazione e sui social, dove è sempre più complicato distinguere il vero dal falso (qui un esempio recente che riguarda l’Ucraina).
Anche in vista delle tante elezioni in programma nel corso del 2024, dalle Europee alle Presidenziali americane, più o meno tutte le piattaforme si stanno impegnando per contrastare la diffusione dei cosiddetti synthetic media (cioè appunto i contenuti creati o modificati con le IA) o almeno per etichettarli, così che chi li vede possa sapere subito quello che ha davanti. Fra quelle più impegnate in questo campo c’è senza dubbio TikTok: non solo ha da oltre un anno una serie di regole per i video artificiali (queste) e chiede ai creator di indicarli come tali prima dell’upload, ma adesso è anche la prima e unica piattaforma video a usare un’intelligenza artificiale per identificarli. Usa una IA per riconoscere le altre IA, cosa che da anni sembra essere l’unica soluzione possibile a questo tipo di problemi.
Accusa, difesa, tempi, come potrebbe andare a finire: tutto quello che c’è da sapere sull’affaire TikTok
Il filtro di Adobe in fase di upload dei video
Lo strumento scelto è in qualche modo importante (quasi) quanto il risultato, perché è un po’ lo standard del settore: come dovrebbe fare anche Instagram con le immagini, TikTok utilizzerà l’IA creata da Adobe per il progetto Content Credentials, che serve appunto per identificare ed etichettare gli AIGC, cioè gli AI-generated content.
La novità sta appunto nel fatto che questa cosa avvenga per i video e che avvenga non solo per quelli realizzati con gli strumenti interni all’app di TikTok ma anche con quelli realizzati altrove. Per esempio, se si crea con CapCut (o con uno dei software che fanno capo ad Adobe o a OpenAI) una clip partendo da un deepfake, la si esporta sullo smartphone e poi se ne fa l’upload su TikTok come se fosse un contenuto reale, la piattaforma la riconoscerà come fatta con l’IA. Adam Presser, che in TikTok è responsabile della divisione Operations & Trust and Safety, ha appunto confermato che “questo ci consente di estendere l’etichettatura automatica agli AIGC creati su alcune altre piattaforme, una capacità che nelle prossime settimane prevediamo di applicare progressivamente a tutti gli utenti a livello globale”.
TikTok ha insomma stabilito una importante partnership con la Coalition for Content Provenance and Authenticity (in sigla, C2PA), un gruppo in cui si sono riunite le aziende leader del mondo tech appunto per stabilire standard per un utilizzo corretto delle IA: “Nei prossimi mesi inizieremo inoltre ad allegare le Content Credentials ai contenuti di TikTok, in cui rimarranno anche una volta scaricati – ha aggiunto Presser – Questo significa che chiunque sarà in grado di utilizzare lo strumento di verifica di C2PA per individuare gli AIGC realizzati su TikTok e persino per sapere quando, dove e come è stato creato o modificato il contenuto. A loro volta, le altre piattaforme che adottano le Content Credentials saranno in grado di etichettarlo automaticamente”.
Questa cosa è possibile perché l’IA di Adobe funziona come una sorta di filtro in fase di upload: fa un controllo del video e se riconosce un qualche intervento di un’altra IA allega al contenuto informazioni che il software di TikTok può riconoscere e utilizzare per applicare l’etichetta AI Generated (immagine sopra). Il fatto che questa marchiatura avvenga a livello di metadati fa sì che non sia (o non dovrebbe essere) rimovibile anche in caso di eventuale download e riutilizzo.
tiktok: un esempio dei contenuti di MediaWise
La collaborazione con MediaWise per aiutare i minori
Da TikTok ci hanno confermato che, “per contribuire a promuovere l’adozione delle Content Credentials nel nostro settore, stiamo anche aderendo alla Content Authenticity Initiative”, sempre guidata da Adobe: “Ci fa molto piacere poter dare il benvenuto a TikTok sia nella C2PA sia nella CAI, contribuendo a supportare il percorso della sua grande community mondiale di creator e utenti verso una sempre maggiore trasparenza e autenticità – ha commentato Dana Rao, CTO di Adobe – In un’epoca in cui qualsiasi contenuto digitale può essere alterato, è essenziale fornire al pubblico la possibilità di capire ciò che è reale. E questo annuncio è un passaggio fondamentale verso questo risultato”.
Non è tutto, perché TikTok ha inoltre anticipato l’arrivo nell’app di nuove funzionalità dedicate alla cosiddetta alfabetizzazione mediatica, declinate proprio sulle IA e sviluppate insieme con MediaWise, un’interessante piattaforma (attiva online dal 2018) dedicata al contrasto della disinformazione e rivolta soprattutto agli adolescenti, che sono quelli che più facilmente possono cadere nelle trappole dei synthetic media: “Sin dal 2019, con il nostro Teen Fact-Checking Network formiamo il pubblico su TikTok con video di alfabetizzazione mediatica – ha ricordato Alex Mahadevan, direttore di MediaWise – A distanza di 5 anni, siamo felici di offrire a un numero ancora più grande di persone gli strumenti per separare i fatti dalla finzione”.
Ovviamente, quella adottata da TikTok non è la soluzione a tutti i problemi e sarebbe ingenuo aspettarsi che non ci siano più inganni fatti con le IA, che alcuni di questi contenuti sfuggano ai controlli e che non ci saranno altre persone che verranno ingannate. È però un passo significativo nella direzione giusta, soprattutto in questo anno elettorale. Lo diventerà ancora di più man mano che sempre più piattaforme utilizzeranno le Content Credentials, così che saranno sempre di più i contenuti riconoscibili ed etichettabili come AI Generated.
Fonte : Repubblica
