Facebook vieta i deepfake

Il social network annuncia nuove regole per i contenuti deepfake. Se ritenuti tali, i video verranno eliminati (a meno che non si tratti palesemente di satira o parodia). E quelli falsi verranno segnalati

A comparison of an original and deepfake video of Facebook CEO Mark Zuckerberg (foto: Elyse Samuels/The Washington Post via Getty Images)

Facebook annuncia l’introduzione di nuove regole, che vietano i deepfake sul social network. In maniera specifica, fanno riferimento ai video modificati utilizzando l’Intelligenza artificiale o l’apprendimento automatico per renderli autentici, a tal punto da non essere più distinguibili dalla realtà.

Dopo aver raccolto i pareri di oltre 50 esperti globali con background tecnici, politici, mediatici, legali, civili e accademici, Facebook ha rafforzato le sue politiche nei confronti dei contenuti video definiti deepfake.

I team di moderatori e l’Ia incaricata dell’analisi rimuoveranno i contenuti manipolati, nel caso in cui il video sia stato modificato o sintetizzato, al di là degli aggiustamenti per chiarezza o qualità, in modi che non sono evidenti a una persona media (che, per esempio, potrebbero indurre qualcuno a pensare che un soggetto del video abbia detto parole in realtà mai pronunciate, o, ancora, nel caso in cui il video caricato sia il prodotto dell’intelligenza artificiale o dell’apprendimento automatico che unisce, sostituisce o sovrappone i contenuti, facendo sembrare il risultato finale autentico).

Le regole per i video deepfake non si applicheranno, però, a tutti i contenuti che siano palesemente catalogati come parodia o satira o a quei video che sono stati modificati in maniera palese invertendo l’ordine delle parole dette dal soggetto del filmato.

Per tutti i video che non soddisfano gli standard di rimozione, ma che sono stati identificati come falsi, non verrà applicata l’eliminazione del contenuto dal social. Facebook, però, ne ridurrà significativamente la distribuzione, applicando sul contenuto un avviso che informa gli utenti della sua falsa natura.

Il social network spiega che questo approccio è fondamentale per la sua strategia. “Se rimuovessimo semplicemente i video manipolati contrassegnati dai correttori di fatti come falsi, sarebbero ancora disponibili altrove su Internet o sull’ecosistema dei social media”, scrive Monika Bickert, Vicepresidente delle Global Policy Management di Facebook sul blog del social network. “Lasciandoli ma etichettandoli come falsi, forniamo alle persone informazioni importanti”.

Fonte : Wired