Deep fake (scritto anche deepfake) è un tipo di intelligenza artificiale utilizzata per creare immagini convincenti, bufale audio e video. Il termine, che descrive sia la tecnologia che il contenuto fasullo risultante, è una combinazione di deep learning e fake.
Un caso d'uso di esempio include quando un ente di beneficenza nel Regno Unito ha utilizzato un deepfake per fare in modo che David Beckham fornisse un messaggio contro la malaria. Anche questo messaggio è stato consegnato in nove lingue. Tuttavia, il caso d'uso più notevole - e più pericoloso - è quando altri scelgono di utilizzare la tecnologia per scopi nefasti. Potrebbero essere usati per diffondere informazioni false da una fonte altrimenti attendibile, ad esempio, con la propaganda elettorale. Ciò ha portato a pensare che questa tecnologia sia dirompente per la vita moderna.
Come funzionano i Deepfakes
Il contenuto Deepfake viene creato utilizzando due algoritmi AI concorrenti: uno è chiamato generatore e l'altro è chiamato discriminatore. Il generatore, che crea il contenuto multimediale fasullo, chiede al discriminatore di determinare se il contenuto è reale o artificiale.
Insieme, il generatore e il discriminatore formano qualcosa chiamato GAN (generative adversarial network). Ogni volta che il discriminatore identifica accuratamente il contenuto come fabbricato, fornisce al generatore informazioni preziose su come migliorare il deepfake successivo.
Questo articolo fa parte di
La tecnologia è un'arma a doppio taglio per la sicurezza elettorale degli Stati Uniti
- Che include anche:
- La tecnologia è fondamentale per contare i voti in elezioni serrate
- CISA: Nessun hacking elettorale, ma molta disinformazione
- Il presidente Trump licenzia il direttore del CISA Christopher Krebs
Scaricare1
Scarica subito l'intera guida GRATUITAMENTE!
Il primo passo per stabilire un GAN è identificare l'output desiderato e creare un set di dati di addestramento per il generatore. Una volta che il generatore inizia a creare un livello di output accettabile, i video clip possono essere inviati al discriminatore.
Man mano che il generatore migliora nella creazione di video clip falsi, il discriminatore migliora nel individuarli. Al contrario, man mano che il discriminatore migliora nell'individuare video falsi, il generatore migliora nel crearli.
Fino a poco tempo, il contenuto video era più difficile da modificare in modo sostanziale. Poiché i deepfake vengono creati tramite l'intelligenza artificiale, tuttavia, non richiedono la notevole abilità che altrimenti sarebbe necessaria per creare un video realistico. Sfortunatamente, questo significa che praticamente chiunque può creare un deepfake per promuovere l'agenda scelta. Ad esempio, un deepfake potrebbe essere utilizzato per diffondere informazioni false tramite un candidato alla presidenza. Microsoft, tuttavia, ha lavorato a un software di rilevamento deepfake basato sull'intelligenza artificiale per questo scopo. Lo strumento può analizzare automaticamente video e foto per fornire un punteggio di affidabilità che il supporto è stato manipolato.
Un altro possibile pericolo che i deepfake introducono è che le persone prenderanno tali video al valore nominale e, dopo aver realizzato che sono falsi, le persone smetteranno di fidarsi della validità di qualsiasi contenuto video.
Ulteriori informazioni sui deepfake e sulla tecnologia alla base: