Non basta l’emergenza climatica: ora c’è l’emergenza infodemia in Nepal. Nell’era della postverità il problema non è più la mancanza di informazioni, ma la nefasta combinazione di sovrabbondanza delle stesse unite alla pletora di fake news generate con AI, dinanzi alle quali ormai anche il ricorso “di ritorsione alle AI” diventa del tutto invalido.
Abbiamo visto come il tentativo di chiedere a Gemini AI di distinguere un contenuto virale vero da un tentativo virale falso sia recentemente risultato in Gemini AI difendere attivamente la veridicità di un falso conclamato, spingendosi a definirlo fonte attendibile e verificata.
È un problema così evidente che il Governo Nepalese ha richiesto a Meta e ByteDance, gestori rispettivamente di Facebook e TikTok una sorta di “linea proritaria” per la cancellazione dei contenuti fake senza dover passare per le pastoie dei procedimenti di verifica ordinaria.
Pastoie di burocrazia interna che consentono al contenuto da diventare così virale da essere ormai del tutto irrefrenabile.
Emergenza infodemia in Nepal: il Governo Nepalese ordina la rimozione dei video con AI (e come riconoscerli)
Il Governo Nepalese ha quindi schierato una vera e propria Task Force governativa comprendente elementi del Ministero degli Affari Interni, il Ministero per le Telecomunicazioni e l’Autorità Garante per le Telecomunicazioni, col doppio obiettivo di far pressione sui Social per la rimozione dei contenuti e individuare e denunciare i creatori e diffusori delle fake news.
Le tecniche usate sono molteplici e spesso le abbiamo viste.
Difficilmente un viralizzatore “povero” spenderà ingenti somme per acquistare sufficienti crediti per creare un video lungo ad esempio. È possible, ma la maggior parte dei casi sono vero e proprio AI Slop, contenuti creati col principio di “minima spesa e massima resa”, con l’obiettivo espresso di massimizzare il profitto e ridurre al lumicino le spese per avere il guadagno massimo.
Il video slop medio è quindi o breve, massimo 8-10 secondi, oppure ogni 8-10 secondi ha degli inesplicabili cambi di inquadratura, posizione o persino tematica.
Lo scopo è evidente: vengono creati più video brevi e poi vengono concatenati assieme con strumenti free, che spesso sono le piattaforme social stesse a fornire in sede di caricamento del contenuto, o comunque sono assai facili da scaricare, se non direttamente forniti col sistema operativo del computer usato.
In alcuni casi che abbiamo visto noi stessi video con AI vengono mischiati a video reali: ad esempio un caso in cui un video del valico di Gyrong è stato mescolato ad un video creato con AI contenente aerei militari che distruggono una diga con didascalie che millantavano come il valico fosse in realtà “una diga abbattuta coi mezzi militari per alluvionare l’area incolpando il Cambiamento Climatico”.
In altri casi si prendono scene e foto reali e, ritenendole non abbastanza virali, le stesse vengono “ripulite” con AI (generando foto di eventi reali ma dall’aspetto totalmente fittizio, dato che le AI per definizione non ripuliscono immagini, ma le ricreano da zero) oppure ritoccate introducendo elementi ancora più spettacolari.
Un esempio sono state le foto della “casa dei miracoli” in Nepal, edificio sopravvissuto all’alluvione assieme ai suoi abitanti, del quale sono state diffuse foto a bassa risoluzione raccolte durante il salvataggio e “foto ritoccate” con elementi artefatti e aggiunti elementi di viralità come fondamenta di enormi dimensioni.
Ulteriore elemento di cui tenere presente è la fisica dei video: specialmente i video creati con la tecnica della combinazione di più video sono inclini a cambiare posizione di alcuni elementi. Da uno spezzone all’altro, siccome le AI ricreeranno da zero ogni volta, alcuni elementi presenti in scena spariranno o cambieranno posto inesplicabilmente, e video con sistemi di generazioni primitivi avranno visibili glitch video anche nello stesso spezzone (cose o persone che spariscono e si compenetrano l’uno con l’altro).
C’è infine la questione dell’audio: molti video vengono pubblicati con tracce audio musicali a volume elevato proprio per nascondere che al momento sono pochissimi i sistemi di generazione di video che creano un audio accettabile.
Non perché sia imperfetto, anzi perché lo è troppo: i video con AI sono sostanzialmente video muti ai quali viene sovrimpressa una traccia audio generata, quindi adirezionale, priva di spazialità e priva dei disturbi tipici di un audio naturale.
Un video con AI avrà sempre un audio perfetto senza disturbi, crepitii o rumori del vento (o se vi sono troppo regolari) e voci dal visibile suono campionato e che sembrano provenire da ogni punto del video e non dalla persona che sta parlando.
Infine un subset dei falsi, che non necessariamente comprende l’uso delle AI vede foto e video decontestualizzati, con AI o senza, riciclati come “video della tragedia”.
Ad esempio abbiamo visto una statua ispirata ad una antica leggenda Indù (quella dei Saligrama, ammoniti e nautili che si dice nati da una trasformazione del dio Vishnu punito per aver ingannato e violentato una donna giacendo con lei assumendo le sembianze del marito) trasformata in un “enorme nautilo messo alla luce dall’alluvione”.
Tutte queste tipologie contribuiscono a creare uno scenario infodemico dove c’è chi profitta coscientemente da una tragedia.
