Solo un articolo fa vi mettevamo in guardia dagli enormi rischi che si compiono nell’affidare il fact checking all’occhio freddo della macchina. Si potrebbe pensare che l’essere umano sia incline agli errori e le Intelligenze Artificiali, agglomerati di dati e informazioni cuciti assieme dalla statistica (percepita come la forma più precisa della matematica e modo perfetto per osservare il mondo) ne sia immune.
Accade esattamente il contrario: quei dati da cui nasce la statistica perfetta sono tutt’altro che perfetti, e i bias degli umani tracimano in qualcosa che umano non è e non ha facoltà percettiva per comprendere l’errore e il dolo.
Come nel caso di un video virale in cui alcuni personaggi sconsolati dall’aria vagamente “orientale” osservano un’alluvione, e vengono descritti con la conferma di Gemini AI, come Nepalesi nel 2026.
Ma sono Argentini a Natale del 2023.
Attenzione: Gemini contribuisce alla diffusione di fake news sul Nepal (ma per causa dell’utente)
Andiamo ora con ordine: a ridosso della grave e recente alluvione in Nepal si sono diffuse una serie di testimonianze e foto. Alcuni utenti poco ligi hanno deciso semplicemente di ricrearne di nuove usando l’Intelligenza Artificiale, più viralizzabili e più malleabili rispetto alla loro narrazione.
Altri hanno invece semplicemente e pigramente preso video di alluvioni precedenti e incollato goffamente la didascalia “Nepal” o “Pray for Nepal” in sovraimpressione.
Video in questo caso preso da articoli del Natale del 2023, quando la piena del fiume Ambato ha causato una grave alluvione in Argentina.
Sappiamo che le Intelligenze Artificiali hanno problemi ad organizzare i dati in un modo che l’essere umano chiamerebbe memoria: riaccedono ogni volta alla stessa banca dati, e il database di informazioni a disposizione di Gemini suggerisce che, dal punto di vista statistico, ci sono soverchianti quantità di dati che attribuiscono quel video al Nepal (a causa delle goffe didascalie), dati recenti e inseriti da un gran numero di utenti, mentre ci sono solamente dati più antichi e meno diffusi che attribuiscono il video all’Argentina.
Un essere umano, creatura dotata di pensiero critico, direbbe allora vale il video precedente, perché lo stesso evento non può essere accaduto in coordinate tempospaziali diverse nello stesso modo.
Una IA, costrutto umano che correla dati in modo statistico, fa quello per cui viene istruito e definisce statisticamente probabile che la foto con scritto “Pray for Nepal” sottoposta dall’utente venga dal Nepal perché statisticamente parlando 100 utenti dicono di sì e 20 di no.
Dimostrando perché non affidarsi alle AI per attività critiche come il Fact Checking.
