Mi chiamo Giulia Rizzi, ho 27 anni e sono una studentessa di dottorato in Informatica presso l’università di Milano Bicocca.

Dopo il liceo scientifico ho conseguito la laurea triennale e magistrale in informatica presso la stessa università. Durante questi anni ho avuto la possibilità di esplorare diversi settori: dalla sicurezza informatica alla bioinformatica.

Oggi la mia ricerca si concentra sull’intelligenza artificiale e sull’analisi del linguaggio. Il mio progetto ha come obiettivo il riconoscimento automatico di contenuti di odio.

Questo percorso di studi mi ha permesso arricchire la mia formazione attraverso molteplici esperienze, anche all’estero, partecipando a conferenze, summer school ed erasmus.

In questo momento sto svolgendo un’attività di ricerca presso l’Università Politecnica di Valencia.

La crescente diffusione dei Social Media e le caratteristiche degli stessi (facilità di condivisione, pseudo-anonimato degli utenti, ...) hanno contribuito ad alimentare la problematica legata alla condivisione di contenuti di odio. Con contenuti di odio si intende un contenuto, sia esso in forma testuale, un’immagine o un video, offensivo nei confronti di singoli individui o gruppi, sulla base di specifiche caratteristiche, come razza, etnia, genere, orientamento sessuale, religione, ...

Questo fenomeno si manifesta quotidianamente, specialmente nei social media. Tuttavia, l’elevata quantità di contenuto nel Web giornalmente generato dagli utenti, in particolare per i social media, rende impossibile l’analisi umana e vede pertanto necessaria l’introduzione di modelli in grado di processare automaticamente tali contenuti per l’individuazione di forme d’odio.

Il progetto proposto si compone di due incontri della durata di 2 ore ciascuno.

Primo incontro

Dopo una presentazione iniziale, verrà richiesto agli studenti di realizzare una Word Cloud con l’obiettivo di creare una definizione condivisa del concetto di “odio”. L’obiettivo di questa attività è una riflessione sulla soggettività del concetto stesso.
Successivamente verranno presentati esempi sulle modalità di espressione dell’odio online (testo, immagini, etc.), sui possibili target, e sulle conseguenze, con l’intento di dare un’idea della grandezza e dell’impatto di tale fenomeno. Durante la presentazione saranno previsti momenti di interazione con gli studenti (ad esempio per mezzo di Kahoot!) ai quali verranno poste delle domane in forma di “quiz”, ad esempio, sulla presenza di contenuti di odio e sull’individuazione della minoranza target.
L’obiettivo di questo incontro è proporre una riflessione sulle diverse modalità di espressione dell’odio online, nonché sull’impatto generato.

Secondo incontro

Il secondo incontro prevede un iniziale riepilogo dell’incontro precedente, in particolare riprendendo la definizione di odio concordata dagli studenti. Tale incontro si concentrerà poi su di una specifica modalità di espressione online: i MEME (immagini con testo aggiunto a posteriori con l’obiettivo di rappresentare un concetto in modo ironico). I meme rappresentano una modalità particolarmente versatile per la rappresentazione dell’odio ed allo stesso tempo complessa, per il processo di identificazione di tali contenuti, a causa della presenza dell’ironia.
Durante l’incontro verrà richiesto agli studenti di individuare i contenuti di odio all’interno di meme al fine di comprendere quali elementi potrebbero aiutare o confondere un modello di riconoscimento automatico.
Successivamente gli studenti potranno realizzare dei meme con l’obiettivo di valutare il funzionamento di un modello di riconoscimento automatico. Ad ogni studente verrà richiesto di creare un meme con contenuti di odio ed uno innocuo, relativi ad una stessa minoranza target. I meme realizzati verranno poi etichettati dal modello come “con contenuti di odio” o “innocui” ed analizzati al fine di comprendere le difficoltà nell’individuazione di tali contenuti.

L’obiettivo di questa fase è la riflessione sul funzionamento dei modelli automatici, in particolare per sfatare la credenza comune per cui “l’intelligenza artificiale non può sbagliare”.

Requisiti

Per l’erogazione di tale progetto, l’unico requisito necessario è la predisposizione di un computer, dotato di connessione ad Internet, per ogni studente. Non sono richieste conoscenze pregresse in ambito informatico.