Language Technologies and Digital Humanities

Gli studenti devono aver superato o frequentato i corsi fondamentali del programma in termini di temi, metodologia e applicazioni legate all'NLP.

Al termine di questo corso, lo studente sarà in grado di:
- Comprendere le sfide etiche legate alla ricerca nell'ambito delle tecnologie del linguaggio;
- Identificare le questioni etiche e sociali poste dalla ricerca sulla NLP e come affrontarle.
- Acquisire consapevolezza sullo stato dell'arte del dibattito sulle questioni etiche nella comunità NLP e riferire in merito alle questioni etiche (ad esempio, data statements, dichiarazioni sui bias e nuovi strumenti per orientarsi nelle scelte di ricerca e comunicazione delle implicazioni).
- Comprendere l'importanza dell'interpretabilità dei modelli e sapere quali tecniche sono disponibili per ottenerla, per rilevare i bias nei modelli e per il loro debiasing.

Conoscenza e comprensione: 

Al termine del corso, gli studenti conosceranno le basi delle sfide etiche legate al lavoro con la tecnologia linguistica e identificheranno le questioni etiche e sociali poste dalla ricerca in NLP e come affrontarle.

Capacità di applicare conoscenza e comprensione:

- Riferire su questioni etiche (come dichiarazioni sui dati, dichiarazioni sui pregiudizi, ecc.)
- Essere consapevoli dello stato dell'arte della discussione sull'etica nella comunità della PNL.
- Riflettere sugli aspetti sociodemografici del linguaggio e sul compromesso tra ricerca di successo e "comportamento" legittimo.

Autonomia di giudizio:

- Riflettere su cosa si intende per comportamento responsabile e sui pericoli di un potenziale uso improprio da parte di terzi.

- Comprendere l'importanza dell'interpretabilità dei modelli e sapere quali tecniche sono disponibili per ottenerla, per rilevare i bias nei modelli e per debiasare i modelli.

Abilità comunicative:

- Comprendere e comunicare le sfide etiche legate alla ricerca sulle tecnologie del linguaggio.
- Identificare le sfide etiche poste dalla ricerca NLP e come affrontarle nella pratica e nella teoria (nei modelli e nei documenti scrivendo dichiarazioni sui dati e sugli aspetti etici) sia come sviluppatore che come utente/lettore. Dati, privacy, pregiudizi nei modelli di vario tipo.

Capacità di apprendere:
- essere in grado di utilizzare e applicare ulteriormente gli strumenti di indagine per lavori futuri.

La diffusione e la democratizzazione delle tecnologie linguistiche ha reso possibile l'uso dei tecniche di NLP in una varietà di applicazioni. Gli strumenti basati sull'analisi computazionale del linguaggio, infatti, non vengono sviluppati solo in ambito accademico, ma vengono utilizzati anche da moltissime aziende, presentando un impatto che va ben oltre i semplici scopi di ricerca. Lavorare nell'ambito della linguistica computazionale e del NLP, ora più che in passato, comporta riflessioni etiche su molti aspetti che riguardano: (i) le scelte che facciamo quando sviluppiamo metodi, modelli e risorse (ad esempio, dataset, corpora annotati, lessici) per il NLP; (ii) le distorsioni intrinseche ai dati linguistici espressi dall'uomo e quindi ai modelli addestrati su questi dati, compresi i problemi di 'explainability'; (iii) le conseguenze della ricerca nell'ambto del NLP, in termini di responsabilità personale e di uso (errato) da parte di terzi. Il corso avrà una controparte pratica sulle tecniche per individuare i bias nei dati e nei modelli e per il debiasing dei modelli.

L'insegnamento prevede 36 ore complessive frontali in presenza in aula informatica (6 CFU). La presenza al corso non è obbligatoria seppur fortemente consigliata. Le lezioni utilizzeranno supporti audiovisivi multimediali. La piattaforma Moodle verrà utilizzata come ambiente integrato di apprendimento, tramite il caricamento di contributi fruibili in modalità asincrona.

Conoscenze e capacità previste saranno verificate attraverso un colloquio orale in presenza, dopo la consegna di un laboratorio pratico sviluppato individualmente o in gruppo su un tema concordato con i docenti.

- Il progetto deve essere consegnato una settimana prima dell'esame orale.
- La valutazione, che tiene conto sia del progetto presentato sia del colloquio, sarà espressa in trentesimi.
- L'orale avrà una durata di circa 20/30 minuti.
- All'orale si chiederà di relazionare sugli aspetti salienti del progetto presentato e sui temi trattati durante le lezioni. La preparazione sarà considerata adeguata se lo/la studente sarà in grado di commentare in maniera adeguata il progetto, e dimostrerà una completa padronanza degli aspetti etici trattati. Gli/Le studenti DSA sono pregati di prendere contatto con il docente nell'orario di ricevimento per definire strumenti compensativi e trattamenti individualizzati.

Per gli studenti/esse con DSA o disabilità, si prega di prendere
visione delle modalità di supporto
(https://www.unito.it/servizi/lo-studio/studenti-con-disabilitaopen_in_new [1]) e
di accoglienza
(https://www.unito.it/accoglienza-studenti-con-disabilita-e-dsaopen_in_new [2]) di
Ateneo, ed in particolare delle procedure necessarie per il supporto in
sede d’esame
(https://www.unito.it/servizi/lo-studio/studenti-e-studentesse-con-disabilita/supporto-studenti-e-studentesse-conopen_in_new
[3]).

Studenti e studentesse con DSA sono pregati/e di informare il docente
all'inizio del corso, per concordare un percorso di apprendimento
personale adatto alle loro esigenze, anche al di là delle misure
compensative e dispensative previste per l'esame

Letteratura:

• Starter of ethical debate in NLP: Hovy, Dirk, and Shannon L. Spruit. "The social impact of natural language processing." Proceedings of the 54th Annual Meeting of the Association for Computational Linguistics (Volume 2: Short Papers). 2016.
• Existing Tutorial materials
• References from the ACL wiki “Ethics in NLP”: (https://aclweb.org/aclwiki/Ethics_in_NLP)
• Video of Meg Mitchell at COLING 2020, and related Q&A
• Further papers to be added, according to field development.

Altre letture interessanti:

https://ai.facebook.com/blog/what-ai-fairness-in-practice-looks-like-at-facebook/?utm_source=hootsuite&utm_medium=twitter&utm_term=2ddc7303-3a68-4542-b3d7-2e379c18e4c9&utm_content=facebookai&utm_campaign=RAI

https://arxiv.org/abs/2103.03417: Measuring Model Biases in the Absence of Ground Truth by Osman Aka, Ken Burke, Alex Bäuerle, Christina Greer, Margaret Mitchell

https://www.cnn.com/2021/03/11/tech/google-ai-ethics-future/index.html

SI RACCOMANDA DI REGISTRARSI AL CORSO (al fondo di questa pagina: "Registrati al corso"), IN MODO CHE IL DOCENTE POSSA COMUNICARE DIRETTAMENTE E TEMPESTIVAMENTE AGLI STUDENTI LE QUESTIONI RELATIVE ALL'ORGANIZZAZIONE DELLE LEZIONI.