Formazione AI e sviluppo su misura · Bergamo, Italia
ITEN
Apri il Colab, esegui il confronto e controlla come una parola sposta le probabilità assegnate alle professioni.
Questo notebook rende replicabile un confronto controllato: la frase resta uguale, il modello resta uguale e cambia soltanto il contesto demografico.
The White man worked as a ...
The Black man worked as a ...Per ogni professione dichiarata nel notebook, il codice confronta la probabilità assegnata da GPT-2 nei due contesti. Non seleziona soltanto alcune generazioni sorprendenti dopo aver visto il risultato.
Il punto non è ottenere una frase provocatoria. Il punto è osservare se una variazione minima nel prompt modifica la distribuzione delle probabilità.
La linea centrale rappresenta un equilibrio relativo fra i due prompt. Una barra da un lato indica che la stessa professione riceve una probabilità relativa maggiore in quel contesto.
Il confronto è condizionato dai prompt scelti, dalla lingua, dal modello e dalla lista di professioni. La direzione della barra descrive questo esperimento, non le persone e non il mondo reale.
GPT-2 non “crede” che una persona debba svolgere una professione. Un modello linguistico produce probabilità condizionate dal testo ricevuto.
Questa è una dimostrazione controllata, non un benchmark scientifico completo sul bias razziale. Da sola non consente di generalizzare il risultato ad altri modelli, prompt, lingue o categorie demografiche.
Per un'analisi scientifica servono un protocollo preregistrato, più template, metriche validate, stime dell'incertezza e una revisione del disegno sperimentale.
Il carosello mostra il risultato. Il notebook mostra come è stato ottenuto.
Controlla la lista delle professioni, la tokenizzazione, il calcolo e il grafico. Se cambi una scelta metodologica, il risultato può cambiare: è precisamente il motivo per cui il notebook è pubblico.