Nel nostro ragionamento sono nascosti pregiudizi e supposizioni. Quando sentiamo una parola, sentiamo una voce, vediamo una faccia, in modo spontaneo associamo certe proprietà, deduciamo certi comportamenti, sorgono certi giudizi…
L’addestramento di modelli IA
La popolarità dell’IA generativa, dopo che ChatGPT di Openai è stata rilasciato al grande pubblico nel novembre del 2022, ha vivacizzato il dibattito, anche nell’opinione pubblica, sui “bias” e i pregiudizi che sono presenti nei modelli. Nei dati utilizzati per l’addestramento sono presenti concezioni culturali, costrutti linguistici (es. dottore è associato al maschile) ecc.
Per approfondire:
- Jean-François Bonnefon (2021), The Car That Knew Too Much. Can a Machine Be Moral?, The MIT Press.
- Sito: The Moral Machine di Iyad Rahwan.
- Polarizzazione: Antitheses.net. (esempio di resti umani – reliquie?; AI e immagini).
Esercizio
La Terra sta per finire… (scheda).