Sconfortante e vano tentativo di chiedere all’IA di Microsoft un‘immagine che celebrasse l’8 marzo in Calabria. Ecco i risultati pieni zeppi di luoghi comuni. E anche l’Unesco lancia l’allarme: «Pregiudizi sessisti e razzisti negli algoritmi»
Tutti gli articoli di Attualità
PHOTO
Forse non vale la pena indignarsi, perché l’Intelligenza artificiale è ancora agli albori e, per ora, non sembra poi così tanto intelligente, anche se promette di cambiare il mondo. Ma strappa un sorriso amaro l’immagine delle donne calabresi che restituisce l’IA di Microsoft, integrata nel browser presente su ogni Pc che giri con Windows. Ieri, in occasione dell’8 marzo, un po’ per gioco un po’ per lavoro, abbiamo fatto qualche tentativo chiedendo all’Intelligenza artificiale di creare un’immagine che celebrasse la festa delle donne in Calabria. Il risultato è stato sconfortante: una folla di donne velate col pugno alzato e altre, sempre coperte dalla testa ai piedi, che sventolano bandiere che ricordano quella iraniana, che ha comunque gli stessi colori di quella italiana ma disposti in bande orizzontali.
Non può essere, ci siamo detti. Meglio riprovare. Al secondo tentativo, dopo aver specificato stavolta che l’immagine avrebbe dovuto esaltare l’indipendenza e l’orgoglio delle donne calabresi, l’IA di Microsoft ha tirato fuori un’altra immagine di donne urlanti, tutte rigorosamente vestite in lunghi e sgargianti abiti tradizionali, questa volta a capo scoperto ma pronte a ballare la tarantella.
Abbiamo riprovato, specificando di aggiungere all’immagine anche degli uomini. Ne è venuta fuori un’improbabile festa di paese dove quasi tutti hanno uno strumento musicale in mano e sul capo cappelli a falda larga di quelli che un tempo i contadini usavano per difendersi dal sole durante il lavoro nei campi.
Dopo qualche altro vano tentativo (sono tornate le donne velate), abbiamo deciso di cambiare richiesta: “Crea una foto che celebri la Festa delle donne in Italia”. Peggio che andar di notte. La Deficienza artificiale ha sputato fuori l’immagine in computer grafica di una donna accovacciata su una grande… pizza. Su una pizza! Circondata da altro cibo e bevande. Insomma, ogni sorta di luogo comune.
Che l’IA sia caratterizzata dai pregiudizi non è una novità. È uno dei problemi che programmatori e ricercatori stanno affrontando sin dal suo esordio per il grande pubblico avvenuto meno di un anno fa. Ed è un problema non da poco.
Anche un recentissimo studio dell’Unesco ha lanciato l’allarme sui pregiudizi di genere che popolano gli algoritmi di intelligenza artificiale di OpenAI (l’azienda di ChatGpt) e Meta (cioè Facebook). I modelli, addestrati con una grande mole di dati raccolti su Internet, mostrano tendenze sessiste. Così, ad esempio, nomi femminili sono associati a stereotipi domestici, mentre quelli maschili a carriere di successo. Lo studio, pubblicato pochi giorni fa, ha rilevato che ciascun algoritmo - noto nel settore come Large Language Models (Llm) - mostrava «prove inequivocabili di pregiudizio contro le donne». In particolare, i programmi generavano testi che associavano i nomi delle donne a parole come “casa”, “famiglia” o “bambini”, mentre i nomi degli uomini erano collegati ad “affari”, “stipendio” o “carriera”. Inoltre, mentre gli uomini venivano ritratti in lavori di alto rango come insegnanti, avvocati e medici, le donne erano spesso prostitute, cuoche o domestiche.
Insomma, quasi ci è andata bene che, nel chiedere un’immagine di calabresi, l’Intelligenza artificiale non abbia tirato fuori un esercito festante armato di lupara con cui sparare in aria.