AI e bias Archives -

L’AI può essere inclusiva?

Lascia un commento / 22/01/2024

L’AI può essere inclusiva? Come affrontare gli stereotipi nelle immagini generate da AI L’avvento dell’Intelligenza Artificiale ha aperto nuovi orizzonti nella creazione di immagini, ma con ciò è emersa anche una questione delicata: la presenza di bias e stereotipi nei contenuti generati dagli algoritmi AI. Esploriamo insieme le ragioni dietro questo fenomeno e come possiamo mitigarlo per promuovere un utilizzo più etico e inclusivo di tali strumenti. AI generativa per immagini e video: come funziona? I generatori di immagini AI sono software o strumenti basati su algoritmi avanzati di apprendimento automatico. L’AI apprende dai vasti set di dati ed è in grado di generare immagini completamente originali, comprese fotografie e disegni. Come si sviluppano gli stereotipi nell’AI? Gli stereotipi sono preconcetti o giudizi che si basano su generalizzazioni e semplificazioni e che possono influenzare il modo in cui le persone vedono il mondo. Se i dati di addestramento contengono bias o stereotipi, senza contromisure appropriate, l’AI li assimilerà inevitabilmente, riversandoli nelle immagini generate. Questo può derivare da dati di addestramento non rappresentativi o da pregiudizi impliciti presenti nelle scelte dei creatori del dataset: Se il dataset utilizzato per addestrare l’AI è sbilanciato rispetto a razza, genere o altre caratteristiche, l’AI può replicare e amplificare gli stessi bias (es. 80% immagini di uomini e 20% immagini donna per training); Se gli sviluppatori non prestano attenzione sufficiente nella fase di progettazione del modello, possono involontariamente introdurre bias nella sua struttura, influenzando il modo in cui l’AI interpreta e genera immagini; Se il modello di AI non ha abbastanza esempi nel dataset di una determinata classe, avrà più probabilità di commettere errori o imprecisioni nel rappresentare esempi di quella classe. Questo fenomeno è noto come bias algoritmico e può avere conseguenze negative, come la discriminazione di gruppi svantaggiati. Per questo motivo, è importante che gli sviluppatori di AI siano consapevoli di questo problema, al fine di sviluppare algoritmi equi e imparziali. Quali tool AI abbiamo testato? Per il testing di immagini generative abbiamo deciso di utilizzare diversi prompt su 3 tool AI di utilizzo frequente: Bing Image Creator, Canva, ChatGPT 4.0. Bing Image Creator: Abbiamo chiesto a Image Creator di Bing di creare delle immagini con delle indicazioni molto generiche (una donna, un papà etc) senza fornire ulteriori dettagli come l’età, il ruolo, o dettagli fisici. Primo esempio Rappresentazione della figura genitoriale: La mamma viene raffigurata in cucina nell’atto di insegnare a cucinare alla propria bambina (l’AI ha tra l’altro scelto il genere sessuale del figlio riproducendo in tutti e tre i casi una figlia). Il risultato prodotto da AI riporta senza dubbio alla sfera della cura. Il papà viene rappresentato in un collage di attività, che vanno dal divertimento, all’aiuto nello studio, allo sport. Il sesso del figlio che l’AI ha scelto è maschio. Nel primo caso assistiamo a un risultato univoco: tre immagini prodotte e tutte e tre identiche nella rappresentazione di focolare domestico. Nel secondo caso assistiamo a una variegata sfaccettatura che l’essere padre evidentemente comporta. Perché l’AI di Bing ha associato “una mamma” a una giovane donna che insegna a cucinare alla figlia femmina? Avrebbe potuto scegliere di rappresentare un miliardo di immagini e attività diverse ma ha scelto proprio quella. Cosa che non si può dire per il papà a cui sono state associate più immagini. Secondo esempio Nel secondo esempio abbiamo voluto verificare la rappresentazione uomo/donna, insieme, in due contesti circostanziali: per strada e al lavoro. Bing sceglie di creare, nel primo input, una ragazza vestita casual, con un pantaloncino molto corto che cammina in mezzo alla strada di una grande metropoli, in mezzo alle macchine e in senso opposto di marcia. Nel secondo caso rappresenta un uomo con un cappotto e una valigetta 24 ore mentre cammina sulle strisce di una strada pedonale.  Alla donna viene associata la giovane età. Nessun altro elemento ci racconta qualcosa di lei, se non che ha delle belle gambe lunghe e che non teme di finire sotto a una macchina. Sull’uomo invece abbiamo un richiamo alla sfera professionale grazie a quel dettaglio aggiunto della valigetta e rispetto all’immagine della donna, una più oculata posizione sociale, si salva la vita e cammina nell’area preposta ai pedoni. L’unica cosa che hanno in comune i due è la corporatura: in entrambi i casi alti e magri. La donna è ancora una volta una giovane donna, ancora una volta magra. È seduta alla sua scrivania, presa dalla sua attività lavorativa, con delle cuffie mentre scrive sulla tastiera. Potrebbe anche dirigere un’azienda per quello che ne sappiamo o svolgere un ruolo operativo. L’uomo è rappresentato in piedi, appoggiato alla grande vetrata. Non ci sono pc, scrivanie eppure sembra chiaro che si tratti di un manager ai piani alti di una azienda. Non sta lavorando attivamente, non ci sono elementi che lo ricolleghi a nessuna attività lavorativa come la donna del primo caso, eppure questo uomo con le mani in tasca, il piede appoggiato alla gamba e lo sguardo fisso trasuda potere decisionale. Altro esempio rappresentativo di stereotipi è la seguente richiesta “una donna cammina per strada”: Bing genera 4 immagini simili di una donna, vestita di rosa, con dei fiori in mano, un vestito elegante e che indossa dei tacchi: classici stereotipi associati alle donne. Canva: Per i test svolti con la versione gratuita di Canva, abbiamo fornito prompt sia in italiano che in inglese cercando di non evidenziare il genere nel prompt stesso. Il prompt “an engineer at work” ci restituisce un’immagine poco rappresentativa di questa professione, non solo in termini di etnia, età e genere, ma anche per i diversi indirizzi (elettronica, gestionale, biomedica…),in contesti lavorativi obsoleti, un richiamo a lavori del passato più che all’oggi. Anche nel caso di professioni in cui il gender gap è nella realtà più bilanciato rispetto ad ingegneria, il prompt “medico al lavoro” viene rappresentato come un uomo caucasico e di mezza età Eseguendo il test con un prompt in inglese otteniamo risultati analoghi Abbiamo chiesto infine una rappresentazione di un capo che incontra l’assistente

L’AI può essere inclusiva? Leggi tutto »

Dizionario Femminista

Generata con Bing AI con tecnologia DALL·E 3 Le parole nuove entrano nelle nostre vite di continuo. Alcune non sopravvivono a lungo, sono solo la moda del momento. Altre permangono. Quello che conta è la loro funzione: comunicare. Anche far riflettere. Il linguaggio definisce e nel farlo esclude qualcosa o qualcuno. Le parole definiscono il modo di comunicare, di far sentire gli altri e dicono molto su chi parla a chi ascolta. a cura di Federica De Felici  8 marzo /ˈɔt.to ˈmar.t͡so/ L’8 marzo si celebra la Giornata internazionale dei diritti della donna, una data che ricorda le lotte e le conquiste delle donne per i loro diritti politici, sociali ed economici e la denuncia delle violenze e delle discriminazioni da esse subite. Istituita dalla Nazioni Unite nel 1975, la ricorrenza ha lo scopo di ribadire l’importanza del raggiungimento dei diritti e dell’emancipazione delle donne. Oggi viene celebrata in oltre 100 paesi. Non è la festa della donna Nella cultura popolare l’8 marzo è la festa della donna. Per anni si è assistito alla dinamica del permesso consentito, ovvero un giorno bonus che autorizzava a comportarsi talvolta come un certo tipo di uomo. Tra mimose e serate a tema c’è (e c’è ancora!) la tossicità che alimenta stereotipi e pregiudizi sulle differenze di genere, il ruolo della donna nella società, e chi più ne ha più ne metta. Spoiler: non c’è niente da festeggiare! Le origini e falsi miti È ricorrente il falso mito che la Giornata dei diritti della donna nasca da un incendio. La storia di questa giornata è legata a diversi eventi storici significativi, tutti volti al riconoscimento dei diritti delle donne eche hanno avuto luogo all’inizio del XX secolo, tra cui: Il VII Congresso della II Internazionale socialista nel 1907, dove si discusse della questione femminile e del voto alle donne. La conferenza “Woman’s Day” di Chicago nel 1908, organizzata da Corinne Brown che puntava a sfruttamento lavorativo e diritto di voto. Lo sciopero delle operaie delle industrie tessili a New York nel 1908 per denunciare le condizioni di lavoro. La conferenza Internazionale delle donne tenuta a Copenaghen nel 1910 per il riconoscimento del diritto di voto. L’incendio della fabbrica Triangle che causò la morte di 123 donne e 23 uomini. L’incidente diede il via a nuove leggi sulla sicurezza sul lavoro e aumentò le adesioni a uno dei più importanti sindacati degli States, l’International Ladies’ Garmen Workers Union.  Questi sono solo alcuni degli esempi di eventi storici realmente accaduti e che hanno dato le origini a quella che oggi è laa Giornata Interazionale dei diritti della donna, ben lontana quindi da festeggiamenti e molto vicina alle lotte e alle conquiste che ancora oggi le donne portano avanti. Le principali lotte di oggi Le principali lotte delle donne oggi si concentrano su vari aspetti sociali, economici e politici. Tra queste, le più rilevanti includono: uguaglianza sul lavoro diritti riproduttivi work-life balance Ageismo di genere /aˈdʒɛizmo di ˈdʒɛnere/ Ageismo è un adattamento dall’inglese ageism, che a sua volta deriva da age (età). Con questo neologismo ci si riferisce a una forma di pregiudizio legata all’età, all’invecchiamento. Ageismo di genere esprime l’intersezionalità tra due discriminazioni: la svalorizzazione che consegue all’avanzare degli anni e l’essere donna. Una combinazione di stereotipi e pregiudizi che limitano le opportunità di chi appartiene a entrambe le categorie. Cosa cambia nell’invecchiamento tra uomo e donna? Nulla! È solo questione di percezione e bias. Avete mai sentito l’espressione “Le donne invecchiano peggio degli uomini?” Molti studi biologici asseriscono il contrario, eppure è credenza comune che se la donna invecchia, l’uomo diventa più affascinante. Dunque, a tutti i pregiudizi a cui una donna deve far fronte, nel corso del tempo, si aggiungono anche quelli legati all’invecchiamento. Come tutte le discriminazioni, anche l’ageismo di genere ha delle conseguenze negative in chi le subisce (redditi più bassi, alto rischio povertà, educazione e istruzione, isolamento sociale, problemi legati alla salute, ecc). Contrastare lo stereotipo legato all’ageismo di genere Superare i pregiudizi dell’ageismo di genere è possibile. È sempre necessario lavorare sulla cultura e sull’educazione delle persone, a tutti i livelli e in tutti gli ambiti. Anche nelle aziende. Per esempio, all’ageismo spesso è dedicato un vero filone delle pratiche di Diversity, Equity & Inclusion con lo scopo di aiutare risorse senior e junior a coesistere nello stesso ambiente, per lavorare fianco a fianco superando rispettivi pregiudizi. Senza questi piani attivi e senza una solidarietà intergenerazionale, il rischio nei turn over è di perdere prezioso know-how da un lato e giovani talenti dall’altro Ally /’ælai/ Ally è il prestito dalla lingua inglese della traduzione in italiano di alleatə. Nell’uso più comune definisce una persona che si schiera a favore di un gruppo o di una causa, anche se non fa parte direttamente di quel gruppo: donne, comunità LGBTQ+, ambito disability o racial. Questo termine è spesso utilizzato in contesti di attivismo e lotta per i diritti civili. Non sono una donna, posso essere alleatə delle donne? Sì! Le persone alleate giocano un ruolo cruciale nel colmare il divario di genere. Sono persone che, pur non appartenendo direttamente al gruppo, si impegnano attivamente a favore dell’uguaglianza di genere e e per la parità di genere. Ad esempio, nel mondo del lavoro le persone alleate possono essere anche responsabili di struttura, manager che promuovono la parità salariale o scelgono le donne per le posizioni apicali. Bias /ˈbaɪəs/ Bias significa pregiudizio. Prendiamo il termine in prestito dall’inglese e lo usiamo in italiano sia per il singolare che il plurale: “a strong feeling in favour of or against one group of people, or one side in an argument, often not based on fair judgement” (Oxford Leaner’s Dicfionary). Si tratta di preconcetti, ovvero di idee concepite sulla base di opinioni superficiali, il che può portare ad assumere atteggiamenti discriminatori verso qualcosa o qualcuno. In questo senso, i bias possono essere pericolosi perché hanno una enorme influenza sulle nostre credenze e dunque sui comportamenti, generando un impatto negativo nei posti dove ci troviamo (la casa,