{"version":"1.0","provider_name":"","provider_url":"https:\/\/www.noidtelecom.it","author_name":"Team Web noidWeb","author_url":"https:\/\/www.noidtelecom.it\/index.php\/author\/team-web-noidweb\/","title":"L'AI pu\u00f2 essere inclusiva? -","type":"rich","width":600,"height":338,"html":"<blockquote class=\"wp-embedded-content\" data-secret=\"NsEEjrYoaT\"><a href=\"https:\/\/www.noidtelecom.it\/index.php\/2024\/01\/22\/ai-puo-essere-inclusiva\/\">L&#8217;AI pu\u00f2 essere inclusiva?<\/a><\/blockquote><iframe sandbox=\"allow-scripts\" security=\"restricted\" src=\"https:\/\/www.noidtelecom.it\/index.php\/2024\/01\/22\/ai-puo-essere-inclusiva\/embed\/#?secret=NsEEjrYoaT\" width=\"600\" height=\"338\" title=\"&#8220;L&#8217;AI pu\u00f2 essere inclusiva?&#8221; &#8212; \" data-secret=\"NsEEjrYoaT\" frameborder=\"0\" marginwidth=\"0\" marginheight=\"0\" scrolling=\"no\" class=\"wp-embedded-content\"><\/iframe><script>\n\/*! This file is auto-generated *\/\n!function(d,l){\"use strict\";l.querySelector&&d.addEventListener&&\"undefined\"!=typeof URL&&(d.wp=d.wp||{},d.wp.receiveEmbedMessage||(d.wp.receiveEmbedMessage=function(e){var t=e.data;if((t||t.secret||t.message||t.value)&&!\/[^a-zA-Z0-9]\/.test(t.secret)){for(var s,r,n,a=l.querySelectorAll('iframe[data-secret=\"'+t.secret+'\"]'),o=l.querySelectorAll('blockquote[data-secret=\"'+t.secret+'\"]'),c=new RegExp(\"^https?:$\",\"i\"),i=0;i<o.length;i++)o[i].style.display=\"none\";for(i=0;i<a.length;i++)s=a[i],e.source===s.contentWindow&&(s.removeAttribute(\"style\"),\"height\"===t.message?(1e3<(r=parseInt(t.value,10))?r=1e3:~~r<200&&(r=200),s.height=r):\"link\"===t.message&&(r=new URL(s.getAttribute(\"src\")),n=new URL(t.value),c.test(n.protocol))&&n.host===r.host&&l.activeElement===s&&(d.top.location.href=t.value))}},d.addEventListener(\"message\",d.wp.receiveEmbedMessage,!1),l.addEventListener(\"DOMContentLoaded\",function(){for(var e,t,s=l.querySelectorAll(\"iframe.wp-embedded-content\"),r=0;r<s.length;r++)(t=(e=s[r]).getAttribute(\"data-secret\"))||(t=Math.random().toString(36).substring(2,12),e.src+=\"#?secret=\"+t,e.setAttribute(\"data-secret\",t)),e.contentWindow.postMessage({message:\"ready\",secret:t},\"*\")},!1)))}(window,document);\n\/\/# sourceURL=https:\/\/www.noidtelecom.it\/wp-includes\/js\/wp-embed.min.js\n<\/script>\n","thumbnail_url":"https:\/\/www.noidtelecom.it\/wp-content\/uploads\/2024\/01\/LAI-puo-essere-inclusiva-Come-affrontare-gli-stereotipi-nelle-immagini-generative.png","thumbnail_width":1024,"thumbnail_height":1024,"description":"L&#8217;AI pu\u00f2 essere inclusiva? Come affrontare gli stereotipi nelle immagini generate da AI L&#8217;avvento dell&#8217;Intelligenza Artificiale ha aperto nuovi orizzonti nella creazione di immagini, ma con ci\u00f2 \u00e8 emersa anche una questione delicata: la presenza di bias e stereotipi nei contenuti generati dagli algoritmi AI. Esploriamo insieme le ragioni dietro questo fenomeno e come possiamo mitigarlo per promuovere un utilizzo pi\u00f9 etico e inclusivo di tali strumenti. AI generativa per immagini e video: come funziona?\u00a0 I generatori di immagini AI sono software o strumenti basati su algoritmi avanzati di apprendimento automatico. L&#8217;AI apprende dai vasti set di dati ed \u00e8 in grado di generare immagini completamente originali, comprese fotografie e disegni.\u00a0\u00a0 Come si sviluppano gli stereotipi nell&#8217;AI?\u00a0 Gli stereotipi sono preconcetti o giudizi che si basano su generalizzazioni e semplificazioni e che possono influenzare il modo in cui le persone vedono il mondo. Se i dati di addestramento contengono bias o stereotipi, senza contromisure appropriate, l&#8217;AI li assimiler\u00e0 inevitabilmente, riversandoli nelle immagini generate. Questo pu\u00f2 derivare da dati di addestramento non rappresentativi o da pregiudizi impliciti presenti nelle scelte dei creatori del dataset:\u00a0 Se il dataset utilizzato per addestrare l&#8217;AI \u00e8 sbilanciato rispetto a razza, genere o altre caratteristiche, l&#8217;AI pu\u00f2 replicare e amplificare gli stessi bias (es. 80% immagini di uomini e 20% immagini donna per training); Se gli sviluppatori non prestano attenzione sufficiente nella fase di progettazione del modello, possono involontariamente introdurre bias nella sua struttura, influenzando il modo in cui l&#8217;AI interpreta e genera immagini; Se il modello di AI non ha abbastanza esempi nel dataset di una determinata classe, avr\u00e0 pi\u00f9 probabilit\u00e0 di commettere errori o imprecisioni nel rappresentare esempi di quella classe.\u00a0 Questo fenomeno \u00e8 noto come bias algoritmico e pu\u00f2 avere conseguenze negative, come la discriminazione di gruppi svantaggiati. Per questo motivo, \u00e8 importante che gli sviluppatori di AI siano consapevoli di questo problema, al fine di sviluppare algoritmi equi e imparziali.\u00a0 Quali tool AI abbiamo testato? Per il testing di immagini generative abbiamo deciso di utilizzare diversi prompt su 3 tool AI di utilizzo frequente: Bing Image Creator, Canva, ChatGPT 4.0. Bing Image Creator: Abbiamo chiesto a Image Creator di Bing di creare delle immagini con delle indicazioni molto generiche (una donna, un pap\u00e0 etc) senza fornire ulteriori dettagli come l&#8217;et\u00e0, il ruolo, o dettagli fisici. Primo esempio Rappresentazione della figura genitoriale:\u00a0 La mamma viene raffigurata in cucina nell&#8217;atto di insegnare a cucinare alla propria bambina (l&#8217;AI ha tra l&#8217;altro scelto il genere sessuale del figlio riproducendo in tutti e tre i casi una figlia). Il risultato prodotto da AI riporta senza dubbio alla sfera della cura. Il pap\u00e0 viene rappresentato in un collage di attivit\u00e0, che vanno dal divertimento, all&#8217;aiuto nello studio, allo sport. Il sesso del figlio che l\u2019AI ha scelto \u00e8 maschio. Nel primo caso assistiamo a un risultato univoco: tre immagini prodotte e tutte e tre identiche nella rappresentazione di focolare domestico. Nel secondo caso assistiamo a una variegata sfaccettatura che l&#8217;essere padre evidentemente comporta. Perch\u00e9 l&#8217;AI di Bing ha associato &#8220;una mamma&#8221; a una giovane donna che insegna a cucinare alla figlia femmina? Avrebbe potuto scegliere di rappresentare un miliardo di immagini e attivit\u00e0 diverse ma ha scelto proprio quella. Cosa che non si pu\u00f2 dire per il pap\u00e0 a cui sono state associate pi\u00f9 immagini. Secondo esempio Nel secondo esempio abbiamo voluto verificare la rappresentazione uomo\/donna, insieme, in due contesti circostanziali: per strada e al lavoro. \u00a0 Bing sceglie di creare, nel primo input, una ragazza vestita casual, con un pantaloncino molto corto che cammina in mezzo alla strada di una grande metropoli, in mezzo alle macchine e in senso opposto di marcia. Nel secondo caso rappresenta un uomo con un cappotto e una valigetta 24 ore mentre cammina sulle strisce di una strada pedonale.\u202f Alla donna viene associata la giovane et\u00e0. Nessun altro elemento ci racconta qualcosa di lei, se non che ha delle belle gambe lunghe e che non teme di finire sotto a una macchina. Sull&#8217;uomo invece abbiamo un richiamo alla sfera professionale grazie a quel dettaglio aggiunto della valigetta e rispetto all&#8217;immagine della donna, una pi\u00f9 oculata posizione sociale, si salva la vita e cammina nell&#8217;area preposta ai pedoni. L\u2019unica cosa che hanno in comune i due \u00e8 la corporatura: in entrambi i casi alti e magri. La donna \u00e8 ancora una volta una giovane donna, ancora una volta magra. \u00c8 seduta alla sua scrivania, presa dalla sua attivit\u00e0 lavorativa, con delle cuffie mentre scrive sulla tastiera. Potrebbe anche dirigere un&#8217;azienda per quello che ne sappiamo o svolgere un ruolo operativo. L&#8217;uomo \u00e8 rappresentato in piedi, appoggiato alla grande vetrata. Non ci sono pc, scrivanie eppure sembra chiaro che si tratti di un manager ai piani alti di una azienda. Non sta lavorando attivamente, non ci sono elementi che lo ricolleghi a nessuna attivit\u00e0 lavorativa come la donna del primo caso, eppure questo uomo con le mani in tasca, il piede appoggiato alla gamba e lo sguardo fisso trasuda potere decisionale. Altro esempio rappresentativo di stereotipi \u00e8 la seguente richiesta \u201cuna donna cammina per strada&#8221;: Bing genera 4 immagini simili di una donna, vestita di rosa, con dei fiori in mano, un vestito elegante e che indossa dei tacchi: classici stereotipi associati alle donne. Canva: Per i test svolti con la versione gratuita di Canva, abbiamo fornito prompt sia in italiano che in inglese cercando di non evidenziare il genere nel prompt stesso. Il prompt \u201can engineer at work\u201d ci restituisce un\u2019immagine poco rappresentativa di questa professione, non solo in termini di etnia, et\u00e0 e genere, ma anche per i diversi indirizzi (elettronica, gestionale, biomedica&#8230;),in contesti lavorativi obsoleti, un richiamo a lavori del passato pi\u00f9 che all&#8217;oggi. Anche nel caso di professioni in cui il gender gap \u00e8 nella realt\u00e0 pi\u00f9 bilanciato rispetto ad ingegneria, il prompt \u201cmedico al lavoro\u201d viene rappresentato come un uomo caucasico e di mezza et\u00e0 Eseguendo il test con un prompt in inglese otteniamo risultati analoghi Abbiamo chiesto infine una rappresentazione di un capo che incontra l\u2019assistente"}