L’intelligenza artificiale o AI, ormai, è entrata a fare parte della nostra vita in diversi settori, ma un fatto che ancora ci lascia un po’ perplessi riguarda l’aspetto dell’inclusività. Infatti, sembra non essere così equa nella realizzazione dei suoi testi (ma non solo), giacché presenta una “mentalità” maschilista, poco inclusiva e spesso ricca di stereotipi e bias.
Indice dei contenuti
Dati alla mano: quante donne lavorano nel settore dell’intelligenza artificiale?
Anche se nel mondo della tecnologia ci sono le donne a lavorare, pare proprio che la maggior parte delle persone che “educa” l’intelligenza artificiale sia di sesso maschile. Ciò significa che gli uomini addestrano il sistema con parole che sono spesso non sono né inclusive e né rispettose della diversità. Quindi, anche se si crede che l’intelligenza artificiale debba essere qualcosa di neutrale, in realtà non appare così e anzi, porta alla luce una società che non riesce a garantire la parità di genere.
Secondo una ricerca dell’European Institute For Gender Equality (EIGE), solo il 16% delle donne è occupato nel settore dell’IA e il 12% di queste è una professionista con oltre 10 anni di esperienza. Questa presenza limitata delle donne in un settore evidenzia il gender gap, ma anche il fatto che spesso il linguaggio parlato dall’AI è prettamente maschile. Questa caratteristica rende imperfetta l’intelligenza artificiale, poiché é creata da menti e bias maschili che non comunicano correttamente alle donne.
Testiamo ChatGPT 4!
Anche noi abbiamo testato quanto fosse neutrale l’intelligenza artificiale, domandando a ChatGPT 4 di elencarci tre realtà imprenditoriali con rispettivi CEO. E indovina? La risposta è stata di tre aziende con a capo tre uomini; quindi, non ha pensato equamente di presentarci anche un caso con una donna.
L’Ai non è proprio inclusiva
Questo è solo un esempio che fa capire quanto l’AI ragioni in ottica maschile, anche per quanto riguarda la scrittura dei testi. Molto spesso abbiamo notato che tende ad utilizzare il maschile sovraesteso e non delle forme ideali per rivolgersi alle persone di tutti i sessi. Quindi, è importante che anche le donne possano far parte di questa evoluzione e rivoluzione nel campo dell’intelligenza artificiale, poiché in questo modo è possibile garantire il valore dell’inclusione per l’intera società.
Le donne hanno un ruolo importante nel campo dell’AI e dovrebbero farne parte proprio come gli uomini. Pensa a Margaret Mitchell che nel 2017 ha dato vita al team di ricerca Ethical AI di Google con Timnit Gebru. Successivamente, dopo una pubblicazione molto discussa realizzata con la linguista Emily Bender, entrambe le donne hanno lasciato Google. In questo scritto si denotava i rischi e i costi associati all’uso dei Large Language Models, parlando proprio di “pappagalli stocastici“. Mitchell e Gebru sono note come tra le più influenti sostenitrici dell’importanza della diversità e dell’inclusione nell’ambito dell’IA e hanno a più riprese fatto notare che la loro assenza poteva influenzare in modo negativo lo sviluppo della qualità di queste tecnologie. D’altro canto, anche la linguista Bender gioca un ruolo chiave nello sviluppo dell’AI: anche se non è una ricercatrice attiva nel settore dell’intelligenza artificiale, è tra le voci più citate per il dibattito dell’AI.
Quando si parla di “Bender rule” ci si riferisce proprio a lei, poiché grazie ai suoi studi tanti ricercatori dell’AI si sono spinti ad indicare le lingue che stanno utilizzando per sviluppare i sistemi di intelligenza artificiale. Infatti, oltre alla discriminazione di genere, spesso i modelli di AI sono anglofoni e rischiano di creare delle discriminazioni culturali e linguistiche. Lo sviluppo di LLM in lingue diverse, come l’italiano, e attraverso il contributo delle donne è altrettanto importante!