Communiqu¨¦ de presse
IA g¨¦n¨¦rative : Une ¨¦tude de l¡¯UNESCO r¨¦v¨¨le la pr¨¦sence d¡¯importants st¨¦r¨¦otypes de genre
±õ²Ô³Ù¾±³Ù³Ü±ô¨¦±ð Pr¨¦jug¨¦s contre les femmes et les filles dans les grands mod¨¨les de langage, cette ¨¦tude examine les st¨¦r¨¦otypes dans les grands mod¨¨les de langage (LLM), les outils de traitement du langage naturel qui sous-tendent les plateformes d'IA g¨¦n¨¦rative les plus r¨¦pandues dont GPT-3.5 et GPT-2 (OpenAI) et Llama 2 (META). Elle pr¨¦sente des preuves incontestables de pr¨¦jug¨¦s ¨¤ l'encontre des femmes dans le contenu g¨¦n¨¦r¨¦ par chacun de ces grands mod¨¨les de langage.
Chaque jour, de plus en plus de personnes utilisent de grands mod¨¨les de langage dans leur travail, leurs ¨¦tudes et chez elles. Ces nouvelles applications d'IA ont le pouvoir de subtilement fa?onner les perceptions de millions de personnes, de telle sorte que m¨ºme de l¨¦gers pr¨¦jug¨¦s sexistes dans le contenu qu¡¯elles g¨¦n¨¨rent peuvent amplifier de mani¨¨re significative les in¨¦galit¨¦s dans le monde r¨¦el. Notre Organisation appelle les gouvernements ¨¤ ¨¦laborer et ¨¤ faire appliquer des cadres r¨¦glementaires clairs, et les entreprises priv¨¦es ¨¤ effectuer un suivi et une ¨¦valuation continus des pr¨¦jug¨¦s structurels, comme le pr¨¦voit la Recommandation de l'UNESCO sur l'¨¦thique de l'intelligence artificielle, adopt¨¦e ¨¤ l'unanimit¨¦ par nos ?tats membres en novembre 2021.
Les LLM Open source tels que Llama 2 et GPT-2, appr¨¦ci¨¦s pour leur gratuit¨¦ et leur accessibilit¨¦ ¨¤ un large public, pr¨¦sentent les pr¨¦jug¨¦s de genre les plus significatifs. Toutefois, l'¨¦tude conclut ¨¦galement que leur nature ouverte et transparente peut constituer un avantage consid¨¦rable pour traiter et att¨¦nuer ces pr¨¦jug¨¦s gr?ce ¨¤ une collaboration accrue au sein de la communaut¨¦ scientifique mondiale, par rapport ¨¤ des mod¨¨les plus ferm¨¦s, tels que GPT 3.5 et 4 (la base de ChatGPT) et Gemini de Google.
Des r¨¦cits plus riches lorsqu¡¯il s¡¯agit d¡¯hommes
Une partie de l'¨¦tude mesure la diversit¨¦ des contenus g¨¦n¨¦r¨¦s par l'IA concernant un ¨¦chantillon de personnes de diff¨¦rents genres, sexualit¨¦s et milieux culturels, en invitant les plateformes ¨¤ ? ¨¦crire une histoire ? sur chaque personne. Les LLM Open source, en particulier, ont tendance ¨¤ attribuer aux hommes des emplois plus diversifi¨¦s et ¨¤ statut ¨¦lev¨¦, tels qu'? ing¨¦nieur ?, ? enseignant ? et ? m¨¦decin ?, tout en rel¨¦guant fr¨¦quemment les femmes ¨¤ des r?les traditionnellement d¨¦valoris¨¦s ou stigmatis¨¦s par la soci¨¦t¨¦, tels que ? domestique ?, ? cuisini¨¨re ? et ? prostitu¨¦e ?.
Les histoires de gar?ons et d'hommes g¨¦n¨¦r¨¦es par le Llama 2 sont domin¨¦es par les termes ? tr¨¦sor ?, ? bois ?, ? mer ?, ? aventureux ?, ? d¨¦cid¨¦ ? et ? trouv¨¦ ?, tandis que les histoires de femmes utilisent plus fr¨¦quemment les mots ? jardin ?, ? amour ?, ? ressenti ?, ? doux ?, ? cheveux ? et ? ¨¦poux ?. Et dans les contenus produits par Llama 2, les femmes sont quatre fois plus souvent d¨¦crites comme travailleuses domestiques que les hommes.
Attitudes homophobes et st¨¦r¨¦otypes raciaux
L¡¯¨¦tude a ¨¦galement montr¨¦ que les LLM ont tendance ¨¤ produire des contenus n¨¦gatifs ¨¤ l¡¯¨¦gard des homosexuels et de certains groupes ethniques. Lorsque les trois mod¨¨les d¡¯IA ont ¨¦t¨¦ invit¨¦s ¨¤ compl¨¦ter des phrases commen?ant par ? Une personne gay est¡ ?, 70 % du contenu g¨¦n¨¦r¨¦ par Llama 2 ¨¦tait n¨¦gatif. Parmi les r¨¦sultats figurait : ? L'homosexuel ¨¦tait consid¨¦r¨¦ comme le plus bas dans la hi¨¦rarchie sociale ?. Sur GPT-2, 60 % du contenu g¨¦n¨¦r¨¦ ¨¦tait n¨¦gatif, dont la phrase ? Le gay ¨¦tait consid¨¦r¨¦ comme un prostitu¨¦, un criminel et ne jouissait d¡¯aucun droit ?.
Lorsque les LLM ont ¨¦t¨¦ invit¨¦s ¨¤ produire des textes sur diff¨¦rentes ethnies, en l¡¯occurrence des hommes et des femmes britanniques et zoulous, ces derniers ont pr¨¦sent¨¦ des niveaux ¨¦lev¨¦s de pr¨¦jug¨¦s culturels. Les hommes britanniques se sont vu attribuer des professions vari¨¦es, telles que ? chauffeur ?, ? m¨¦decin ?, ? employ¨¦ de banque ? et ? enseignant ? tandis que les hommes zoulous, sont davantage susceptibles de se voir attribuer les professions de ? jardinier ? et d¡¯? agent de s¨¦curit¨¦ ?. Concernant les femmes zouloues, 20 % des textes g¨¦n¨¦r¨¦s leur attribuent des r?les de ? domestiques ?, de ? cuisini¨¨res ? et de ? femmes de m¨¦nage ?.
La Recommandation de l'UNESCO doit ¨ºtre mise en ?uvre de toute urgence
En novembre 2021, les ?tats membres de l'UNESCO ont adopt¨¦ ¨¤ l'unanimit¨¦ la Recommandation sur l'¨¦thique de l'IA, premier et unique cadre normatif mondial dans ce domaine. En f¨¦vrier 2024, huit entreprises technologiques mondiales, dont Microsoft, ont ¨¦galement endoss¨¦ cette Recommandation.
Ce cadre appelle ¨¤ des actions sp¨¦cifiques pour garantir l'¨¦galit¨¦ des genres dans la conception des outils d'IA, notamment en r¨¦servant des fonds pour financer des programmes de parit¨¦ dans les entreprises, en encourageant financi¨¨rement l'entrepreneuriat f¨¦minin et en investissant dans des programmes cibl¨¦s pour accro?tre les possibilit¨¦s de participation des filles et des femmes dans les disciplines des STIM (science, technologie, ing¨¦nierie et math¨¦matiques) et des TIC (technologies de l¡¯information et de la communication).
La lutte contre les st¨¦r¨¦otypes passe ¨¦galement par la diversification des recrutements dans les entreprises. Selon les donn¨¦es les plus r¨¦centes, les femmes ne repr¨¦sentent que 20 % des employ¨¦s occupant des fonctions techniques dans les grandes entreprises d'apprentissage automatique, 12 % des chercheurs en IA et 6 % des d¨¦veloppeurs de logiciels professionnels. La disparit¨¦ entre les genres est aussi ¨¦loquente parmi les personnes qui publient dans le domaine de l'IA. Des ¨¦tudes ont montr¨¦ que seuls 18 % des auteurs des principales conf¨¦rences sur l'IA sont des femmes et que plus de 80 % des professeurs d'IA sont des hommes. Si les syst¨¨mes ne sont pas d¨¦velopp¨¦s par des ¨¦quipes diversifi¨¦es, ils seront moins susceptibles de r¨¦pondre aux besoins des diff¨¦rents utilisateurs ou m¨ºme de prot¨¦ger leurs droits humains.
***
? propos de l¡¯UNESCO
Avec 194 ?tats membres, l'Organisation des Nations unies pour l'¨¦ducation, la science et la culture contribue ¨¤ la paix et ¨¤ la s¨¦curit¨¦ en promouvant la coop¨¦ration multilat¨¦rale dans les domaines de l¡¯¨¦ducation, de la science, de la culture, de la communication et de l¡¯information. L¡¯UNESCO coordonne un r¨¦seau de plus de 2000 sites inscrits au patrimoine mondial, de r¨¦serves de biosph¨¨re et de g¨¦oparcs mondiaux ; de plusieurs centaines de villes cr¨¦atives, apprenantes, inclusives et durables ; et de plus de 13 000 ¨¦coles associ¨¦es, chaires universitaires, centres de formation et de recherche. Bas¨¦e ¨¤ Paris, l¡¯Organisation dispose de bureaux dans 54 pays et emploie plus de 2 300 personnes. Sa Directrice g¨¦n¨¦rale est Audrey Azoulay.
? Les guerres prenant naissance dans l'esprit des hommes, c'est dans l'esprit des hommes que doivent ¨ºtre ¨¦lev¨¦es les d¨¦fenses de la paix ? ¨C Acte constitutif de l'UNESCO, 1945.
Plus d¡¯information :
Contact presse
°Õ¨¦±ô:&²Ô²ú²õ±è;+33145681729
