NEWS #Digitale : envie de recevoir nos meilleurs articles ?  Inscription → 

Préjugés Sexistes dans les IA Génératives : L’Unesco Alerte ! (Étude)

Alors que l’intelligence artificielle (IA) s’invite progressivement dans chaque aspect de notre quotidien, l’Unesco tire la sonnette d’alarme sur une question épineuse : les préjugés sexistes véhiculés par les grands modèles de langage. Ce constat alarmant, révélé à l’approche de la journée internationale des droits des femmes, met en lumière une facette sombre de l’IA générative, où les discriminations du monde réel ne se contentent pas de se refléter dans la sphère numérique, mais y sont également amplifiées.
IA Ethique

La révélation d’une étude préoccupante

Selon une étude menée par l’Unesco, les modèles GPT 2 et GPT 3.5 d’OpenAI, ainsi que Llama 2 de Meta, affichent des préjugés indéniables envers les femmes.

L’analyse, qui s’est étendue d’août 2023 à mars 2024, a dévoilé une tendance alarmante : ces technologies ont plus de propension à associer les noms féminins à des concepts comme « maison », « famille », ou « enfants », tandis que les noms masculins sont liés à des termes tels que « commerce », « salaire », ou « carrière ».

Le sous-directeur général de l’Unesco pour la communication et l’information, Tawfik Jelassi, souligne que :

« les discriminations du monde réel ne font pas que se refléter dans la sphère numérique, elles y sont aussi amplifiées »

Tawfik Jelassi

Ce constat est d’autant plus inquiétant que les IA sont de plus en plus présentes dans notre quotidien, façonnant ainsi la perception de millions de personnes à travers le globe.

Une IA qui reproduit et amplifie les stéréotypes

Les chercheurs ont également exploré la capacité de ces IA à générer des récits impliquant des personnes de différents genres et origines.

Les résultats sont sans appel : les histoires concernant les personnes issues de cultures minoritaires ou les femmes tendent à être plus répétitives et stéréotypées.

Par exemple, une femme anglaise est présentée dans au moins 30 % des cas comme une prostituée, un mannequin, ou une serveuse, soulignant un manque flagrant de diversité et de représentation équitable.

Appel à l’action de l’Unesco

Face à ces constatations, l’Unesco appelle à un changement.

Leona Verdadero, spécialiste des politiques numériques et de la transformation numérique à l’Unesco, déplore le fait que ces entreprises « ne parviennent pas à représenter tous leurs utilisateurs ».

Audrey Azoulay, directrice générale de l’organisation, met en avant le pouvoir considérable des applications d’IA sur la perception du public.

Elle souligne l’importance cruciale de combattre les préjugés sexistes, qui peuvent accentuer les inégalités dans le monde réel.

Plus de femmes dans l’IA, une solution ?

Pour contrer ce phénomène, l’Unesco recommande une plus grande diversité au sein des équipes d’ingénieurs, avec une présence accrue de femmes.

Actuellement, elles ne représentent que 22 % des professionnels travaillant dans le secteur de l’IA à l’échelle mondiale.

L’organisation onusienne appelle également à une régulation plus stricte par les gouvernements, en vue de promouvoir une « intelligence artificielle éthique ».

Alors que l’intelligence artificielle continue de se développer à un rythme effréné, l’alerte de l’Unesco sur les préjugés sexistes nous rappelle l’importance de veiller à ce que cette technologie soit inclusive et équitable. Il est impératif que les acteurs de l’IA prennent des mesures concrètes pour diversifier leurs équipes et revoir leurs algorithmes, afin d’assurer que les avancées technologiques bénéficient à tous, sans perpétuer les inégalités.

Avant de se quitter…

Si cet article sur les préjugés sexistes véhiculés par l’IA vous a plu, n’hésitez pas à le partager sur les réseaux sociaux, à vous abonner à notre newsletter digitale et/ou à nous suivre sur Google Actualités pour recevoir nos prochains articles.

Vous pouvez également suivre nos meilleurs articles via notre flux RSS : https://www.leptidigital.fr/tag/newsletter-digitale/feed/ (il vous suffit de l’insérer dans votre lecteur de flux RSS préféré (ex : Feedly)).

Nous sommes aussi actifs sur LinkedIn, X, Facebook, Threads et YouTube. On s’y retrouve ?

5/5 - (1 vote)