Le poids lourd allemand des logiciels de gestion d’entreprise SAP annonce qu’il signe la charte « Femmes & IA » du Cercle InterElles pour une intelligence artificielle responsable et non-sexiste. SAP a contribué à la rédaction de cette charte.
Lutter contre les risques de biais discriminants
L’objectif est de lutter contre les risques de biais cognitifs discriminants lors de la conception ou lors de l’utilisation de solutions ou de dispositifs à base d’intelligence artificielle. « L’intelligence artificielle est le miroir de nos représentations sociales et culturelles. C’est un outil puissant d’interprétation du réel avec le risque d’en amplifier les dérives » décrit l’équipe « Femmes & IA » du Cercle InterElles.
Selon SAP, l’IA doit reposer sur sept principes : un comité IA et une gouvernance, la conformité dès la conception, le choix et le traitement des données, la responsabilité et l’éthique algorithmique, l’évaluation et les points de contrôle, la diversité des équipes IA, la sensibilisation et la responsabilisation. « Sur notre R&D de 1200 personnes présentes dans l’hexagone, 150 ingénieurs sont dédiés à l’intelligence artificielle dans notre centre à Paris » indique Gérald Karsenti, président de SAP France.
Le plus important c’est de pouvoir expliquer les résultats de l’IA
« Nos technologies d’IA inclues dans nos solutions RH permettent à nos clients de lutter contre les biais » ajoute le dirigeant. « La problématique la plus importante est la confiance des utilisateurs dans l’IA. Nous travaillons donc à l’intégration des techniques d’explications dans nos offres analytiques, qui permettent d’expliquer les résultats, y compris donc les biais. De plus nous avons une démarche proactive avec un comité d’éthique IA depuis 3 ans », explique Erik Marcadé, directeur du SAP Labs de Paris.
Le Cercle InterElles a été créé en 2001. C’est un réseau de réseaux de femmes et d’hommes mobilisés sur le sujet de la mixité. Il représente 15 entreprises du monde scientifique et technologique comprenant essentiellement des sociétés multinationales : CEA, Dassault Systèmes, EDF, Engie, GE, IBM, Intel, Lenovo, NGE, Orange, Orano, Qualcomm, SAP, Schlumberger et SNCF. Les actions de ce cercle visent à accroître la mixité au sein des filières et des métiers scientifiques et technologiques, à encourager la carrière des femmes, à favoriser leur accès à des postes à responsabilité tout en les aidant à équilibrer leur vie professionnelle et personnelle.
L’IA dans les RH : saurez-vous tracer la frontière entre discrimination et culture d’entreprise ?
A partir de quand sait-on qu’il y a un biais algorithmique ou que c’est voulu par l’entreprise ?
L’intelligence artificielle est sur la sellette. Dans le domaine du recrutement en particulier, elle doit démontrer qu’elle est équitable, non raciste et même inclusive. Mais où tracer la frontière entre la discrimination et l’usage de critères de choix qui expriment finalement une culture d’entreprise ?[…]
Top lectures en ce moment
-
Le géant Veolia crée l’entreprise agentique de 2025 en direct avec ses employés
-
Les sociétés de gestion face au défi de la grande transmission de patrimoine des...
-
Radio Nova promet une saison explosive avec Guillaume Meurice et Pierre Emmanuel...
L’actualité de la transformation
L'IA clé de nos besoins vitaux dans l'eau, l'électricité et le gaz
Marchés de l’eau : l’IA générative arrive dans les réponses aux appels d’offres des collectivités
Saur, spécialiste de la distribution d’eau potable, fait évoluer son processus de réponse aux appels d’offres des collectivités et des industriels en y injectant de l’IA géné…
Stockage de l’électricité : l’IA générative outil d’accélération clé chez Engie
Le stockage de l’électricité est un enjeu stratégique. Engie s’y attelle et mobilise pour cela l’IA générative de type RAG, c'est-à-dire basée sur le traçage des documents source. …
Nouvelle donne dans le gaz naturel : GRDF s’adapte en utilisant l’IA
GRDF, leader de la distribution du gaz naturel en France, affine sa stratégie d’IA. Il s’appuie sur des serveurs internes pour la confidentialité des données de ses clients. GRDF c…
Et vous, qu’en pensez-vous ?
Une idée, une réaction, une question ? Laissez-nous un mot ci-dessous.
Je réagis à cet article