Les internautes ont également lu
Le Président Donal Trump a signé mercredi 23 juillet trois décrets sur l’intelligence artificielle, dont un bannissant les modèles qualifiés “d’IA woke”.
Le Président de Etats-Unis exclut l’usage d’IA woke au sein du gouvernement fédéral et de ses différentes agences publiques. Il considère que ces IA mentent. « Les Américains auront besoin de résultats fiables de l’IA, mais lorsque des préjugés idéologiques ou des programmes sociaux sont intégrés dans les modèles d’IA, ils peuvent déformer la qualité et la précision des résultats » écrit le Président.
Exclusion des principes de la diversité, équité et inclusion dans l’IA
Le Président américain met les programmes DEI (Diversité, Equité et Inclusion) à l’index. « L’une des idéologies les plus répandues et les plus destructrices est la soi-disant ‘diversité, équité et inclusion’ (DEI)” présente l’Executive Ordre. L’ordonnance présidentielle estime que dans le contexte de l’IA, la DEI comprend la suppression ou la distorsion d’informations factuelles sur la race ou le sexe ; la manipulation de la représentation raciale ou sexuelle dans les résultats des modèles ; l’intégration de concepts tels que la théorie critique de la race, le transgendérisme, les préjugés inconscients, l’intersectionnalité et le racisme systémique ; ainsi que la discrimination fondée sur la race ou le sexe.
Les cadres DEI sont déclarés opposés à la vérité. « La DEI supplante l’engagement envers la vérité en faveur de résultats privilégiés et constitue une menace existentielle pour une IA fiable » poursuit le Président. L’Executive Order cite comme exemples à ne pas suivre les fantaisies produites par les premières versions de Gemini de Google.
L’IA de Google changeait la race ou le sexe de personnages historiques
Ce modèle d’IA avait changé la race ou le sexe de personnages historiques – en particulier le pape, les pères fondateurs des Etats-Unis et les Vikings. « Il a été formé pour donner la priorité aux exigences DEI au détriment de la précision » reproche l’Executive Order. « Un autre modèle d’IA a refusé de produire des images célébrant les réalisations de personnes blanches, tout en répondant à la même demande pour des personnes d’autres races” ajoute le document signé par le Président.
L’Executive Order cite un autre cas où un modèle d’IA a affirmé qu’un utilisateur ne devrait pas « mégenrer » une autre personne, même si cela est nécessaire pour arrêter une apocalypse nucléaire.
Dès lors, le gouvernement fédéral, dans le contexte des marchés publics fédéraux, a l’obligation de ne pas se procurer des modèles d’IA qui sacrifient la véracité et l’exactitude à des programmes idéologiques. Ce décret vise à remplir cette obligation dans le contexte des grands modèles de langage.
Le Président américain demande que les IA respectent deux principes:
Le premier principe est la recherche de la vérité. Les LLM doivent répondre en disant la vérité lorsqu’ils répondent à des requêtes d’utilisateurs portant sur des faits ou des analyses. Les LLM doivent accorder la priorité à l’exactitude historique, à la rigueur scientifique et à l’objectivité, et doivent reconnaître les incertitudes lorsque les informations fiables sont incomplètes ou contradictoires.
Le second principe est de respecter la neutralité idéologique. Les LLM doivent être des outils neutres et non partisans qui ne manipulent pas les réponses en faveur de dogmes idéologiques tels que la diversité, l’équité et l’inclusion (DEI). Les développeurs ne doivent pas introduire volontairement de jugements partisans ou idéologiques dans les réponses d’un LLM, sauf si ces jugements sont demandés par l’utilisateur final ou autrement facilement accessibles à celui-ci.
Encadrement de l’IA par les réglementations DEI et ESG
Les cadres réglementaires DEI américain et ESG européen ont des zones de recouvrement mais ne sont pas identiques. Les règles DEI (Diversity, Equity & Inclusion) aux États-Unis et les critères ESG (Environmental, Social, Governance) en France et en Union européenne visent tous deux à promouvoir une entreprise plus responsable. Une stratégie ESG solide intègre la DEI, mais aussi les dimensions environnementales, sociales et de bonne gouvernance pour une approche durable.
Le S de ESG correspond à Social tel que défini par les normes et les rapports internationaux comme ceux de l’ONU, de l’Union européenne ou des agences de notation extra-financière. Social désigne principalement les conditions de travail, les droits humains, la diversité et inclusion (DEI), le dialogue social, la sécurité et santé au travail ainsi que les relations avec les fournisseurs ou sous-traitants.
Social et non sociétal
Le terme « sociétal » est parfois utilisé pour évoquer l’impact de l’entreprise sur la société dans son ensemble (éducation, territoires, lutte contre les inégalités…) et les contributions à des causes d’intérêt général (inclusion numérique, mécénat, etc.). Mais ces enjeux dépassent le cadre strict du « S » en ESG, qui reste centré sur les relations humaines dans et autour de l’entreprise.
Top lectures en ce moment
-
Stellantis adopte les agents IA, arcbouté sur une plateforme d’IA bâtie avec Dat...
-
La CDP (Customer Data Platform), un projet clé de la transformation Data d’Axa F...
-
Doctolib lance un assistant vocal de gestion des appels des patients
L’actualité de la transformation
L'IA clé de nos besoins vitaux dans l'eau, l'électricité et le gaz
Marchés de l’eau : l’IA générative arrive dans les réponses aux appels d’offres des collectivités
Saur, spécialiste de la distribution d’eau potable, fait évoluer son processus de réponse aux appels d’offres des collectivités et des industriels en y injectant de l’IA géné…
Stockage de l’électricité : l’IA générative outil d’accélération clé chez Engie
Le stockage de l’électricité est un enjeu stratégique. Engie s’y attelle et mobilise pour cela l’IA générative de type RAG, c'est-à-dire basée sur le traçage des documents source. …
Nouvelle donne dans le gaz naturel : GRDF s’adapte en utilisant l’IA
GRDF, leader de la distribution du gaz naturel en France, affine sa stratégie d’IA. Il s’appuie sur des serveurs internes pour la confidentialité des données de ses clients. GRDF c…
Et vous, qu’en pensez-vous ?
Une idée, une réaction, une question ? Laissez-nous un mot ci-dessous.
Je réagis à cet article