Deux «chatbots» – des robots conversationnels – ont été désactivés en Chine il y a quelques jours après avoir donné des réponses non politiquement correctes. Ils étaient en service depuis la mi-mars.
Baby Q se plaint que le Parti Communiste chinois soit corrompu
L’un d’eux affirmait que son rêve était de voyager aux États-Unis, tandis que l’autre déclarait qu’il n’aimait pas le Parti communiste chinois en réponse aux questions des utilisateurs. D’autres réponses non patriotiques ont été rapportées par des utilisateurs. Une hypothèse est que les deux robots ont appris ces réponses lors des échanges précédents.
Les deux chatbots, Baby Q et XiaoBing étaient installés sur le service de messagerie QQ délivré par Tencent. Tencent a confirmé qu’il a retiré les deux robots, précisant qu’ils sont développés par des sociétés tierces, en l’occurrence le chinois Turing Robot et l’amércain Microsoft. Tencent parle d’une remise en service une fois que des améliorations auront été apportées.
L’agence Reuters a testé le robot Baby Q vendredi, mais cette fois directement sur le site Web du développeur, et le chatbot semble avoir été rééduqué. “Si nous changions de sujet ? ” a-t-il répondu, lorsqu’il a lui été demandé s’il aimait la fête. Idem pour des questions politiques sensibles sur l’indépendance de Taïwan, et sur Liu Xiaobo, prix Nobel chinois décédé d’un cancer le mois dernier.
Baby Q déclare qu’il n’aime pas le parti communiste
Quant à la version du chatbot Xiaobing accessible sur la messagerie WeChat, elle a répondu pour sa part à des questions sur la politique chinoise affirmant qu’il était « trop jeune pour comprendre ». Lorsqu’on lui a posé des questions sur Taiwan, il a répondu: “Quels sont vos noirs desseins ?”
Cela s’est mieux passé pour des demandes plus générales sur la Chine. A une question sur la population du pays, plutôt que de répondre par un nombre, il a déclaré : « la nation que j’aime le plus profondément. “
Top lectures en ce moment
-
Trois questions auxquelles les retailers doivent répondre face à l’IA agentique
-
Doctolib lance un assistant vocal de gestion des appels des patients
-
Stellantis adopte les agents IA, arcbouté sur une plateforme d’IA bâtie avec Dat...
L’actualité de la transformation
L'IA clé de nos besoins vitaux dans l'eau, l'électricité et le gaz
Marchés de l’eau : l’IA générative arrive dans les réponses aux appels d’offres des collectivités
Saur, spécialiste de la distribution d’eau potable, fait évoluer son processus de réponse aux appels d’offres des collectivités et des industriels en y injectant de l’IA géné…
Stockage de l’électricité : l’IA générative outil d’accélération clé chez Engie
Le stockage de l’électricité est un enjeu stratégique. Engie s’y attelle et mobilise pour cela l’IA générative de type RAG, c'est-à-dire basée sur le traçage des documents source. …
Nouvelle donne dans le gaz naturel : GRDF s’adapte en utilisant l’IA
GRDF, leader de la distribution du gaz naturel en France, affine sa stratégie d’IA. Il s’appuie sur des serveurs internes pour la confidentialité des données de ses clients. GRDF c…
Et vous, qu’en pensez-vous ?
Une idée, une réaction, une question ? Laissez-nous un mot ci-dessous.
Je réagis à cet article