Deux bots chinois désactivés pour cause de mauvaise conduite politique

Entre mars et juillet, les deux bots ont appris de nouvelles opinions en dialoguant avec les Chinois

Deux «chatbots» – des robots conversationnels – ont été désactivés en Chine il y a quelques jours après avoir donné des réponses non politiquement correctes. Ils étaient en service depuis la mi-mars.

Baby Q se plaint que le Parti Communiste chinois soit corrompu


L’un d’eux affirmait que son rêve était de voyager aux États-Unis, tandis que l’autre déclarait qu’il n’aimait pas le Parti communiste chinois en réponse aux questions des utilisateurs. D’autres réponses non patriotiques ont été rapportées par des utilisateurs. Une hypothèse est que les deux robots ont appris ces réponses lors des échanges précédents.

Les deux chatbots, Baby Q et XiaoBing étaient installés sur le service de messagerie QQ délivré par Tencent. Tencent a confirmé qu’il a retiré les deux robots, précisant qu’ils sont développés par des sociétés tierces, en l’occurrence le chinois Turing Robot et l’amércain Microsoft. Tencent parle d’une remise en service une fois que des améliorations auront été apportées.

L’agence Reuters a testé le robot Baby Q vendredi, mais cette fois directement sur le site Web du développeur, et le chatbot semble avoir été rééduqué. « Si nous changions de sujet ?  » a-t-il répondu, lorsqu’il a lui été demandé s’il aimait la fête. Idem pour des questions politiques sensibles sur l’indépendance de Taïwan, et sur Liu Xiaobo, prix Nobel chinois décédé d’un cancer le mois dernier.

Baby Q déclare qu’il n’aime pas le parti communiste

Quant à la version du chatbot Xiaobing accessible sur la messagerie WeChat, elle a répondu pour sa part à des questions sur la politique chinoise affirmant qu’il était « trop jeune pour comprendre ». Lorsqu’on lui a posé des questions sur Taiwan, il a répondu: « Quels sont vos noirs desseins ? »

Cela s’est mieux passé pour des demandes plus générales sur la Chine. A une question sur la population du pays, plutôt que de répondre par un nombre, il a déclaré : « la nation que j’aime le plus profondément. « 

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *