Il faut considérer toute interaction avec un chatbot comme une conversation avec un inconnu. C’est le conseil de Vladislav Tushkanov, Lead Data Scientist chez Kaspersky, fournisseur de solutions de sécurité. Il réagit au dysfonctionnement subi en début de cette semaine par Chat GPT, l’agent conversationnel d’OpenAI piloté par intelligence artificielle.
L’historique de conversations rendu public
« Ce dysfonctionnement a rendu public à d’autres internautes l’historique de conversations de certains utilisateurs. Ce bug a été rapidement maîtrisé par OpenAI, mais il pose de nombreuses questions en matière de cyber sécurité et de protection des données personnelles » estime Vladislav Tushkanov. Pour être plus précis, ChatGPT a rendu public les titres décrivant l’historique des échanges d’autres internautes. Sam Altman, fondateur d’OpenAI s’en est excusé sur Twitter.
Vladislav Tushkanov, de Kaspersky, pour sa part, retient que ChatGPT prévient ses utilisateurs sur les risques encourus quand on l’utilise. « Bien que la fuite ait exposé certaines informations de ses utilisateurs, il faut noter que ChatGPT les avertit, lors de la connexion, que ‘les conversations peuvent être examinées par nos formateurs d’IA’ et demande “[de ne pas] partager d’informations sensibles dans vos conversations’. De sorte que dès le début, les utilisateurs n’auraient dû avoir aucune attente en matière de confidentialité lorsqu’ils utilisaient la démo web de l’agent conversationnel » explique le spécialiste.
On ne sait pas où le contenu aboutira
D’où son conseil, « considérez toute interaction avec un chatbot ou tout autre service, d’ailleurs comme une conversation avec un parfait inconnu. Vous ne savez pas où le contenu aboutira, alors abstenez-vous de révéler des informations personnelles ou sensibles sur vous-même ou sur d’autres personnes » termine Vladislav Tushkanov. Il est important de noter que ChatGPT Web Demo et l’API (qui peut être utilisée par les entreprises) sont des interfaces différentes, ajoute-t-il.
Top lectures en ce moment
-
Trois questions auxquelles les retailers doivent répondre face à l’IA agentique
-
Doctolib lance un assistant vocal de gestion des appels des patients
-
La CDP (Customer Data Platform), un projet clé de la transformation Data d’Axa F...
L’actualité de la transformation
L'IA clé de nos besoins vitaux dans l'eau, l'électricité et le gaz
Marchés de l’eau : l’IA générative arrive dans les réponses aux appels d’offres des collectivités
Saur, spécialiste de la distribution d’eau potable, fait évoluer son processus de réponse aux appels d’offres des collectivités et des industriels en y injectant de l’IA géné…
Stockage de l’électricité : l’IA générative outil d’accélération clé chez Engie
Le stockage de l’électricité est un enjeu stratégique. Engie s’y attelle et mobilise pour cela l’IA générative de type RAG, c'est-à-dire basée sur le traçage des documents source. …
Nouvelle donne dans le gaz naturel : GRDF s’adapte en utilisant l’IA
GRDF, leader de la distribution du gaz naturel en France, affine sa stratégie d’IA. Il s’appuie sur des serveurs internes pour la confidentialité des données de ses clients. GRDF c…
Et vous, qu’en pensez-vous ?
Une idée, une réaction, une question ? Laissez-nous un mot ci-dessous.
Je réagis à cet article