La pépite de l’IA Générative chez BPCE Assurances : la rédaction du compte rendu des appels clients

S’il est un cas d’usage de l’IA générative que Nofel Goulli, Directeur Général Délégué de BPCE Assurances et BPCE Vie, veut mettre en avant c’est bien la transcription écrite en temps réel des appels clients passés auprès de ses conseillers. Ces conseillers travaillent au centre d’appels et rédigent actuellement ces comptes rendus. BPCE est le puissant groupe de bancassurance Banque Populaire Caisse d’Epargne.

Au-delà de ce cas d’usage, qui ressemble encore beaucoup à un MVP (Minimum Viable Product) et qui est d’ailleurs enregistré comme tel sur la feuille de route de la direction des services Data et IA du groupe BPCE, Nofel Goulli recommande aux entreprises de déployer rapidement des cas d’usage de l’IA générative afin de se poser les bonnes questions face aux retours du terrain et sur l’administration de ces nouveaux composants dans le système d’information.

La pépite et la réussite de l’année 2024

Son enthousiasme est maximal pour le cas d’usage de la rédaction des comptes rendus d’appels. « Je considère ce cas d’usage comme notre pépite et notre réussite de l’année 2024. Je pense que ça parlera à beaucoup de monde, c’est le compte rendu post appel généré en live » annonce-t-il. Il a pris la parole le 17 septembre à l’occasion de l’événement « AI For Finance » organisé par la société de conseil Artefact. « On a ce cas d’usage en production, maintenant, on est en phase de ramp-up sur ce sujet » dit-il.

Le ramp-up d’un produit logiciel est une phase critique, consistant à augmenter progressivement son usage jusqu’à atteindre la pleine capacité opérationnelle. Nofel Goulli se montre enthousiaste au vu des capacités de cette IA générative de rédaction d’appels. « Nous avons eu des démos, c’est incroyable. Vraiment, c’est incroyable. Vous avez un appel avec un client en temps réel et vous avez le compte rendu qui est généré en temps réel, en moins de trois mois sur toute la phase d’expérimentation » décrit-il.

Les résultats obtenus à ce stade sont satisfaisants. « Aujourd’hui, en termes de contenu, c’est 100% exact et c’est complété uniquement à hauteur de 40%. C’est-à-dire que le collaborateur garde complètement le texte qui a été généré dans le compte rendu et le complète éventuellement avec quelques éléments » dit-il. Il trouve cela incroyable et surtout incroyable parce que les collaborateurs dans les centres d’appels ne veulent pas revenir en arrière maintenant que cette solution leur a été présentée.

L’IA générative doit être au service de l’humain

Pour le responsable, ce sujet est vraiment emblématique et montre que l’IA générative est au service de l’humain. De plus, les employés n’ont pas peur que l’IA générative prenne leur emploi. « Il n’y a aucune crainte de nos collaborateurs. [Rédiger les comptes rendus] c’était quelque chose de pénible. Quand vous avez votre client en ligne, vous êtes là à prendre des notes et en même temps à essayer de résoudre le problème du client en naviguant évidemment dans certaines applications pour essayer de comprendre. Ça, c’est terminé. Vous avez un compte rendu » insiste Nofel Goulli.

L’usage de l’IA générative a également permis de structurer les comptes rendus. « On s’est posé la question: est-ce qu’on fait un compte rendu en mode ‘texte libre’ ? C’est ce que font nos collaborateurs aujourd’hui. Ou est-ce que puisqu’on a cette technologie, on fait du texte structuré ? Donc, on a fait ce choix-là et c’est vraiment incroyable en termes de qualité » poursuit-il. Le résultat est un compte rendu écrit, structuré avec demande du client, l’action du collaborateur et la conclusion.

« C’est surtout après dans les interactions que vous avez avec le client, vous avez une structure qui est homogène, standardisée, une qualité de rédaction qui est ‘topissime’. Je suis très enthousiaste parce que c’est vraiment pour nous la réussite de l’année et c’est là-dessus qu’on veut évidemment capitaliser » établit le dirigeant.

L’IA générative peut apporter énormément de valeur

Nofel Goulli annonce la poursuite avec l’IA générative en 2025 sur tout ce qui est au niveau du back middle office et pour des sujets sur lesquels le groupe BPCE (Banque Populaire Caisse d’Epargne) pense pouvoir faire énormément, comme le fait d’amener de la valeur à tout ce qui est de l’exploitation documentaire. Cela concerne les services juridiques et les services de conformité pour la production réglementaire.

« Dans l’assurance vie, nous avons des directions des investissements qui sont disproportionnées par rapport à des structures classiques. Notre direction des investissements fait beaucoup de due diligence. On a des mines de gains ou d’apport de valeur en exploitant l’IA générative pour cela, Et puis, il y a tout ce qui est l’exploitation des écrits aussi, où on pense que l’IA générative va nous amener des choses » liste-t-il.

Au passage, Nofel Goulli constate que l’arrivée de l’IA générative a démocratisé les sujets de la data et de l’IA dans le groupe BPCE. « Si je veux lancer demain un projet d’IA ou de data, c’est beaucoup plus facile » pointe-t-il. Dès lors, BPCE Assurances se réjouit d’arriver à ouvrir de nombreux projets d’IA et de data. Dans ce cadre, BPCE Assurances travaille notamment avec Google et sa plateforme GCP (Google Cloud Platform).

Recueillir les retours des utilisateurs dans la vraie vie

A l’heure actuelle, Nofel Goulli souligne la nécessité d’accompagner l’usage de l’IA générative auprès des employés et de recueillir les retours des utilisateurs côté BPCE Assurances. « Il faut garder en tête que l’humain est au cœur de cette thématique de l’IA et de l’IA pour l’assurance en particulier pour plein de raisons qui sont notamment réglementaires » alerte le responsable.

Il y a donc eu d’abord l’acculturation des équipes. « Je pense que certains d’entre nous ont plus ou moins poussé des formations autour du ‘prompting’ [rédaction des invites de commande des IA génératives] et le sujet du référentiel de prompts.  On va passer maintenant à la seconde étape qui est l’ancrage de cette culture, des usages » déclare-t-il. Il s’agit de l’usage de l’IA générative dans le quotidien des collaborateurs que ce soit pour écrire des mails, effectuer des présentations, etc.

« Là, il faut ancrer ces usages-là pour vraiment avoir cette notion de culture complète de l’IA générative. Nous mettons en place des ambassadeurs dans toutes nos directions » explique-t-il. Il y a plusieurs ambassadeurs dans les grandes directions, et cela concerne la direction juridique, la fonction actuarielle, et les équipes de backoffice.

Des ambassadeurs dans toutes les directions

Cette organisation s’appuyant sur des ambassadeurs devrait durer deux ou trois ans. « Il va y avoir un ambassadeur autour de l’IA, et de l’IA générative en particulier, dans les usages du quotidien pour probablement les deux, trois ans à venir, avec cette logique d’être en proximité de chacun des collaborateurs, de s’assurer qu’il y a un rituel d’utilisation, finalement, de cette technologie et d’avoir les feedback qui vont nous permettre de nous adapter » espère-t-il.

Nofel Goulli appelle à connaître les retours de la réalité du terrain après toutes les supputations qui ont pu être faites sur l’IA générative. « On a beaucoup théorisé, expérimenté des choses. Maintenant, on entre dans cette phase où on est dans l’usage réel d’IA et d’IA générative. Et maintenant, la vraie vie, c’est quoi ? Et comment on en tient compte ? Comment on adapte ces technologies aux usages pour être utile à nos collaborateurs et à nos clients » questionne-t-il.

Au final,  le DG délégué conseille de mettre en production des cas d’usage assez rapidement pour se rendre compte de l’administration de cette nouvelle technologie et le positionnement par rapport à l’informatique. « Quand vous avez développé cette intelligence-là, cela devient un composant dans votre système d’information » rappelle-t-il. Sauf que c’est un composant qui n’a pas été développé par l’IT, cela a été développé par des Data scientists et des experts en IA.

Articuler les composants d’IA générative avec le système d’information

« Donc, quand ça ne fonctionne pas, on ne va pas se retourner vers l’IT. Donc, il y a une réflexion autour finalement de cette articulation, ce que j’appelle chez nous l’intelligence de la donnée, tous ces composants intelligents. Comment on articule demain ces composants d’IA, d’IA générative, multimodale, avec notre système d’information, et en sachant que certaines fois, ces composants vont remplacer des composants informatiques classiques » prévient-il.

« Nous en sommes au tout début des réflexions sur ce sujet-là. Ça tirera des sujets finops, devops, etc. » pense-t-il. Nofel Goulli espère que ces technologies vont se déployer dans l’entreprise. « Donc, il y a un sujet d’articulation avec le système d’information et puis de l’administration par nos équipes métiers. Comment finalement administre-on ces outils-là ? Comment les mettons-nous à jour ? Comment on les fait évoluer ? On n’en est qu’au début et c’est pour cela qu’il faut mettre en production assez rapidement des cas d’usage et puis les administrer » conclut-il.

Au niveau du groupe BPCE, lors de l’arrivée de l’IA générative, il y a eu un premier moment de réflexion, plus de réactions, face à l’arrivée de cette nouvelle technologie et de ses potentiels, avec des réactions parfois un peu excessives.

Un LLM sécurisé mis en place à l’été 2023

Puis il y a eu un volet plutôt humain autour de l’acculturation des équipes afin de présenter ce sujet de l’IA générative aux collaborateurs, avec la mise en place assez rapidement d’un LLM (grand modèle de langage) sécurisé. Tout cela a mené à l’été 2023 à un LLM sécurisé qui n’était pas déployé sur tout le groupe, mais avec une logique de déploiement sur tout le groupe.

Et puis aussi, assez rapidement, il s’est agi d’identifier des cas d’usages de l’IA générative, qui puissent être assez rapidement réalisables. Côté BPCE Assurances, il y a eu la mise en place d’un plan de formation, un plan de déploiement qui s’articule autour de la formation, de la mise en place d’un « référentiel de prompts » qui a été constitué très tôt. Et puis il y eu ensuite une logique de déploiement de l’IA générative sur toutes les directions pour identifier les spécificités autour du « prompting » des différentes directions.

Le deuxième volet a consisté à identifier rapidement des cas d’usages. BPCE Assurances avait un « knowledge bot » qui s’appuyait sur des technologies classiques d’IA et qui a été migré assez rapidement vers l’IA générative et qui tourne maintenant en production. BPCE Assurances a également constitué une feuille de route à quatre ans autour de l’IA générative.