« Nous n’avons pas été au cœur de la 1ère génération d’IA mais il faut être au rendez-vous de la seconde »

Renaud Vedel, coordonnateur national pour l’intelligence artificielle

Renaud Vedel est  haut fonctionnaire, en charge de la coordination de la stratégie nationale pour l’intelligence artificielle depuis 2020. A l’occasion d’un entretien avec La Revue du Digital, il trace les avancées et les défis de la stratégie Cloud, Data et IA de la France. Missionné par le Premier ministre, rattaché hiérarchiquement à neuf ministres, il coordonne les administrations afin de mener les bonnes initiatives dans la lignée du rapport Villani remis en 2018.

La Revue du Digital :
vous êtes le coordonnateur national pour l’intelligence artificielle, quelle est votre mission ?
Renaud Vedel : je dois faire en sorte que la France adopte les technologies d’IA avec doigté, efficacité et rapidité sur le plan économique pour en tirer le maximum de bénéfices mais en connaissant aussi les limites de ces technologies. Les secteurs prioritaires sont la santé, la défense et la sécurité, la transformation publique, les transports et la protection de l’environnement. Mon rôle est de mettre de la cohérence. Les ministères ont leur programme d’actions, le Président de la République a voulu qu’il y ait une impulsion sur l’IA, mon rôle est d’être le coach et de vérifier que tous les ministères agissent dans un élan collectif.

« L’IA va se diffuser comme technologie d’usage général et la 2ème phase va être davantage dans les processus industriels embarqués »

La Revue du Digital : la France n’a-t-elle pas accumulé un retard irrattrapable vis-à-vis des Gafam ?
Renaud Vedel :
Il faut être lucide. L’Europe doit se réinventer et être plus dynamique dans sa politique industrielle numérique parce que des acteurs internationaux ont pris de l’avance. Ces très grands acteurs sont sur des segments de marché très largement « B to C ». Ils proposent des produits de consommation à l’échelle de la planète qui sont peu critiques.  Comme l’IA contemporaine est très largement fondée sur les données, ils ont pris de l’avance et même parfois ils ont des organismes de recherche très puissants. Je suis absolument lucide sur la puissance de ces institutions. Mais on voit aussi que l’IA va se diffuser comme technologie d’usage général et que la 2ème phase va être davantage dans les processus industriels embarqués et là notre base industrielle si elle prend le virage dès maintenant et qu’elle s’organise, c’est ce que l’on essaye de faire, elle va pouvoir aussi contribuer à la constitution de l’IA.

La Revue du Digital : qu’apporte l’IA dans l’industrie ?
Renaud Vedel :
l’Europe est la première puissance robotique au monde. La robotique va être complètement transformée par l’IA. A partir du moment où les machines peuvent traiter de l’image et du langage, cela va complètement transformer la robotique car cela marchait beaucoup moins bien avant la révolution du « Deep Learning ». Donc on n’est pas perdus mais c’est vrai que l’on n’a pas été au cœur de la première génération d’IA mais il faut que l’on soit au rendez-vous de la seconde. C’est un petit peu plus compliqué car les processus industriels sont un peu plus critiques. Comme nous sommes face à des technologies statistiques, il faut les qualifier, il faut avoir des certitudes d’ingénierie et il faut automatiser tout cela. Cela prend plus de temps mais ce n’est pas anormal. L’IA en quelques années, est devenue un outil pour les sciences. Il y a une physique à base d’IA pour découvrir de nouveaux matériaux, il y a une biologie computationnelle, idem pour la science économique.

La France crée des Hubs de données sectoriels

La Revue du Digital : quelles actions concrètes menez-vous ?
Renaud Vedel :
sur les données industrielles, nous sommes en train de créer des hubs de données sectoriels. Ce sont les espaces de données au niveau européen et national. Dans le secteur de la logistique, nous avons subventionné le projet IA Cargo ou dans l’agriculture, le Ag Data Hub. Dans le domaine de la santé, il y a le Health Data Hub, qui est resté une démarche publique et non une organisation public-privé, car le domaine est plus sensible. On est en train de créer un hub de données dans la Culture et de le subventionner. Cela va nous permettre de récupérer la maîtrise sur nos données et à partir de là, il n’y a aucune raison que l’on ne soit pas capable de développer des IA. Il est vrai qu’aujourd’hui des grandes masses de données sur les consommateurs étaient détenues par des grands acteurs.

Les IA vont devoir montrer au départ qu’elles ne sont pas biaisées alors que l’on intervient après coup lorsqu’il s’agit des humains

La Revue du Digital : beaucoup s’inquiètent de l’éthique de l’IA, quelle est votre approche ?
Renaud Vedel : les débats éthiques sont des débats politiques. On demande souvent plus de choses aux machines qu’aux humains. Il y a aujourd’hui des discriminations dans la société, dans l’accès au logement, au crédit, à l’assurance ou dans les relations inter personnelles. Et pourtant on fonctionne avec des systèmes humains, avec l’autonomie d’un jury de recrutement ou l’autonomie de l’employeur. Il y a évidemment un droit pénal sur les discriminations, mais il faut prouver qu’il y a eu une discrimination. Avec les machines, on va leur demander au départ de montrer qu’elles ne sont pas biaisées lorsqu’elles sont à haut risque. Et c’est normal. Ce qui compte c’est la combinaison entre l’humain et la machine dans l’éthique de l’IA. On entre dans une phase de co-évolution de l’humain avec la machine. Mais il peut arriver que des personnes qui ne maîtrisent pas complètement les technologies d’IA se barricadent derrière des questions éthiques pour éviter d’avoir à rentrer dans le détail.



La Revue du Digital : quels principes éthiques vont conduire la France dans ses IA ?
Renaud Vedel :
Il faut que notre IA en Europe soit conforme à nos valeurs démocratiques. Tous les principes du code pénal, du code civil et des lois de la République s’appliquent. Il est interdit de discriminer, si la discrimination est flagrante, volontaire ou involontaire, on peut déjà poursuivre. Simplement, on considère que ces technologies d’IA posent des problèmes nouveaux un peu complexes et qu’il faut faire du sur mesure plutôt que du prêt à porter juridique classique. C’est pour cela que l’Europe s’engage dans la voie de la rédaction d’un règlement qui va s’imposer aux états membres et auquel les états membres participent, et j’y participe également.  Ce qui va être interdit ce sont certains usages inacceptables, la surveillance, le contrôle social, les systèmes de notation sociale généralisée, etc. Et il y aura un très fort encadrement, voire une interdiction de la surveillance dans l’espace public.

L’analyse d’impact des applications d’IA à haut risque, cela pourra être un peu lourd

La Revue du Digital : quelles applications d’IA seront contrôlées ?
Renaud Vedel : les applications d’IA à haut risque seront régulées. C’est un nombre de secteurs limités. Cela dépend de l’impact possible. Il faudra faire une étude d’impact qui montre qu’un système n’entraîne pas de conséquences néfastes. C’est un peu comme le RGPD. Cela pourra être un peu lourd. Si vous faites un système de recrutement et que votre base de départ c’est uniquement les gens qui sont en place chez vous, et que les gens qui sont chez vous ne sont pas représentatifs de la population, cela peut devenir un problème parce que cela veut dire que vous allez entrer un biais de discrimination. Cela doit être testé, vérifié et il faut que l’on trouve une manière de former des IA qui distinguent des compétences professionnelles pures et pas des profils indirects qui sont pris sur des métriques qui n’ont rien à voir. Et tant que votre système n’est pas suffisamment au point, peut-être qu’il ne faut pas le mettre en place. Un des problèmes de l’IA c’est qu’elle est toujours fondée sur des bases historiques et donc elle peut perpétuer des biais du passé ou des discriminations passées. On ne peut pas forcément tout mettre sur la place publique parce qu’il y a le secret des affaires, mais une entreprise peut  externaliser à des gens indépendants et tenus par le secret professionnel la vérification de ses algorithmes.

« On ne peut pas récupérer des images de personnes sur internet pour faire un logiciel de reconnaissance faciale« 

La Revue du Digital : si l’Europe régule trop, ne risque-t-elle pas de freiner son innovation face à ses concurrents internationaux ?
Renaud Vedel :
le gouvernement américain a annoncé qu’il s’engageait aussi dans la rédaction d’un « Bill of rights » pour le numérique et sans doute de réglementation des usages dangereux de l’IA, à commencer par les systèmes de recommandation. Même aux Etat Unis, on se rend compte que ces technologies parfois ont dérapé. On ne peut pas récupérer des images de personnes sans leur consentement sur internet et en dehors de tout cadre pénal pour faire un logiciel de reconnaissance faciale. C’est scandaleux. Dans le droit européen et le modèle français, on ne peut faire cela que pour des gens qui sont inscrits dans des fichiers de police parce qu’ils ont commis des crimes et des délits graves et pas n’importe qui comme cela au bon vouloir. Là il y a des limites et il faut l’encadrer. Cela c’est assumé.

La Revue du Digital : des experts pointent que l’IA consomme beaucoup d’énergie, prenez-vous cela en compte ?
Renaud Vedel :
c’est vrai, les technologies les plus récentes de l’IA qui produisent des effets technologiques pour traiter le langage et l’image, sont très gourmands en énergie. Il faut dans les années qui viennent réduire cette consommation, la rendre plus efficiente. On est dans une phase où les modèles d’IA sont de plus en plus gros, mais aussi de moins en moins spécialisés, plus larges. Mais il faut développer les techniques qui à partir de ces modèles en réduisent la taille. On peut faire de l’élagage ou réduire un peu la précision qui est très gourmande en calcul. On va aussi vers de nouvelles architectures dans lesquelles le calcul se fera de plus en plus dans le processeur. Cela veut dire que les processeurs classiques généralistes ne sont pas très adaptés à l’IA parce qu’ils sont très gourmands en énergie. On peut faire des processeurs spécialisés pour l’IA. On va vers plus d’efficacité énergétique. C’est cela il faut absolument le faire. Une partie des crédits de la recherche dans les prochaines années sera consacrée à ces enjeux. Il faut accélérer la mise sur le marché.
Il faut voir que la balance écologique et carbone de l’IA est complexe. Il y a le coût de l’IA qui ne fait que croître, parce que l’IA se diffuse, et les économies que cela peut générer dans d’autres secteurs en termes d’efficacité productive. Quand une IA fait du contrôle de défaut qualité dans une entreprise et diminue de 40% les pièces au rebut, on économise beaucoup de matière. Quand une IA agricole sélectionne les bons plants, ce qui limite les apports en engrais, on réduit la pollution agricole. Il faut évaluer secteur par secteur, application par application, le bilan net de l’IA.

En matière de Cloud, les acteurs français sont loin du compte quand on regarde les parts de marché

La Revue du Digital : l’IA s’appuie sur le Cloud, or là aussi la France ne dispose pas de champions aussi avancés que les Gafam, que faut-il faire ?
Renaud Vedel :
toute la question de la mutualisation des données nécessaire à l’IA est aussi dans la stratégie Cloud. Nous souhaitons un Cloud souverain et développer des « Clouders » français et européens. Mais on ne va pas devenir une économie fermée. Le label SecNumCloud n’est pas exclusivement réservé aux « Clouders » français et européens. L’entrée en bourse de l’un des Clouders français [NDLR : OVHCloud] est un très bon signal positif. On progresse sur ce terrain. Mais on est loin du compte quand on regarde les parts de marché. Il faut encore aller beaucoup plus loin. L’IA embarquée au plus près des machines et l’IA au niveau central dans le Cloud et décentralisée dans l’embarqué sont des dimensions absolument essentielles pour l’avenir technologique du pays.
Les « Clouders » français développent leur offre en IA et il faut aller plus loin. Et eux-mêmes auront sans doute intérêt à passer des alliances avec des startups qui proposent des services. Je pense que la bataille n’est pas perdue. On a des talents en France qui sont capables de le faire, qui commencent à proposer des produits intéressants dans ces matières là.

« Une des questions majeures qu’il faut traiter au niveau européen, c’est si on veut sortir d’un Clouder est-ce qu’on peut le faire facilement sans être enfermé ? »

La Revue du Digital : quels sont vos reproches aux géants américains du Cloud ?
Renaud Vedel :
les « hyper Clouders » sont innovants, y compris en IA. Ils ont des laboratoires de recherche à la fois internes pour leurs produits, et en même temps des laboratoires de recherche un peu plus fondamentale, qui sont intéressants.  Mais en même temps, on le voit tous les jours, ils ont aussi des comportements monopolistiques, notamment une des questions majeures qu’il faut traiter au niveau européen, c’est si je veux sortir d’un Clouder est-ce que je peux le faire facilement sans être enfermé ? Là on est dans le droit de la concurrence et il faut que la concurrence soit équitable. Tout le monde est bienvenu en Europe pour travailler mais la concurrence doit être équitable. De plus, avec leur puissance financière, ils achètent parfois si je puis dire les jeunes dans les universités ou les jeunes startups, en leur offrant gratuitement des outils. C’est très intéressant quand on débute, mais ils le font aussi dans un esprit de garder des clients. Après, vous êtes bloqué et vous allez payer et parfois fort cher avec des mécanismes dans lesquels vous ne pouvez pas sortir vos données, ou c’est très compliqué. Tout cela, il faut le réguler.

La Revue du Digital : vous insistez sur la portabilité des données, pourquoi ?
Renaud Vedel :
il y a toute une politique de l’Etat qui assume le fait de vouloir reconquérir notre maîtrise de la donnée. Il faut opérationnaliser le principe de portabilité de la donnée qui est dans le RGPD. Chaque personne peut porter ses données même si elles ont été générées dans un service numérique d’un Big Tech, elle peut ensuite les amener ailleurs. Cela va devenir une obligation juridique. Il y a plusieurs textes actuellement en négociation pour donner un statut aux intermédiaires de la donnée. Aujourd’hui tous les jours, il y a des abus de pouvoir, de domination. Il y a aujourd’hui une place de marché qui a une vision extrêmement puissante des données commerciales et des comportements en ligne d’achat. Et bien il faut que les personnes puissent décider elles-mêmes, puissent confier leurs données, par altruisme ou parce que cela les arrange à un organisme de nature mutualiste. Cela il faut le créer. Tout cela est en train de se mettre en place.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *