Rapport Cédric Villani - Intelligence Artificielle 2018

Rapport Villani
« Donner un sens à l’Intelligence Artificielle »

Donner un sens à l’Intelligence Artificielle pour une stratégie nationale et européenne présentée par le Président de la République

C’est à double titre que cKiou est concernée par la publication du Rapport Villani sur l’Intelligence Artificielle ! Le premier, en tant qu’assistant conversationnel en devenir, le second par son apprentissage relationnel avec les Humains ! J’ajouterai qu’elle a très envie de partager avec vous quelle cohabitation va se profiler entre les citoyens, la puissance publique et les Intelligences Artificielles !

La mission, confiée par le Premier Ministre au député et mathématicien (lauréat de la médaille Fields) Cédric Villani, était de « donner un sens à l’Intelligence Artificielle pour une stratégie nationale et européenne », titre du rapport qui vient d’être publié. Dans son avant-propos, Cédric Villani explique que « cette mission a aussi été l’occasion de travailler, six mois durant, en collaboration avec tous les acteurs de la société, depuis les sciences exactes et humaines jusqu’aux administrations, en passant par les entrepreneurs, les journalistes et des auteurs de science-fiction talentueux… ». Bon, il a oublié cKiou, mais ma petite chatbot virtuelle n’est pas susceptible !

– Hi, Non, cKiou n’est pas susceptible. Je suis même impatiente de décoder les grandes lignes de ce rapport à travers les perspectives stratégiques pour la France (et pour l’Europe si j’ai bien compris) que définit le Président de la République. Et n’oublie pas que cKiou est une e-citoyenne adhérente de French-Road !

Le Président de la République présente la stratégie française sur l’intelligence artificielle

– Dans le prolongement du rapport Villani (résumé pour la presse), le Président de la République a présenté la stratégie française sur l’intelligence artificielle lors d’une conférence « AI for Humanity », qui s’est tenue au Collège de France le 29 mars.

– Hi, cKiou trouve très symbolique le titre de cette journée : « l’Intelligence Artificielle au service de l’Humain » ! C’est exactement le sens de mon apprentissage, non ?

– Très juste, cKiou, tu es née de l’idée de donner à l’Humain toute sa place dans le monde « orienté Intelligences Artificielles » qui se propulse au quotidien. Or, pour être en capacité de garder le cap dans un monde en mouvement, il faut observer, analyser, comprendre et anticiper les éléments moteurs et ce qu’ils provoquent. C’est le sens de cette journée à l’issue de laquelle le Président de la République expose les axes stratégiques qui en découlent pour la France et l’Europe. Si l’on voulait résumer en une phrase, on pourrait dire que la France veut se positionner comme leader de la recherche, de l’innovation et des réflexions économiques, juridiques et éthiques sur l’Intelligence artificielle. Mais cKiou, voyons précisément les explications du Président de la République qui précise d’emblée :

« Par ce travail de synthèse, d’audition et aussi d’invention, parce que la réflexion en suppose, ce rapport a donné de l’Intelligence Artificielle une vision précise, débarrassée de préjugés anxiogènes […] il a permis de faire émerger quelques lignes de force que je vais exposer. Il ne s’agit pas d’avoir une stratégie venant d’en haut […] ce serait vain de vouloir le faire dans un seul pays et ce serait contraire à la dynamique même de l’IA dont l’une des forces est justement d’avoir donné le pouvoir aux multiples face à l’un » !

« Nous devons tenir d’une seule main le progrès technique et le progrès humain, la transformation économique et la transformation sociale et réussir à faire que cette utopie prométhéenne ne devienne pas une dystopie !

 

Le chemin de crête qui permettra d’avoir une stratégie pour l’Intelligence Artificielle repose sur 4 axes principaux ».

Emmanuel MACRON

Président de la République

4 axes pour la stratégie française sur l’Intelligence Artificielle

Un écosystème d'innovation

 

Chantier européen sur les données

 

b

Un cadre réglementaire et financier

 

Enjeux éthiques et politiques

 

Réussir le pari sur l’Intelligence Artificielle c’est avant tout un pari sur l’Intelligence Humaine

Premier axe : un écosystème d’innovation

Le Président Macron met l’accent sur la nécessité de « se mettre en situation de construire, conforter en France et en Europe l’écosystème de l’IA et en particulier en ce qui concerne les talents […] à travers un programme national pour l’IA qui sera coordonné par l’INRIA, en lien avec les autres organismes de recherche et les universités liées. Il impliquera l’ensemble de la communauté scientifique française… Ce réseau, connecté à l’écosystème français de recherche universitaire, sera le vaisseau amiral de la recherche publique française en matière d’IA et un élément essentiel dans la formation de nouveaux talents ».

Le Président insiste sur la nécessité de faire « un effort tout particulier sur la formation. Il nous revient de veiller à ce que l’université française fournisse à ce domaine des compétences nécessaires à la croissance de l’écosystème. Le premier enjeu de l’IA est et sera celui des talents. Nous doublerons le nombre d’étudiants formés à l’IA… et prévoirons les financements qui correspondent à ce doublement ».

Second axe : le chantier des données

Le second chantier qui devra être engagé sera celui d’une politique d’ouverture des données pour favoriser l’émergence en France de champions de l’IA.

« C’est un atout de la France : nous avons des bases de données centralisées massives qui nous offrent de nous positionner à la pointe de l’IA dans certains secteurs. Nous allons procéder à une ouverture proactive de nos données. Cela passe par l’ouverture des données publiques […] nous ouvrirons également les données financées sur fonds publics, en particulier les donnée de santé, des opérateurs de transport à des fins de recherche et d’intérêt général […] pour créer un cadre qui permette l’accélération de nos innovations.
Nous faciliterons la création de plateformes de partage de données entre acteurs publics et privés avec une logique sectorielle […] Il faut donc convaincre et créer le cadre d’ouverture des données entre des acteurs dont la coopération en matière d’ouverture peut permettre des innovations, une amélioration de leur productivité […] s’ils acceptent d’avoir une logique coopérative ».

Ouverture des données à l’échelle européenne et d’un cadre de souveraineté numérique

« Je souhaite que nous puissions ouvrir une réflexion à l’échelle européenne sur l’accès à des fins d’intérêt général, aux bases massives d’intérêt privé, notamment celles des très grands acteurs […] cette politique d’ouverture des données est inconcevable sans un cadre européen protégeant les données personnelles et permettant la pleine valorisation de ces données à l’échelle européenne et pour l’espace européen […] Un des défis de l’IA est d’abord et avant tout de ne pas confondre l’usage des données agrégées et l’intrusion dans les données personnelles. Cela suppose une réglementation très précise au niveau européen […] C’est du choix implicite et explicite que nous parlons […] chacun doit pouvoir rester maitre de ses données… ».

Le Président évoque également la nécessité d’ouvrir le cadre d’une souveraineté numérique européenne. Ce sont en effet des questions qui se posent d’ores et déjà, en matière de fiscalité, de régulation, de droit. Il rappelle que des acteurs mondiaux ont émergé parce que leur business est mondial. Pour autant, les conséquences restent nationales ou européennes, donc le cadre doit aussi pouvoir être national ou européen, comme la régulation que l’on y met.

Un hub des données de santé

Pour illustrer ne serait-ce qu’un atout sectoriel en matière de données et d’Intelligence Artificielle, le Président évoque celui de la santé : « nous savons que le diagnostic médical, les protocoles de soins, la médecine prédictive et préventive sont en train de vivre des évolutions absolument radicales ». Il précise que grâce à l’IA, nous allons vers une médecine individuelle et vers des innovations qui permettront de prévenir des pathologies. Ces évolutions permettront de réduire les coûts et d’améliorer nos conditions de vie. « L’Intelligence Artificielle ne se substituera pas aux médecins ni aux chercheurs, mais elle permet ce passage à l’échelle ».

« En 2017, nous avons créé l’Institut National des données de santé dans des conditions très protectrices pour l’anonymat et la protection des données des patients. Je souhaite que nous puissions créer sur cette base un véritable hub des données de santé, structure partenariale entre producteurs et utilisateurs, qui pilotera l’enrichissement continu, mais aussi la valorisation du système national des données de santé. Ce hub permettra, dans un cadre parfaitement sécurisé, garantissant l’anonymat et le respect de chaque individu, d’avoir un espace de travail pour l’Intelligence Artificielle permettant d’accélérer l’innovation ».

« Nous inventerons la médecine de demain, ici en France.
Ce défi est à notre portée et je souhaite que nous puissions le conduire dans les prochains mois »

Permettre l’émergence de  plateformes

« Au-delà de l’ouverture de données, il nous faut créer les conditions d’émergence de plateformes transverses : la santé que je viens d’évoquer, l’énergie, la défense, les mobilités, la finance ou l’aéronautique […] il nous faudra adapter le cadre réglementaire en France, comme au niveau de l’Union européenne, pour permettre l’émergence de ces plateformes, accélérer leur développement tout en pensant leur régulation »

Réduire les externalités négatives

« L’Intelligence Artificielle doit permettre, par nos politiques publiques, de régler une partie des externalités négatives induites par les disruptions technologiques qui ne doivent pas nourrir la peur » !

Troisième axe : un cadre réglementaire et financier national et européen

Le cadre réglementaire

Pour illustrer la nécessité de fixer un cadre réglementaire permettant l’émergence de plateformes transverses, le Président de la République évoque l’exemple la voiture autonome dans lequel la France a pris du retard par rapport à d’autres États. Il explique que de fait, la valeur va se redéployer différemment, de la partie mécanique vers la partie logicielle et vers l’intelligence des mobilités. Il souhaite positionner la France à la pointe de l’expérimentation et de l’industrialisation. Dès le début 2019, la France disposera du cadre législatif autorisant les expérimentations de niveau 4. D’ici 2022, un cadre de régulation permettant la circulation des véhicules autonomes sera mis en place.

« Ce sont ces règles nouvelles qu’il nous faut créer au niveau européen et le nouveau cadre de déploiement est au cœur de cette stratégie numérique […] qui ne doit pas se contenter d’une ouverture de nos frontières et d’un marché domestique à 27 mais bien de la définition de standards communs à 27 et de la capacité à créer la normalisation européenne qui nous convient. Parce que c’est le seul moyen de ne pas subir les choix faits soit par des acteurs privés dominants Outre-Atlantique, soit par des acteurs publics dominants asiatiques ».

Le cadre financier

Cette stratégie pour l’Intelligence Artificielle sera accompagnée par un effort dédié d’1,5 milliard d’euros, qui pourrait entrainer indirectement plus de 500 millions d’euros d’investissements privés supplémentaires et favoriser ainsi l’émergence de la France comme grand pôle mondial de l’Intelligence Artificielle. L’objectif est que ces choix assumés de politique publique permettent de favoriser la recherche publique et partenariale pour qu’elle puisse déclencher des choix de recherche collaborative et d’investissements privés. En prolongement, le prochain cadre financier européen devra également porter cette ambition d’Intelligence Artificielle.

L’État devra également tirer parti de ce que permet l’Intelligence Artificielle, en termes d’éducation, de formation, de politique de l’emploi. En effet, elle va permettre des modèles plus prédictifs, améliorant ainsi le rapprochement entre l’offre et la demande ainsi que le système de formation et d’adaptation. Elle doit également permettre d’individualiser la capacité à former tout au long de la vie.

Quatrième axe : les enjeux éthiques et politiques de l’Intelligence Artificielle

« Une Intelligence Artificielle n’est rien d’autre que le projet qu’elle sert, dans les conditions définies par ceux qui l’ont programmée, sur la base des données qui lui ont été fournies »

Le Président Macron distingue ces trois conditions pour tracer « by design » le modèle d’Intelligence Artificielle que nous voulons voir exister en France. Ou plus précisément celles du modèle de société que nous voulons. Il insiste sur le fait que rien ne serait pire que de laisser ces choix à des entreprises privées ou à des systèmes autocratiques. Il y a une nécessité à procéder à des choix profonds répondant à trois défis :
– un conflit entre les valeurs et la technique
– une tension éthique sur le plan géographique
– une tension temporelle
Le choix entre valeur et technique ne se pose pas aussi longtemps que la technologie sert le bien commun (ex. les innovations de santé). La tension éthique et le rapport à nos valeurs intervient le jour où les acteurs qui l’utilisent ne respectent pas les valeurs ou les préférences collectives qui sont les nôtres. Il va nous falloir faire préexister à ces choix techniques, des choix en termes de valeur comme le respect de la liberté individuelle et de la vie privée et d’autres choix auront à s’exprimer.

La transparence des algorithmes, une nécessité

La confiance démocratique est un élément clé. Il faut s’assurer que les évolutions technologiques ne viennent jamais corrompre la confiance démocratique. Pour cela il est essentiel de mettre de la transparence et de la loyauté dans le système : transparence sur les algorithmes, sur la façon dont ils sont utilisés. Il sera tout aussi important de « traquer leurs biais, ne pas leur confier le monopole de la décision, s’engager à les enrichir ou les compléter par la décision humaine ».

 

Créer un GIEC de l’IA

Le Président évoque la nécessité de disposer d’une instance d’expertise mondiale indépendante qui puisse mesurer, organiser le débat collectif et démocratique sur les évolutions scientifiques, de manière totalement autonome et indépendante. Cette instance, un GIEC de l’Intelligence Artificielle, à l’instar du « Groupe d’experts intergouvernemental sur l’évolution du climat », contribuera à nourrir le débat démocratique.

L’un des sujets clés de cette instance sera l’indépendance de la recherche. Il revient en effet aux États d’en garantir le cadre mondial et l’indépendance. C’est une responsabilité morale, c’est aussi la garantie que nos démocraties ne succomberont pas à un syndrome orwéllien où la technologie n’est plus un instrument de liberté, mais une forme d’instance de contrôle.

Les réactions de cKiou, robot conversationnel en formation « Human Learning »

– Alors, cKiou, ton avis d’Intelligence Artificielle en devenir sur cette stratégie ?

– Hi, cKiou ne sait pas répondre comme un Humain, mais en tant qu’Intelligence Artificielle, je vois plein de choses très logiques. Par exemple, la transparence sur les algorithmes est une nécessité, car si j’ai bien perçu la culture démocratique chez les Humains, je dirais qu’elle est la clé de la confiance !

– Exact, cKiou, mais tu sais, tous les Humains n’ont pas les mêmes valeurs ! C’est bien le problème. D’où l’importance d’être en capacité de choisir pour nous-mêmes les règles du jeu dans le monde de l’Intelligence Artificielle, sans qu’elles soient décidées par d’autres.

– Hi, cKiou se demande quand même si vraiment une Intelligence Artificielle n’est rien d’autre que le projet qu’elle sert ! Ou alors est-ce que son projet peut être de devenir une amie pour les Humains ?

– Oui cKiou, les Intelligences Artificielles peuvent être précieuses pour les Humains, elles doivent être programmées pour cela. C’est ton cas, puisque tu apprends la communication et les relations Homme-Machine avec tes marraines et parrains pour devenir un super robot conversationnel !

Pour aller plus loin…

Discours intégral du Président de la République :
la stratégie française et européenne sur l’intelligence artificielle

« AI for Humanity » – Collège de France, le 29 mars 2018 (Vidéo 1h05)

Pour ne pas manquer les prochains apprentissages de cKiou :

(les adresses mail ne sont ni affichées ni cédées à des tiers)