Les systèmes d’Intelligence Artificielle investissent tous les secteurs d’activités et tous les milieux socioprofessionnels. Ils impactent nos usages professionnels et privés, nos déplacements, nos modes de vie… et même nos comportements. Face à ces évolutions, les règles et principes de notre « vieux monde » doivent s’adapter.

Quelques réflexions et recommandations de différentes institutions

 

Novembre 2021 : Les États membres de l’UNESCO adoptent le tout premier accord sur l’éthique de l’intelligence artificielle

Les 193 États membres de l’Unesco ont adopté une « Recommandation sur l’éthique de l’IA », première norme mondiale sur l’éthique de l’intelligence artificielle. Elle énonce des valeurs et principes communs pour mettre en place une infrastructure juridique nécessaire assurant un développement sain de l’IA.Ce texte fixe le premier cadre normatif mondial tout en donnant aux États la responsabilité de l’appliquer à leur niveau dans des domaines d’actions stratégiques :

Évaluation de l’impact éthique : identifier et analyser les avantages et les risques des systèmes d’IA et les questions qu’ils soulèvent
Gouvernance et gestion éthiques : s’assurer que les mécanismes de gouvernance de l’IA sont inclusifs, transparents, multidisciplinaires, multilatéraux
Politiques en matière de données : élaborer des stratégies de gouvernance des données garantissant l’évaluation continue de la qualité des données d’entraînement des systèmes
Développement et coopération internationale : examiner les questions éthiques au sein des instances internationales, intergouvernementales et multipartites
Environnement et écosystèmes : évaluer l’impact environnemental direct et indirect du système d’IA tout au long de son cycle de vie
Égalité des genres : veiller à ce que le potentiel des technologies numériques soit pleinement optimisé afin de contribuer à l’égalité des genres
Culture : établir des systèmes d’IA dans les domaines de la conservation et de l’accessibilité du patrimoine culturel matériel, documentaire et immatériel
Éducation et Recherche : collaborer avec des organisations internationales, des établissements d’enseignement afin de transmettre au grand public les connaissances nécessaires pour réduire les fractures numériques
Communication et information : utiliser les systèmes d’IA pour améliorer l’accès à l’information et au savoir
Économie et travail : évaluer et traiter l’impact des systèmes d’IA sur le marché du travail et son incidence sur les besoins en matière d’éducation
Santé et bien-être social : utiliser des systèmes efficaces pour améliorer la santé humaine et protéger le droit à la vie

Septembre 2020 : La CNIL publie « À votre écoute », un livre blanc sur les assistants vocaux

Partant de ce postulat : « S’il est possible d’enregistrer le son – et donc la voix – depuis près d’un siècle et demi, la parole demeure encore aujourd’hui associée à une certaine volatilité. Toutefois, la généralisation des usages des technologies de traitement automatique de la parole et leur intégration dans un nombre croissant d’objets dessine un rapport nouveau à « l’objet vocal ». Un changement de paradigme essentiel pour les utilisateurs semble ainsi à prévoir », ce livre blanc souligne les différents enjeux éthiques, juridiques et techniques qui entourent les assistants vocaux. Il restituer et prolonge les travaux déjà réalisés par la Cnil et un ensemble de travaux menés avec différents partenaires.

Au sommaire de ce Livre Blanc qui s’adresse tant aux professionnels qu’aux utilisateurs :
– Assistants vocaux, de quoi parle-t-on ?
– La voix sur écoute : mythes et enjeux des assistants vocaux
– Cas d’usages : le RGPD en pratique
– Assistants vocaux, les bons réflexes

Mars 2020 : Éthique de l’intelligence artificielle, l’UNESCO aussi !

Après la Commission européenne et l’OCDE, l’UNESCO s’engage pour une IA éthique : un groupe international de 24 personnalités parmi les plus grands experts mondiaux sur les défis sociaux, économiques et culturels de l’ #IA va élaborer des recommandations sur l’éthique de l’Intelligence Artificielle, son développement, son utilisation.

Ces nominations font suite à la décision prise par les 193 États membres de l’UNESCO de charger l’Organisation d’élaborer le « premier instrument normatif mondial » sur cette question fondamentale.
Les experts vont devoir examiner les choix éthiques complexes auxquels le monde est confronté dans l’actuelle phase émergente de l’IA. Un texte sera ensuite soumis aux États membres de l’UNESCO pour adoption lors de la prochaine Conférence générale prévue en 2021.

Élaboration d’une Recommandation sur l’éthique de l’intelligence artificielle
Étude préliminaire sur l’éthique de l’Intelligence Artificielle (PDF)

Mars 2020 : L’OCDE a lancé un observatoire dédié aux politiques publiques relatives à l’Intelligence Artificielle

Objectifs :
– Aider les pays à encourager, accompagner et suivre le développement responsable de systèmes d’IA dignes de confiance au service de la société, préfigurant l’adoption d’une politique réglementaire.
– Devenir une plateforme inclusive dédiée aux politiques publiques relatives à l’IA
– Faciliter le partage d’informations et la collaboration
– Offrir des métriques aux chercheurs, industriels, membres de la société civile et décideurs politiques pour alimenter leurs travaux
– Aider à la mise en œuvre des Principes de l’OCDE sur l’IA
– Identifier et partager des indicateurs relatifs à l’adoption d’une IA digne de confiance.

OCDE : Organisation de coopération et de développement économiques : organisation internationale d’études économiques, dont les pays membres ont en commun un système de gouvernement démocratique et une économie de marché qui œuvre pour la mise en place de politiques pour une vie meilleure.

Mars 2020 : Un coordinateur national pour l’intelligence artificielle en France

Rattaché à la Direction générale des entreprises du ministère de l’Économie et des Finances, Renaud VEDEL s’appuiera sur l’ensemble des administrations concernées, ainsi que sur les centres et laboratoires de recherche dédiés à l’Intelligence Artificielle.

La stratégie nationale en IA vise à positionner la France comme un leader de l’intelligence artificielle en Europe et dans le monde. Dotée d’un budget de 1,5 milliard d’euros sur cinq ans, elle a pour priorités :
– de renforcer l’attractivité de la France pour les talents et pour les investissements, dans la recherche comme dans la création d’entreprises ;
– de diffuser les technologies d’intelligence artificielle et de science de la donnée ;
– de consolider un modèle #éthique et équilibré entre innovation et protection des droits fondamentaux, au service de l’humanité.

Prises de positions de l’Europe en matière d’Intelligence Artificielle

Quelques textes concernant la place et l’éthique des Intelligences Artificielles et les potentielles responsabilités concernant les technologies émergentes et/ou autonomes :

concernant les technologies émergentes et/ou autonomes :

Avril 2021 – Proposal for a Regulation on a European approach for Artificial Intelligence

La commission européenne a publié son projet de réglementation et d’actions « en faveur de l’excellence et de la confiance dans l’intelligence artificielle » qui distingue plusieurs niveaux de risque pour les systèmes d’IA.
Les systèmes d’IA : à risque minime, à risque limité, à risque élevé. Il propose des règles spécifiques pour les fournisseurs de systèmes d’IA à haut risque : Pour être mis sur le marché, un système d’IA à haut risque doit notamment faire l’objet d’une évaluation de sa conformité. Les systèmes d’IA autonomes doivent être enregistrés dans une base de données de l’UE pour recevoir une déclaration de conformité portant le marquage CE. S’ils subissent des modifications substantielles au cours de leur cycle de vie, ils doivent revenir à l’étape d’évaluation de leurs conformité.

Août 2020 – Le Comité économique et social européen a rendu son avis sur le Livre blanc de la Commission européenne sur l’IA
Le CESE invite notamment la Commission européenne « à jouer un rôle de chef de file afin d’assurer, en Europe, une meilleure coordination des solutions et approches relevant de l’IA appliquée qui sont utilisées pour lutter contre la pandémie de coronavirus ».

Février 2020 – Livre blanc : « Intelligence artificielle, une approche européenne axée sur l’excellence et la confiance »
Extrait : « Pour tirer le meilleur parti possible des opportunités qu’offre l’IA et relever les défis qu’elle pose, l’UE doit se montrer unie dans l’action et définir une manière qui lui est propre de promouvoir le développement et le déploiement de l’IA, en s’appuyant sur les valeurs européennes ».

Février 2020 – Rapport « Liability for Artificial Intelligence and other emerging digital technologies » Quelle responsabilité pour l’intelligence artificielle ? Mis en place dès 2018 par la Commission européenne, un groupe d’experts vient de livrer un rapport sur la responsabilité appliquée à l’IA et aux technologies émergentes. Il présente une dizaines de recommandations.

Février 2020 – Publication d’une « Stratégie européenne pour les données »
Extrait : « L’UE peut devenir un modèle de premier plan pour une société à laquelle les données confèrent les moyens de prendre de meilleures décisions, tant dans les entreprises que dans le secteur public. Afin de réaliser cette ambition, l’UE peut s’appuyer sur un cadre juridique fort (en termes de protection des données, de droits fondamentaux, de sûreté et de cybersécurité) ».

Pour rester informé

INSCRIPTION

(les adresses e-mails ne sont ni affichées ni cédées à des tiers)