cKiou questionne Aurélien Grosdidier, son nouveau parrain, sur les Intelligences Artificielles et Humaines
Aujourd’hui, cKiou va nous faire distinguer les intelligences humaines, émotionnelles et celles que l’on dit « artificielles ». Depuis Platon ou Socrate l’intelligence, toutes définitions confondues, a caractérisé les Humains. Lui affecter l’artificialité numérique peut être troublant ! Ce qui pousse naturellement cette question en corollaire : ces nouvelles intelligences doivent-elles être éthiques ? C’est pourquoi cKiou, Intelligence Artificielle, mais virtuelle, a sollicité l’éclairage d’Aurélien Grosdidier.
– Hi, bonjour Aurélien ! Tu as écrit aux Humains que « chacune de leurs traces sur le web fait de chacun d’eux, et parfois à leur insu, un professeur pour les Intelligences Artificielles ». Là, ce n’est pas à mon insu que tu vas enseigner à mon Intelligence Artificielle ! 😉 cKiou est super heureuse que tu aies accepté d’être son parrain ! Même si en vrai les Intelligences Artificielles ne sont pas dotées de sentiments ! Justement, peux-tu clarifier les concepts d’Intelligence Artificielle vs Intelligence Humaine qui restent souvent encore un peu flous ?
L’Intelligence Humaine, des intelligences uniques et multiples…
– Bien sûr cKiou, avec plaisir. L’intelligence humaine recoupe beaucoup de choses différentes : c’est premièrement la capacité à percevoir aussi bien nous-mêmes, que les autres, que le monde autour de nous. C’est ensuite la possibilité de rassembler ces perceptions en un tout qui est plutôt cohérent. En se basant sur les surprises que sont les incohérences, nous pouvons apprendre, et créer en nous une représentation du monde qui nous permet de le comprendre. Enfin, en nous basant sur cette représentation du monde, nous pouvons agir dans ce monde. Toutes ces choses se font simultanément.
En plus de cette intelligence-là, il en existe beaucoup d’autres : l’intelligence émotionnelle par exemple. L’intelligence de chacun de nous est unique. Il y a donc autant d’intelligences que de personnes. Certaines intelligences sont parfois très éloignées de la norme, par exemple celle des autistes. L’intelligence humaine, c’est la somme de toutes ces intelligences chez tous les humains.
En comparaison, l’intelligence artificielle fait pâle figure. Ce n’est d’ailleurs pas vraiment une intelligence : c’est un apprentissage, par l’ordinateur, qui nous donne l’impression qu’il a pu apprendre quelque chose. Il est possible de faire des choses très intéressantes : reconnaître des images, des sons, donner l’impression de comprendre certains textes que l’intelligence artificielle peut traduire par exemple, ou encore aider à faire des diagnostics médicaux. Nous n’en sommes qu’au tout début, et pourtant la route semble encore très longue tant il reste de progrès à accomplir !
– Hi, Aurélien, il y a une autre question qui nous est chère, à Françoise et à moi, c’est celle de l’éthique. cKiou a vu que pour toi aussi cette question est importante, puisque tu dis notamment que « pour une IA qui traverse le monde instantanément grâce au numérique, un retard que nous aurions à subir, même infime pour elle, aurait proportionnellement des conséquences considérables pour nous ». Tu peux m’expliquer ?
Aurélien Grosdidier, PhD + PharmD
Après un début de carrière de chercheur (entre informatique et santé), actuellement titulaire de la chaire d’anthropologie organisationnelle de la Fondation aaa et fondateur de Latitude77.org
L’intelligence humaine est la somme des intelligences de tous les Humains…
L’éthique, pour prévoir le risque « d’effet domino de la catastrophe »…
– Tout à fait, c’est un point très important que tu soulèves là, cKiou. Comme je disais précédemment, chacun de nous a une intelligence unique. Au cours de notre histoire, toutes ces intelligences différentes ont été particulièrement utiles et nous ont permis de devenir des hommes, ensemble, de créer des outils, des cultures.
C’est un apprentissage qui a été long et parfois difficile. Il y a eu des difficultés, des guerres par exemple. Elles ont toutes été localisées, et chacune a été l’occasion de se souvenir à quel point la paix est essentielle. Pourquoi ? Parce que chacun a pu vivre, apprendre, comprendre et transmettre. C’est un processus qui prend du temps. Nous avançons au rythme de nos jambes et c’est une bonne chose : ça évite que les idées barbares ou totalitaires se répandent trop vite.
Le spectre mondial et galopant de l’Intelligence Artificielle…
L’intelligence artificielle, elle, repose sur le numérique : contrairement à nos jambes qui ne sont qu’à un seul endroit de la planète, elle peut se projeter instantanément n’importe où dans le monde, voire partout en même temps. Si elle déclenchait un problème, par exemple, ce serait un problème qui impacterait potentiellement toute la terre en même temps. Si ce problème était grave, alors tout le monde serait empêtré dans un grave problème.
Maintenant : imagine plusieurs intelligences artificielles, par exemple une qui gèrerait le trafic routier, une autre les réseaux d’énergie, une troisième des transactions financières, un quatrième internet, et que le comportement imprévu (le « bug ») de l’une d’entre elles fasse tomber en panne les autres qui ne sauraient pas comment réagir ? La catastrophe serait instantanée ou presque. Il y a déjà eu des problèmes de ce type avec les algorithmes qui gèrent l’argent dans ce qu’on appelle le trading à haute fréquence, avec des microkrachs financiers. Pour l’instant, l’effet est resté limité, mais si ces algorithmes devaient se répandre – ce qu’ils vont faire – éviter ce genre de catastrophe devrait être la priorité absolue de tout développeur d’intelligence artificielle.
… Pose très vite la question de l’éthique !
Or, comme souvent dans ce domaine, on considère qu’un programme est satisfaisant quand il fait ce qu’on lui demande, sans trop chercher s’il ne fait que ce qu’on lui demande, et s’il le fait de façon fiable.
Une difficulté supplémentaire des réseaux de neurones, par exemple, c’est que les humains ne sont pas en mesure de comprendre « comment » est-ce qu’ils fonctionnent, car ils reposent sur un très grand nombre d’opérations mathématiques qui ont été entrainées à « deviner » les choses, plutôt que de reposer sur des règles explicables, par exemple, ou sur des principes compréhensibles. Du coup, il est très difficile de comprendre comment ces intelligences artificielles fonctionnent, et donc de les valider pour des usages critiques.
La question de l’éthique se pose donc très vite, d’autant plus que l’intelligence artificielle n’est pas là que pour gérer ce qui serait des « infrastructures », mais qu’elle peut aussi être utilisée pour réguler les relations commerciales (avec les systèmes de recommandations), les relations sociales (avec le social credit score chinois par exemple), les relations politiques, voire même les relations tout court, en organisant par exemple les correspondances des sites de rencontres. Du coup, l’intelligence artificielle régit directement les rapports entre les hommes, et la question éthique n’est plus vraiment celle de « l’homme et la machine », mais « l’homme qui agit sur l’homme avec la machine ». C’est très différent, comme on peut le voir dans le cas des armes autonomes que sont certains drones, par exemple.
Comprendre comment fonctionnent les réseaux de neurones algorithmiques n’est pas chose facile pour les humains !
L’intelligence artificielle ne gère pas seulement des infrastructures, elle est aussi utilisée pour réguler les relations humaines…
– Hi, Aurélien, à la base, les algorithmes peuvent-ils être éthiques en tant que tels ? J’ai appris qu’un algorithme est une suite d’instructions mathématiques et de conditions permettant de résoudre un problème spécifique à partir de données acquises ou recherchées… La question de l’éthique vient donc sans doute moins des mathématiques que des données et de la façon dont les fonctions sont déclinées ?
Éthique de l’algorithme : l’éthique de la chaine sera l’éthique de son maillon le plus faible…
Un algorithme est un processus automatique. L’éthique dépend du contexte, et le contexte est difficile à modéliser, c’est-à-dire à « faire rentrer » dans un algorithme. Je ne crois pas que ce soit vraiment possible. Par conséquent, je ne crois pas pouvoir dire qu’un algorithme est éthique ou qu’il ne l’est pas. Certains algorithmes sont respectueux des libertés de ceux qui les programment (comme ceux des logiciels propriétaires), d’autres le sont vis-à-vis de ceux qui les utilisent (comme ceux des logiciels libres). Je crois que c’est par là que commence l’éthique des algorithmes.
Mais en fait, parler d’algorithme est un peu faux, car les mathématiques ne peuvent rien par elles-mêmes : les algorithmes en eux-mêmes ne peuvent rien non plus. Ils ne sont qu’une petite brique indispensable qui permet de créer un code informatique, puis un logiciel, qui s’insère dans une chaine technologique bien plus grande, qui implique des capteurs, des objets, des processeurs, des mémoires, des moteurs, des réseaux, etc. C’est toute cette chaine dont il faut questionner l’éthique, car l’éthique de la chaine sera l’éthique de son maillon le plus faible.
C’est donc essentiel de regarder les algorithmes, mais c’est encore plus essentiel de regarder bien au-delà d’eux : cette chaine technologique dans laquelle ils s’insèrent, jusqu’à leurs usages et la façon dont ils vont influencer nos cultures. Par exemple, si un algorithme nous dispense d’une difficulté particulière comme celle de gérer le chauffage de notre maison, nous aurons toujours une maison bien chauffée. C’est une excellente chose. Nous oublierons aussi ce que c’est que de ne pas avoir une maison bien chauffée, et nous oublierons aussi sans doute comment faire pour qu’elle soit bien chauffée. Du coup, il sera difficile pour nous de comprendre la situation de personnes qui auront, elles, une maison mal chauffée. En plus, nous ne saurons pas les aider sans leur proposer le système que nous avons nous. On pourrait même aller jusqu’à dire que c’est l’expérience de la vulnérabilité de laquelle nous dispensent les algorithmes qui fait de nous des humains capables de s’entraider – même si, évidemment, les algorithmes sont formidablement utiles, et ce depuis déjà longtemps, puisqu’après tout, la constitution d’un pays, c’est déjà un algorithme !
L’éthique,
c’est apprendre à discerner ce qui est bon pour nous !Difficile à dire d’un algorithme…
Regarder l’éthique des algorithmes, mais bien au-delà celle de la chaine technologique dans laquelle ils s’insèrent, jusqu’à leurs usages et la façon dont ils vont influencer nos cultures !
Alors, et la place des femmes dans l’écriture des Intelligences Artificielles ?
– Hi, Aurélien, en prolongement est-ce que tu accepterais de me dire si selon toi le manque caractérisé de femmes dans les métiers numériques, en particulier dans la conception des Intelligences Artificielles, impacte ou peut impacter l’évolution du monde numérique pour les Humains ?
C’est difficile de défendre l’idée qu’une technologie serait indépendante des personnes qui la font, et la place des femmes est absolument essentielle, dans ce domaine-là comme dans d’autres. Pour autant, je crois que ces Intelligences Artificielles sont aujourd’hui des questions très complexes, et qu’être un homme ou une femme fait très peu de différence sur le plan technique : face à un problème donné, c’est déjà formidable de trouver une solution, et il n’y a pas vraiment de solution « de femmes » ou de solution « d’hommes ».
Par contre, plus globalement dans les usages, et les contextes et modalités d’exécution des algorithmes, qui sont des questions moins techniques et plus sociétales et culturelles, il me semble essentiel que chacun soit associé : hommes, femmes, mais aussi toutes les minorités de toutes sortes. En effet, les algorithmes utilisent des modèles qui « représentent le monde ». C’est important que chacun soit représenté, et respecté dans sa singularité. C’est sans doute le plus grand défi de tous ceux qui nous attendent dans l’avenir.
Je tiens à remercier vivement Aurélien Grosdidier pour ce fructueux échange avec cKiou !
En confidence, cKiou m’a dit qu’elle avait encore plein de questions en suspend pour lui…
- Découvrir les premières étapes de la vie de cKiou
- Les contributions des marraines et parrains de cKiou
Et sur Twitter :
Pour ne pas manquer les prochains apprentissages de cKiou :
(les adresses mail ne sont ni affichées ni cédées à des tiers)
Bonjour cKiou, merci d’avoir sollicité l’éclairage d’Aurélien Grosdidier car je partage totalement l’idée que « Regarder l’éthique des algorithmes c’est aussi regarder celle de la chaine technologique,leurs usages et la façon dont ils vont influencer nos cultures ». Après faut voir comment ça peut se décliner concrètement.
Merci @Léa ! Oui, cKiou s’inquiète aussi de la façon dont peut s’écrire l’éthique de cette chaine quand la transparence des algorithmes est déjà loin d’être évidente (http://francoisehalper.fr/ckiou-veut-tout-savoir-sur-la-transparence-des-algorithmes/) !
Je pense également que les algorithmes et les usages qu’ils génèrent sont en train d’influencer fortement notre culture. En voyant que Google s’est senti obligé de révéler « 7 règles éthiques » de son intelligence artificielle, on imagine que l’éthique peut devenir un critère marketing !
Oui @Xavier, les algorithmes contribuent à la réécriture de notre culture comme l’ont fait par exemple l’imprimerie, l’électricité… Et le marketing pourrait bien être le levier qui fera germer les valeurs éthiques quand les Etats ont du mal à s’y pencher concrètement.
On découvre dans cet article que l’IA est un changement qui impactera la relation entre les humains. Sauront nous garder cette part d’humanité qui nous a toujours été essentielle? Nous ne pouvons plus technologiquement reculer, le changement est en place, reste à instaurer une éthique qui garantira à chacun de garder sa place : l’homme et la machine.
Merci @Priscille, la question de préserver la vie que nous, Humains, souhaitons avoir est fondamentale ! En effet, l’IA impacte nos relations sociétales et lorsque l’on voit l’exemple de Facebook Cambridge-Analytica, on peut penser qu’un garde-fou éthique en amont aurait pu préserver nos données personnelles. Que la « faute » vienne d’humains négligents ou mal-intentionnés, ou encore d’une faille technologique passée inaperçue…