L’intelligence artificielle et la pensée complexe selon Edgar Morin

«Morin développe éloquemment le besoin pour le citoyen de cultiver la pensée complexe, laquelle apprécie l’enchaînement des influences et anticipe la cascade des possibilités et des conséquences de l’action: la recherche de l’équilibre risque-bénéfice malgré les incertitudes», écrit l'auteur.
Photo: Pascal Guyot Agence France-Presse «Morin développe éloquemment le besoin pour le citoyen de cultiver la pensée complexe, laquelle apprécie l’enchaînement des influences et anticipe la cascade des possibilités et des conséquences de l’action: la recherche de l’équilibre risque-bénéfice malgré les incertitudes», écrit l'auteur.

À l’occasion de la célébration ducentième anniversaire de naissance d’Edgar Morin, prenons quelques instants pour explorer ce concept de la pensée complexe qu’il a développé tout au long de sa vie de sociologue, d’humaniste et surtout de penseur, le plus inspirant d’entre tous. Et pour noter ses rapports avec l’intelligence artificielle contemporaine, cette technologie qui vise à terme à penser comme nous et à notre place.

Dès les premiers instants du Big Bang, la physique, la chimie, la biologie, puis la sociologie et l’ethnologie nous révèlent une cascade sans fin d’associations en agrégats de plus en plus diversifiés et complexes.

À l’aube d’une nouvelle ère, l’humain, fier de ses nouveaux savoirs, se croit capable aujourd’hui de créer la vie elle-même et d’utiliser l’ordinateur pour soutenir des mécanismes cognitifs profonds.

Paradoxalement, cette complexification qui enrichit nos possibilités entraîne des défis grandissants. Morin développe éloquemment le besoin pour le citoyen de cultiver la pensée complexe, laquelle apprécie l’enchaînement des influences et anticipe la cascade des possibilités et des conséquences de l’action : la recherche de l’équilibre risque-bénéfice malgré les incertitudes.

Je crains l’intelligence superficielle autant que l’artificielle

Dans l’ensemble, si l’humain a prospéré au fil de l’histoire, c’est que sa capacité à naviguer dans la complexité s’est avérée généralement adéquate. Mais le sera-t-elle pour assurer sa survie ?

On doit comprendre que l’intelligence artificielle (IA) actuelle ne peut guère nous aider à y parvenir, du moins dans sa mouture actuelle.

Une première raison relève de la nature humaine elle-même. Depuis les travaux de Kahneman (Prix Nobel d’économie en 2002), on connaît la propension naturelle de l’humain à rechercher un gain immédiat et tangible.

Quand elle facilite la fabrication de fausses vérités à des fins d’influence politique ou idéologique, l’IA, au contraire, compromet l’exercice du jugement critique et de la pensée complexe. L’émergence de considérations éthiques est encore insuffisante pour l’en empêcher.

Une seconde raison, fondamentale, est que l’IA actuelle — l’apprentissage dit profond — utilise l’inférence statistique comme moteur-clé. Il s’avère que la validité stricte de ce mécanisme exige que les données proviennent d’un cadre circonscrit (dit ergodique). Cette condition est respectée dans des situations fermées, comme le jeu d’échecs qui obéit à des règles précises où aucune influence extérieure n’est autorisée.

L’enchaînement des mouvements est compliqué, mais calculable. Dans la réalité humaine et naturelle, il n’en est rien : les situations sont contextuelles, ouvertes, complexes et imprévisibles.

Boîte noire

Si les questions de responsabilité — et d’éthique — se joignent à la conversation, c’est aussi que l’apprentissage profond opère comme une « boîte noire », sans capacité explicative. Ne pouvant distinguer entre « corrélation » et « causalité », il ne peut, seul, effectuer la distillation qui donne du sens aux données, où la compréhension contextuelle s’avère essentielle.

Les progrès récents de l’IA demeurent à la marge. Le domaine a surtout évolué par le nombre d’applications où l’outil, malgré ses limites, s’avère une aide précieuse s’il est utilisé avec circonspection, dans un domaine bien défini, comme l’interprétation d’images médicales. On conçoit généralement que son utilisation la plus intelligente consiste à le placer dans une boucle d’interaction personne-machine qui exploite la synergie des partenaires, où le jugement humain demeure engagé.

L’avenir d’une « pensée-complexe-machine-autonome », comme pourrait l’apprécier Morin, demeure donc problématique.

La compréhension de nos propres moyens cognitifs est par ailleurs très incomplète. On connaît assez bien la topologie de notre cerveau et le fonctionnement intime de ses cellules. Mais la façon dont l’organisation — l’architecture — de ces milliards de synapses engendre nos extraordinaires capacités demeure une inconnue.

Il est possible que l’hypothèse — que notre cerveau soit assimilable au modèle de machine numérique programmable suggéré par Turing en 1950 — s’avère une fausse piste. Le cerveau n’effectue pas de calcul arithmétique ; il traite directement les informations sensorielles et les combinant par des chaînes d’interactions physiques-chimiques subtiles et innombrables.

On sait depuis longtemps qu’elles exploitent aussi la communication hormonale et, depuis tout récemment, l’interaction par le champ électrique induit par chaque cellule nerveuse sur ses voisines. Complexité inouïe, sans programmation explicite, le tout avec une consommation de 10 W. Un des plus grands mystères qu’il reste à percer…

D’ici à ce que nous y voyions plus clair, écoutons Morin qui a écrit sur Twitter le 1er mai 2018 : « Je crains l’intelligence superficielle autant que l’artificielle. »

À voir en vidéo