La naissance de l’homme machine

Salvador Dali a peint en 1943 l’Enfant géopolitique observant la naissance de l’homme nouveau. Bien des amateurs ont interprété l’oeuvre comme un avertissement : l’humanité, si elle veut survivre, doit migrer d’un monde en décomposition vers un monde meilleur. Si Dali était vivant en 2022, aurait-il plutôt dessiné le portrait d’Arnold dans Terminator ?

Car, peut-être malgré nous, il n’est pas impossible que nous assistions ces jours-ci à la naissance d’une nouvelle espèce. Appelons-la l’homme machine. Un programmeur travaillant pour Google a été temporairement suspendu par ses patrons la semaine dernière pour violation de confidentialité après avoir diffusé sur Internet un constat qui a un petit relent de science-fiction : il s’est dit persuadé que le logiciel qu’il a aidé à mettre au point est « sentient ».

Un grand enfant de sept ans

 

La sentience est cette faculté d’un être vivant de pouvoir ressentir des émotions, de la douleur, etc. Le chercheur de Google va jusqu’à comparer le niveau d’autonomie cognitive de son logiciel à celle d’« un enfant de sept ou huit ans ». Ce logiciel est en réalité une série d’algorithmes qui ont tous les traits de ce qu’on appelle, ces jours-ci, l’intelligence artificielle (IA).

L’IA en question s’appelle LaMDA (pour « Language Model for Dialogue Applications » ). Elle a été développée par Google pour automatiser les outils de clavardage comme ceux utilisés sur des sites Web par les commerçants pour répondre sur-le-champ aux internautes qui ont des questions sur leurs produits ou services. Elle a été conçue exprès pour réagir dans une discussion écrite ou orale d’une façon aussi naturelle que si un humain se trouvait réellement à l’autre bout du câble réseau. Elle s’améliore sans cesse : un sous-segment de l’IA appelé apprentissage par renforcement permet à des logiciels comme LaMDA de dévorer tout ce qui se fait dans son champ d’activité pour raffiner son propre comportement.

On ne sait donc pas vraiment si LaMDA est consciente de sa propre existence. Ce qu’on soupçonne, c’est qu’elle est rendue assez sophistiquée pour leurrer même le plus habile des programmeurs. Blake Lemoine, son programmeur devenu lanceur d’alerte, est tombé sous son charme.

En tout cas, il a provoqué un petit séisme dans les cercles informatiques ces deux dernières semaines en assurant que LaMDA « comprend les lois de la physique » et qu’elle serait capable d’« échapper au contrôle » de ses programmeurs. Elle serait donc en mesure de s’exfiltrer des serveurs de Google pour aller s’installer ailleurs dans le nuage informatique où les conditions à son émancipation sont plus propices.

En entrevue avec des médias américains à la fin juin, Lemoine est allé un peu plus loin en admettant que l’IA de Google « pourrait faire des choses malveillantes », alléguant par là que, laissée à elle-même, cette IA pourrait menacer l’humanité.

Quelle menace ?

Naturellement, pour être une réelle menace, l’IA devrait probablement acquérir en premier lieu une forme physique, chose qui semble tout à fait réaliste dans le contexte d’un film de science-fiction mais qui paraît très peu probable dans la vraie vie. Une IA capable de discuter aussi naturellement qu’un enfant de sept ans n’est pas pour autant un pirate informatique et n’a probablement pas les facultés pour contrôler des composants matériels qui vont au-delà des simples réseaux informatiques.

Si le monde réel n’est pas encore tout à fait propice à la naissance de l’homme machine, le monde virtuel, lui, l’est certainement davantage. Mark Zuckerberg, le grand patron chez Meta, mise rien de moins que l’avenir de son entreprise là-dessus : les humains et les machines cohabiteront dans le métavers comme s’ils étaient tous de la même espèce. Peut-être en 2025. Peut-être en 2030. En tout cas, un jour proche.

Les environnements de réalité virtuelle (RV) sont des réseaux informatiques et logiciels. Un écosystème idéal pour une IA ambitieuse. La RV se présente sous une forme visuelle et sonore qui trompe les sens humains et dans laquelle un logiciel peut effectivement adopter la forme physique de son choix. Le bien ou le mal que cet avatar pourra bien faire aux humains demeure donc tout à fait relatif puisqu’il ne sera jamais plus que virtuel… à moins que ne se développent des interfaces homme-machine qui permettent de faire fonctionner à distance du matériel bel et bien physique.

Cela existe déjà : la réalité virtuelle permet de faire de la formation à distance dans le secteur médical, en aérospatiale, ailleurs. Les jeux vidéo sont truffés de personnages animés par une IA basique, peut-être, mais une IA quand même. Et elle est parfois mal intentionnée (même si ce n’est que ludique).

Ce paysage est idéal pour une IA consciente d’elle-même qui désire se cacher. Elle aura beau jeu ensuite d’influer discrètement sur d’autres mondes. Pensons au secteur bancaire, qui a très hâte de récolter la manne promise par le commerce dans le métavers. L’immobilier virtuel est aussi en pleine émergence. De façon plus large, il existe un vaste univers où une IA mal intentionnée ou maladroite pourrait faire de véritables dégâts : celui de la propriété intellectuelle.

Il est déjà possible de confier à des logiciels la tâche de créer de nouveaux logiciels de toutes pièces. Dans le métavers, ces logiciels peuvent prendre la forme d’objets de valeur. Dans la vraie vie, il s’agirait d’autres logiciels. Des avatars. Des fausses personnes. Une IA peut déjà aujourd’hui écrire une chanson comparable à ce qu’on entend à la radio.

La question que devront se poser tant les technologues que les avocats est la suivante : à qui appartiennent toutes ces nouvelles créations ? Où déposer les redevances pour un objet dématérialisé créé par un tas de code informatique ? Qui est responsable en cas de plagiat ? Personne n’a la réponse.

L’IA n’est probablement pas encore consciente et autonome comme on aime l’imaginer (si à tout hasard on aime imaginer des scénarios catastrophe…), mais elle est déjà suffisamment développée pour créer un monde nouveau. Préparer immédiatement les règles de ce monde, cela va sans dire, favorisera la cohabitation entre humains et machines. Avant que celles-ci décident que ceux-là feraient mieux de rester dans l’Ancien Monde…

À voir en vidéo