Les algorithmes, cause et remède à la polarisation

Ancien ingénieur de Google, Philippe Beaudoin est revenu à Montréal pour cofonder Waverly AI, une application mobile qui mise sur une intelligence artificielle volontairement biaisée pour combattre les biais de l’intelligence artificielle.
Photo: Marie-France Coallier Le Devoir Ancien ingénieur de Google, Philippe Beaudoin est revenu à Montréal pour cofonder Waverly AI, une application mobile qui mise sur une intelligence artificielle volontairement biaisée pour combattre les biais de l’intelligence artificielle.

La chambre d’écho n’est plus ce qu’elle était. Autrefois populaire à la radio pour créer un effet de réverbération, elle incarne sur les moteurs de recherche et les réseaux sociaux la répétition et le renforcement d’attitudes et d’opinions qui ne sont pas toujours de bon goût, ni même vraies ou tout bonnement réalistes. Une forme de chambre d’écho toute numérique qui contribue à la polarisation de l’opinion publique et qu’il serait possible de refermer en utilisant… de meilleurs algorithmes.

Ce qu’il faut, ce sont des « algorithmes empathiques », résume Philippe Beaudoin, ancien ingénieur de Google, qui est revenu à Montréal pour cofonder il y a exactement un an Waverly AI, une application mobile qui mise sur une intelligence artificielle volontairement biaisée pour combattre… les biais de l’intelligence artificielle. Avant Waverly, M. Beaudoin a aussi participé à la création du spécialiste montréalais Element AI.

« Avant [l’arrivée d’Internet], on avait peu d’occasions de s’afficher en public, alors on mettait en avant la meilleure version de nous-mêmes, même si on avait une certaine colère en nous. Or, sur les réseaux sociaux, la colère génère beaucoup plus d’engagement auprès d’autres utilisateurs. Alors, ce dont on a besoin, ce sont de mécanismes et d’interactions qui vont arrêter d’amplifier cette colère », explique Philippe Beaudoin.

Waverly commence à tester publiquement un moteur de recommandation de contenu qui respecte davantage les valeurs de ses utilisateurs que le potentiel viral des sujets recherchés. « Nous avons créé un moteur de recherche qui veut aider les gens à trouver la meilleure version d’eux-mêmes, ce qui peut sonner étrange étant donné que la technologie ne nous a vraiment pas habitués à ça ces dernières années. »

Corriger les biais technologiques

Waverly est en quelque sorte le croisement d’un réseau social avec un journal intime. « Plus tu écris sur des sujets que tu aimes et plus tu donnes de détails, plus l’algorithme interprète et comprend ce qui t’intéresse et raffine ses recommandations », explique M. Beaudoin. Les utilisateurs peuvent garder confidentiels leurs billets ou les partager avec d’autres utilisateurs, ce qui crée un effet de réseau positif. « Imagine : tu peux t’informer aux mêmes sources que les gens que tu suis et que tu admires ! »

N’est-ce pas un peu comme ça que fonctionnent les algorithmes de Google, Instagram et Tiktok ? « Pas exactement », précise l’entrepreneur montréalais. Sur les moteurs de recherche actuels, il est facile de tomber un peu par hasard sur des sources de contenu polarisantes. Sur YouTube ou Google, un internaute qui s’intéresse au fonctionnement des avions sera exposé, même malgré lui, aux théories complotistes des « chemtrails » en quelques clics à peine. Et dès qu’il clique, le moteur de recherche le notera et en tiendra compte dans ses recommandations suivantes.

Waverly veut éviter ces dérapages. « C’est le genre de biais qui sont présents dans la technologie actuelle. Il doit évidemment y avoir un cadre légal pour limiter l’émergence de la désinformation et de la polarisation. Une grande partie du problème est d’ordre social. Mais une meilleure technologie devrait aussi faire partie de la solution », croit Philippe Beaudoin.

Plus d’algorithmes, plus de voix

À une époque où la théorie de la Terre plate semble faire tous les jours de nouveaux adeptes, les géants de la techno sont bien conscients de l’énormité du problème qu’ils ont contribué à causer. Leur capacité à agir pour renverser la tendance est toutefois limitée par des objectifs de rendement et de croissance qui ont peu à voir avec la justice sociale.

La plateforme numérique qui semble le plus prête à changer est probablement Twitter. Son grand patron, Jack Dorsey, a récemment avancé l’idée de laisser les utilisateurs choisir leurs propres algorithmes de recommandation de contenu. Chacun de ces algorithmes privilégierait des critères de sélection différents et créerait un réseau social unique à chaque utilisateur.

« On peut imaginer quelque chose comme un catalogue en ligne qui offrirait aux utilisateurs une grande flexibilité sur le contenu qui leur est proposé », plutôt que de laisser un outil centralisé tout décider pour tout le monde, avait expliqué Jack Dorsey durant l’assemblée annuelle de Twitter, fin février.

Ce dernier pense que les réseaux sociaux devront décentraliser et diversifier leur approche pour améliorer le niveau des conversations qui ont lieu sur leurs plateformes. La pluralité des algorithmes mènera-t-elle à une pluralité des voix qui entraînera un discours en ligne plus modéré ?

« Sans doute, croit Philippe Beaudoin. S’il y a plus de diversité dans les algorithmes, nous aurons moins de chances de tous finir dans la même chambre d’écho. »

À voir en vidéo