Espace publicitaire
De nouveaux algorithmes empathiques
Sophie Ginoux
16 décembre 2021
Carrière
4 minutes à lire
343
De plus en plus montrés du doigt pour leur contribution à la polarisation de l’opinion publique, les algorithmes des moteurs de recherche et des réseaux sociaux sont-ils appelés à évoluer ? C’est ce sur quoi travaille une start-up québécoise, Waverly.
Créées initialement pour nous permettre d’accéder à un plus vaste réseau de personnes et d’informations, les chambres d’écho, qui se traduisent en algorithmes complexes développés par les moteurs de recherche et les réseaux sociaux, ont été progressivement biaisées par la participation soutenue d’internautes dont l’attitude et les opinions peuvent être farfelues et polarisantes, voire dangereuses. Les exemples en la matière abondent : racisme, sexisme, créationnisme, théories du complot, désobéissance civile, injures et menaces en tous genres… Il est dorénavant très facile de tomber en quelques clics sur des pages et des contenus très discutables, même lorsqu’on réalise une recherche qui n’a rien à voir avec des sujets à débat.
Les plus grandes plateformes sont conscientes de ce problème majeur auquel elles ne s’attendaient pas, mais qu’il leur est difficile d’endiguer tout en poursuivant leurs objectifs de croissance. Certaines d’entre elles, comme Facebook et Instagram, ont donc créé des comités d’éthique qui peuvent bannir certains utilisateurs (par exemple, un ancien locataire de la Maison Blanche) et groupes à connotation haineuse.
Le co-fondateur et PDG de Twitter, Jack Dorsey, est de son côté allé plus loin en avançant l’idée de laisser les utilisateurs choisir leurs propres algorithmes de recommandation de contenu, ce qui leur permettrait de se créer un réseau social unique. « On peut imaginer quelque chose comme un catalogue en ligne qui offrirait aux utilisateurs une grande flexibilité sur le contenu qui leur est proposé », plutôt que de laisser un outil centralisé tout décider pour tout le monde, a-t-il lancé lors de la dernière assemblée annuelle de Twitter, des propos repris par un récent article du Devoir.
Étant donné que pour l’instant, la capacité des géants du web est limitée, de plus petites structures mettent au point des solutions technologiques capables de transformer le visage haineux de la toile.
« Sur les réseaux sociaux, la colère génère beaucoup plus d’engagement auprès des utilisateurs. Alors, ce dont on a besoin, ce sont de mécanismes et d’interactions qui vont arrêter d’amplifier cette colère », a dit en entrevue avec Le Devoir Philippe Beaudoin, le dirigeant de la jeune pousse Waverly.
Philippe Beaudoin n’est pas un nouveau venu dans le domaine numérique. Co-fondateur d’Element AI et ancien ingénieur logiciel senior chez Google, il souhaite avec l’application Waverly créer un moteur de recommandation de contenu qui incite à la réflexion et qui respecte davantage les valeurs de ses utilisateurs que le potentiel viral des sujets recherchés. « Nous voulons aider les gens à trouver la meilleure version d’eux-mêmes », résume-t-il.
Accoler dans la même phrase les mots « algorithme » et « humain » peut sembler un peu contradictoire. Pourtant, le modèle d’intelligence artificielle développé par Waverly, actuellement en phase de test avant un lancement planifié en 2022 pour les téléphones, tablettes et ordinateurs, a bel et bien l’ambition de se baser sur des algorithmes empathiques.
Comment l’application fonctionne-t-elle, au juste ? Selon M. Beaudoin, « Plus tu écris sur des sujets que tu aimes et plus tu donnes de détails, plus l’algorithme interprète et comprend ce qui t’intéresse et raffine ses recommandations ». De plus, les utilisateurs peuvent faire le choix de garder ou de partager leurs billets, et toute la trajectoire de leurs données personnelles est transparente, contrairement à la pratique opaque souvent décriée des géants du web.
Pour parvenir à un tel résultat, Waverly déploie des algorithmes de type “Transformers”, un modèle d’apprentissage de langage naturel, selon ce qu’indique un article sur CScience IA. Une approche en intelligence artificielle présentée une première fois en 2017 par des chercheurs de Google Brain, Google Research et de l’Université de Toronto, et qui s’avère très prometteuse.
Alors, est-ce que l’application québécoise Waverly parviendra à faire taire les assourdissantes polarisations haineuses sur nos réseaux sociaux ? Rendez-vous en 2022 pour le savoir !
Créées initialement pour nous permettre d’accéder à un plus vaste réseau de personnes et d’informations, les chambres d’écho, qui se traduisent en algorithmes complexes développés par les moteurs de recherche et les réseaux sociaux, ont été progressivement biaisées par la participation soutenue d’internautes dont l’attitude et les opinions peuvent être farfelues et polarisantes, voire dangereuses. Les exemples en la matière abondent : racisme, sexisme, créationnisme, théories du complot, désobéissance civile, injures et menaces en tous genres… Il est dorénavant très facile de tomber en quelques clics sur des pages et des contenus très discutables, même lorsqu’on réalise une recherche qui n’a rien à voir avec des sujets à débat.
Envisager une pluralité algorithmique
Les plus grandes plateformes sont conscientes de ce problème majeur auquel elles ne s’attendaient pas, mais qu’il leur est difficile d’endiguer tout en poursuivant leurs objectifs de croissance. Certaines d’entre elles, comme Facebook et Instagram, ont donc créé des comités d’éthique qui peuvent bannir certains utilisateurs (par exemple, un ancien locataire de la Maison Blanche) et groupes à connotation haineuse.
Le co-fondateur et PDG de Twitter, Jack Dorsey, est de son côté allé plus loin en avançant l’idée de laisser les utilisateurs choisir leurs propres algorithmes de recommandation de contenu, ce qui leur permettrait de se créer un réseau social unique. « On peut imaginer quelque chose comme un catalogue en ligne qui offrirait aux utilisateurs une grande flexibilité sur le contenu qui leur est proposé », plutôt que de laisser un outil centralisé tout décider pour tout le monde, a-t-il lancé lors de la dernière assemblée annuelle de Twitter, des propos repris par un récent article du Devoir.
Combattre les biais technologiques par d’autres
Étant donné que pour l’instant, la capacité des géants du web est limitée, de plus petites structures mettent au point des solutions technologiques capables de transformer le visage haineux de la toile.
« Sur les réseaux sociaux, la colère génère beaucoup plus d’engagement auprès des utilisateurs. Alors, ce dont on a besoin, ce sont de mécanismes et d’interactions qui vont arrêter d’amplifier cette colère », a dit en entrevue avec Le Devoir Philippe Beaudoin, le dirigeant de la jeune pousse Waverly.
Philippe Beaudoin n’est pas un nouveau venu dans le domaine numérique. Co-fondateur d’Element AI et ancien ingénieur logiciel senior chez Google, il souhaite avec l’application Waverly créer un moteur de recommandation de contenu qui incite à la réflexion et qui respecte davantage les valeurs de ses utilisateurs que le potentiel viral des sujets recherchés. « Nous voulons aider les gens à trouver la meilleure version d’eux-mêmes », résume-t-il.
Photo Philippe Beaudoin / Source : CScience IA
Des algorithmes plus humains
Accoler dans la même phrase les mots « algorithme » et « humain » peut sembler un peu contradictoire. Pourtant, le modèle d’intelligence artificielle développé par Waverly, actuellement en phase de test avant un lancement planifié en 2022 pour les téléphones, tablettes et ordinateurs, a bel et bien l’ambition de se baser sur des algorithmes empathiques.
Comment l’application fonctionne-t-elle, au juste ? Selon M. Beaudoin, « Plus tu écris sur des sujets que tu aimes et plus tu donnes de détails, plus l’algorithme interprète et comprend ce qui t’intéresse et raffine ses recommandations ». De plus, les utilisateurs peuvent faire le choix de garder ou de partager leurs billets, et toute la trajectoire de leurs données personnelles est transparente, contrairement à la pratique opaque souvent décriée des géants du web.
Pour parvenir à un tel résultat, Waverly déploie des algorithmes de type “Transformers”, un modèle d’apprentissage de langage naturel, selon ce qu’indique un article sur CScience IA. Une approche en intelligence artificielle présentée une première fois en 2017 par des chercheurs de Google Brain, Google Research et de l’Université de Toronto, et qui s’avère très prometteuse.
Alors, est-ce que l’application québécoise Waverly parviendra à faire taire les assourdissantes polarisations haineuses sur nos réseaux sociaux ? Rendez-vous en 2022 pour le savoir !
Articles susceptibles de vous intéresser
Emplois susceptibles de vous intéresser
Montréal
Permanent à temps plein
Publié il y a 7 jours
Montréal
Permanent à temps plein
Publié il y a 21 jours
Montréal
Permanent à temps plein
Publié il y a 21 jours
Mes sauvegardes
Vous devez être connecté pour ajouter un article aux favoris
Connexion ou Créez un compte
Emploi favori
Vous devez être connecté pour pouvoir ajouter un emploi aux favories
Connexion
ou Créez un compte