DECEPTICON : détecter les Dark Patterns en ligne

Le mot « DECEPTICON » vous évoque peut-être la série animée Transformers, où les personnages du nom de decepticons sont capables de changer d’apparence et de se transformer en quelque chose de totalement différent.

Non loin de cette idée se trouve un projet homonyme, mené par deux départements  de l'Université du Luxembourg, à savoir le Centre interdisciplinaire pour la sécurité, la fiabilité et la confiance (SnT) et le groupe de recherche sur l'interaction homme-machine, en partenariat avec le LIST.

DECEPTICON vient de l’anglais Deceptive Patterns Online et s'attaque à ce que l'on appelle communément les Dark Patterns, autrement dit aux éléments qui peuvent nous induire en erreur, nous manipuler et in fine nous pousser à prendre les mauvaises décisions, sans se rendre compte des conséquences.

«  Les Dark Patterns peuvent prendre la forme d’un texte formulé de manière à vous tromper. Prenons l’exemple des cookies : lorsque ça devient compliqué et ronflant pour l'utilisateur, il y a de fortes chances pour qu’il accepte plutôt de l’ignorer et de les laisser à l’écran. » nous explique le chef de projet Philippe Valoggia.

L'un des enjeux majeurs du projet, c’est de pouvoir identifier ces Dark Patterns, quelle que soit la forme qu’ils prennent.  « Je travaille sur tout ce qui est protection de données, vie privée, etc. et les Dark Patterns viennent remettre en question toutes nos exigences en matière d’équité et de transparence. Il faut que nous puissions d’abord en identifier les formes. » poursuit Philippe. « L’idée, c’est d’abord de comprendre qu’une phrase est écrite de manière suspecte ou erronée, et ensuite d’en identifier la cible car l’impact sera différent d’un utilisateur à l’autre. »

En effet, certains Dark Patterns auront un fort impact chez les jeunes et d’autres, chez les personnes plus âgées. En clair, même si vous parvenez à identifier les Dark Patterns, difficile de mesurer leur impact… Sans compter qu’ils doivent être testés pour savoir s’il s’agit réellement d’une manipulation ou non.

Quels sont les objectifs de Decepticon ?

Le projet s’articule autour de quatre objectifs :

• Créer une base de données en ligne afin de partager tout une série de connaissance sur les Dark Patterns ;
• Distinguer la manipulation et la tromperie en ligne ;
• Collecter des preuves sur les effets des Dark Patterns sur le comportement des utilisateurs ;
• Développer des procédures et des outils pour évaluer la présence des Dark Patterns dans les services en ligne.

Alors comment détecter les Dark Patterns ? Via un programme ou une application dédiés ? Autant de question auxquelles il est extrêmement difficile de répondre. « Au début, nous avions pensé développer un programme avec un module complémentaire qui mettrait tout de suite en évidence les Dark Patterns du site, via un pourcentage de confiance par exemple, mais ils prennent tous des formes tellement différentes, parfois même au sein du même texte. Nous avons besoin d’une analyse plus approfondie des textes et d’une tcehnologie NLP (de l’anglais Natural Language Processing). Malheureusement, il n’existe aucune solution aujourd’hui capable de détecter correctement une intention de manipulation. Nous devons donc procéder à l'évaluation manuellement. » commence Philippe, avant d’ajouter : « Même si je considère un élément comme Dark Pattern sur un site, il ne le sera pas nécessairement pour un lectorat plus averti. »

Lorsqu'un texte est bien structuré, il peut s'avérer extrêmement difficile de détecter une malveillance. La magie du langage opère. Le fait d'exprimer des sentiments différemment, sur le ton de l’ironie ou du sarcasme par exemple, rend très difficile la programmation d'une machine pour tout ce qui a trait aux sentiments. Philippe nous donne un exemple : « Lorsque vous avez intéragissez avec un vendeur en ligne, le premier contact que vous avez, c’est souvent avec un bot. Ils sont capables de détecter votre humeur, via les mots que vous employez : la personne est-elle en colère ? heureuse ? Si vous semblez en colère, votre demande sera traitée en priorité par rapport à celles qui sont adressées de manière plus chaleureuse. » C’est à peu près tout ce qu’un robot est capable de faire.

Objectif final de DECEPTICON

L'objectif du projet est de pouvoir détecter les caractéristiques des Dark Patterns. « Nous avons beaucoup d'exemples mais, à bien y réfléchir, il n’agit que de simples exemples. L'objectif, c’est de pouvoir détecter les Dark Patterns à partir de caractéristiques précises et non d'exemples. C'est quelque chose qui n'a encore jamais été fait et c’est là tout l’enjeu du projet. » précise Philippe.

Le projet entend également montrer qu'un type de Dark Pattern est susceptible de manipuler une certaine catégorie de personnes. L’objectif, à terme, c’est de passer de la théorie à la pratique.

Bien que l'Université et le LIST travaillent ensemble sur ce projet, ils couvrent des aspects différents de l'analyse des Dark Patterns. L'Université a pour but d’évaluer l’impact des Dark Patterns sur les internautes, notamment d’un point de vue académique. « Au LIST, nous nous intéressons davantage à la manière dont ces connaissances peuvent être mises à profit par les différentes parties prenantes, à savoir les responsables du traitement des données, les ingénieurs chargés de la protection de la vie privée et les organes de contrôle. Nous cherchons à déterminer dans quelle mesure la personne concernée a connaissance des différents Dark Patterns. » explique Philippe.

Le LIST s’est uni au projet DECEPTICON il y a quelques mois, « nous en sommes encore aux prémices. Nous avons intégré le projet en juin dernier. Il est important que nous participions aux discussions pour voir ce que nous pourrions extraire des Dark Patterns. »

Enfin, Philippe nous rappelle que les « Dark Patterns ne peuvent pas être réduits à quelque chose de méccanique, à un simple processus, une simple visualisation car il y a aussi du texte. Avec l’intelligence artificielle aujourd’hui, très peu de solutions permettent de dire si derrière telle ou telle chose se cache une volonté de manipuler. Nous auron peut-être quelque chose de plus performant d’ici quelques années mais aujourd'hui ce n'est pas le cas. »