Connaissez-vous les deux anciens cadres de Facebook Sean Parker et Chamath Palihapitya ? Ces deux richissimes « gentlemen » de Silicon Valley ont tenu récemment à partager leurs sentiments de culpabilité lors d’une conférence1 à l’école supérieure d’administration de l’Université Stanford (Stanford Graduate Business School). Fondateur de Napster et ancien président de Facebook, Parker a avoué que le réseau social a été conçu pour exploiter la vulnérabilité humaine. « Dieu sait ce que ça peut faire au cerveau de nos enfants… » s’est-il inquiété. De son côté, Palihapitya, qui était vice-président responsable de la croissance du nombre d’utilisateurs du réseau social, a admis : « Je crois que nous avons créé des outils qui sont en train de déchirer le tissu social ». Et Parker d’ajouter : « Nous en étions conscients, mais nous l’avons fait quand même ».

L’idée derrière la conception des médias sociaux est la même que celle qui préside à celle des jeux vidéos en ligne : « Comment faire en sorte de consommer autant de votre temps et de votre attention que possible ».

Une économie basée sur le neuro-piratage

Les grandes entreprises du numérique créent des produits destinés à capter et retenir l’attention des utilisateurs. Il y a même une nouvelle discipline consacrée à cette fin : la captologie. Elle est issue du Laboratoire des technologies persuasives de l’Université Stanford qui l’a créée en 1997 sous la direction du psychologue behavioriste B. J. Fogg. La captologie « consiste à étudier, concevoir et analyser des produits informatiques destinés à modifier les attitudes ou les comportements des individus »2. Un des anciens étudiants de Fogg, Nir Eyal3, a écrit Hooked: How to Build Habit-Forming Products, un livre qui explique comment construire des produits addictifs. Il est consultant auprès des startups de la Silicon Valley. Fogg soutient qu’il réprouve l’asservissement des gens au moyen de la technologie; pourtant le développement de l’intelligence artificielle risque de rendre les systèmes de plus en plus « persuasifs ».

Les produits des géants du numérique sont de véritables outils d’ingénierie sociale. Comme les pirates qui s’infiltrent dans les systèmes informatiques pour en tirer profit, les concepteurs de plates-formes, d’applications et de jeux vidéo s’introduisent dans le cerveau des internautes pour exploiter les vulnérabilités de l’esprit humain. Certains appelle ça du neuro-piratage. Cette « introduction par effraction » dans les cerveaux n’est pourtant pas une nouvelle technique, les militaires la connaissent depuis longtemps. Aujourd’hui, même les religions et les partis politiques n’ont pas autant d’influence sur la pensée des gens que les manipulateurs de la Silicon Valley. Comme dirait Sean Parker, ils agissent consciemment et, pouvons-nous ajouter, avec avidité. 
 
Mais comment les designers s’y prennent-ils pour exercer tant de pouvoir sur les gens ? Leurs moyens sortent tout droit de la théorie behavioriste de B. F. Skinner.

Des produits inspirés par le behaviorisme

Le behaviorisme est une théorie développée par le psychologue américain Burrhus Frederic Skinner au milieu du XXe siècle. Au cœur de cette théorie, le concept de conditionnement s’intéresse à un type d’apprentissage qui conduit à une action motivée par les conséquences d’un comportement, conséquences qui rendent la répétition de ce comportement plus ou moins probable. Autrement dit, l'individu anticipe les conséquences de son comportement et, selon qu’elles soient désirables ou non, il modifie et adapte sa conduite afin de les obtenir ou de les éviter. Le renforcement positif est un procédé qui augmente la motivation à répéter un comportement à la suite de l’ajout d’une récompense.

Selon l’essayiste et journaliste scientifique américaine Sharon Begley4, les deux piliers de la capture et de la rétention de l’attention sont la dépendance et la compulsion. Alors que l’addiction naît du plaisir, la compulsion est générée par l’anxiété.

Dans le comportement addictif, le plaisir provient du renforcement positif procuré par une petite dose de dopamine qui est libérée dans le cerveau par la promesse d’une récompense. Par la suite, la mémoire biochimique et psychologique de ce plaisir est suffisante pour encourager la répétition de l’action qui est à l’origine de la récompense. C’est du pur conditionnement.

Le comportement compulsif, lui, a pour but d’atténuer un sentiment anxieux éprouvant. Mais le soulagement n’est que momentané. La compulsion devient un geste répété, puis une habitude, justement parce que le soulagement qu'elle apporte est de courte durée. Si, en plus, cet apaisement se produit à des moments variables, on a la recette idéale pour entraîner une répétition obsessive du comportement. Pour bien comprendre ce dernier point, faisons un petit détour par le laboratoire du docteur Skinner.

Le psychologue de Harvard avait entraîné des pigeons à picorer des petites plaques de Plexiglas à l’intérieur de leur cage pour obtenir de la nourriture. Dans certains cas, les pigeons recevaient leur récompense à chaque fois qu’ils touchaient les plaquettes. Dans d’autres scénarios, ils recevaient leur nourriture, puis un certain temps s’écoulait avant la distribution suivante. À la fin de cet intervalle, si les pigeons picoraient, ils recevaient à nouveau de la nourriture. Puis, Skinner fit varier la longueur des intervalles de façon aléatoire. Dans ces conditions instables, les pigeons sont devenus fous. Ils ne s’arrêtaient plus de picorer. Il y en a un qui a piqué le Plexiglas 2,5 fois par seconde pendant 16 heures ! C’est la variabilité de la récompense qui crée le comportement compulsif.

Dans son livre, le psychologue Nir Eyal explique que nos automatismes, nos habitudes et nos comportements ont été « mécanisés ». Se basant sur la théorie behavioriste, il a conçu un processus en quatre phases pour créer l’accoutumance à un produit. Son modèle, qu’il nomme Hook, est une boucle de rétroaction positive, un processus d’amplification qui fait que plus on utilise un produit, plus on veut l’utiliser, une des conditions nécessaires à la création d’une habitude étant la fréquence du comportement.

La première étape du processus décrit par Eyal est le déclencheur, qui fait appel à des sensations ou des sentiments qui font naître un besoin chez l’utilisateur, et qui lui indique l’action à mener pour soulager son besoin au moyen du produit visé. L’action doit être suivie par une récompense variable qui fait qu’on l’associe au plaisir, mais pas de façon systématique ; c’est le cœur du hook. C’est cette tension de savoir qu’on peut obtenir une récompense, mais de ne pas savoir exactement à quel moment qui crée le comportement compulsif. Enfin, l’utilisateur est amené à faire un investissement dans le produit, ce qui l’incitera à parcourir la boucle à nouveau. Cet investissement peut prendre la forme de temps, d’efforts, de données, de partage avec d’autres utilisateurs ou d’interventions visant à améliorer le produit de sorte que plus l’utilisateur s’en servira, plus son investissement sera justifié.

Les jeunes sont une cible de choix

Le futurologue et commentateur des technologies Michael K. Spencer n’est pas tendre envers l’industrie du numérique : « Ils manipulent les jeunes pour qu’ils deviennent des zombies dans leur dystopie digitale »5.

 

---

Enfants de l’écran, orphelins de la terre

« Dans les études sur les dangers auxquels l’écran expose les enfants, on néglige trop souvent le fait le plus important : la rupture du lien de toute une génération avec le réel, la nature, la vie, chose d’une importance cruciale à une époque où nous avons plus que jamais besoin de redevenir des enfants de la Terre pour pouvoir l’aimer et ensuite en assurer la survie. Tout le monde pouvait voir venir ce danger. En 1998, au terme d’une recherche sur les inforoutes et l’avenir du Québec, nous avons lancé à l’Agora, comme un cri d’alarme, le slogan Une heure d’écran, une heure de nature. ! Et pour l’encyclopédie que nous lancions au même moment, nous avons choisi comme devise : Vers le réel par le virtuel. C’était notre façon de rappeler que, comme le langage, le virtuel est, entre nous et le réel, un intermédiaire dont on doit bien se garder de faire une fin. C’est pourtant ce que font délibérément les géants d’Internet en prenant les enfants de la planète entière comme proies principales. Tout se passe comme si, conscients du recul de la nature, les hommes avaient fait le choix, plutôt que de la protéger, de s’habituer à vivre sans elle, en portant des masques à l’extérieur et en s’installant devant un écran dans les maisons. » J.D »

---

 

« Plus de 90% des enfants de 6 à 12 ans ont accès à une tablette ou à un téléphone intelligent et 66% disposent déjà de leur propre appareil connecté »6. Pas étonnant que plusieurs géants du Net, comme Vine (Vine Kids), Facebook (Messenger Kids) et prochainement Google, cherchent à lancer des plates-formes destinées aux enfants. Ils y voient deux principaux avantages, l’un de nature juridique et l’autre commercial. En créant des services adaptés aux enfants, ils pourront respecter plus facilement les cadres légaux stricts, comme le Children’s Online Privacy Protection Act (COPPA), aux États-Unis, qui encadre la collecte des données personnelles des moins de 13 ans. Ils pourront également « séduire les futurs adultes », car « le jeune public est d’abord un marché à conquérir »7. 

Selon la cyberpsychologue irlandaise Mary Aiken8, auteure du livre The Cyber Effect9, une mauvaise interprétation de la neuroscience a conduit les parents à croire que toutes les stimulations sont bonnes pour les enfants. Or, en Grande-Bretagne, une étude a révélé une série de problèmes associés à l’utilisation précoce des tablettes chez les enfants, parmi lesquels des retards de développement dans la capacité de concentration, la motricité fine et la dextérité, le langage et la socialisation, ainsi qu’un accroissement des comportements agressifs et antisociaux, de l’obésité, de la fatigue et même des pulsions de mort.

Les effets des jeux vidéo

Les comportements compulsifs en ligne font l’objet d’études depuis déjà quelques décennies. Aux États-Unis, la psychologue américaine Kimberly Young a fondé la première clinique de traitement de la cyberdépendance en 1995. Selon le docteur Aiken, l’addiction aux jeux vidéo en ligne est l’une des dépendances à plus forte croissance. Or, selon la firme d’information sur les marchés New zoo10, les revenus mondiaux du jeu en ligne ont avoisiné les 95 milliards de dollars en 2017. La valeur économique des entreprises du numérique dépend de plus en plus de la force des habitudes qu’elles ont créées chez leurs utilisateurs.

L’écrivain et technocritique américain Nicholas G. Carr s’est intéressé aux effets des jeux vidéo sur les jeunes gens11. Il cite plusieurs chercheurs qui ont étudié les bénéfices cognitifs que la pratique d’un jeu d’action peut produire, notamment une amélioration de l’acuité visuelle et une efficacité de la division de l’attention (multitâches). Mais Carr souligne que ces bénéfices ont un coût. D’autres recherches montrent en effet que l’utilisation intense des jeux vidéo rend les jeunes moins capables d’une attention soutenue, moins aptes à la pensée profonde qui exige du calme et de la concentration. Une autre étude montre que les jeux vidéo ont un effet négatif sur le contrôle cognitif proactif, c’est-à-dire la capacité de planifier et d’adapter son comportement en prévision d’un événement et de maintenir un objectif dans un environnement moins stimulant. Autrement dit, les jeux vidéo peuvent rendre les utilisateurs meilleurs pour certaines tâches qui demandent une bonne acuité visuelle en situation de stress (ex : chirurgie, pilotage d’un avion de chasse), mais ils les rendent aussi plus distraits et moins concentrés quand les tâches exigent une attention soutenue ou qu’elles ne fournissent pas un afflux constant de stimuli. 
 
Selon l’APA (American Psychological Association) quatre composantes caractérisent la dépendance aux jeux : 1. une utilisation abusive d’Internet, souvent associée avec une perte de la notion du temps et une négligence des besoins de base ; 2. un repli sur soi, accompagné de sentiments de colère, d’anxiété et/ou de dépression quand le jeu est inaccessible ; 3. des exigences, incluant le besoin d’un meilleur équipement, de nouveaux logiciels ou de plus d’heures d’utilisation ; 4. l’apparition de conséquences négatives, comme les discussions, le mensonge, de pauvres résultats scolaires ou une mauvaise performance au travail, un isolement social et une grande fatigue. Kimberly Young, qui rencontre plusieurs cas de ce genre à sa clinique, dit qu’ils sont deux fois plus susceptibles d’avoir un trouble de l’attention avec ou sans hyperactivité (TDAH), de se bagarrer et d’avoir des problèmes physiques causés par de longues heures à l’écran ou sur leur console de jeu, comme des douleurs aux mains ou aux poignets, une pauvre hygiène et des habitudes alimentaires irrégulières. 

Les problèmes d’addiction aux jeux vidéo sont plus courants chez les adolescents et les jeunes adultes masculins de 12 à 20 ans. Le jeune Thomas Taillefer appartenait justement à ce groupe d’âge. Dans le documentaire Bye, on apprend qu’il était abonné au service de diffusion de jeux vidéo en continu Twitch.  

Qu’est-ce que Twitch ?

Twitch est un service de diffusion en continu (streaming) de jeux vidéo, de sport électronique et d’émissions apparentées lancée en juin 2011. Il dispose également d’applications mobiles. En août 2014, Twitch a été racheté par Amazon pour un peu moins de 1 milliard de dollars. La compagnie compte près de 1000 employés12 dans son siège social situé à San Francisco.  Le site, qui compte parmi les plus grands consommateurs de bande passante aux États-Unis, a évolué d’un simple média en continu à quelque chose qui ressemble de plus en plus à un réseau social.

Twitch permet aux joueurs (streamers) de diffuser leur partie en ligne pendant qu’ils sont en train de jouer et aux spectateurs d’échanger entre eux et avec les joueurs sur des forums et des salles de clavardage (chatroom). Ainsi, vous pouvez suivre les gens que vous aimez et recevoir des notifications lorsqu’ils sont en ligne. Selon Twitch, il y aurait plus de 100 millions d’utilisateurs par mois, dont environ deux millions de diffuseurs (streamers).

Les genres de jeux les plus populaires sont les jeux de stratégie en temps réel, les jeux de combat, les jeux de course et les jeux de tir. En 2016, le jeu League of Legends (LoL) est réellement devenu une légende avec un total de 43 millions de spectateurs et un pic d’audience de 14,7 millions.

Bien que variable, une partie de League of Legends suit un scénario relativement classique. L’objectif est de détruire le bâtiment principal (Nexus) de la base adverse tout en protégeant le sien. Pour ce faire, l’équipe devra réussir à faire tomber les différentes tourelles protégeant la base ennemie sur au moins une des voies afin d’atteindre le Nexus. Le joueur est représenté par un invocateur un peu à la manière d’un avatar. Le jeu présente bien d’autres personnages, comme des champions et des larbins, des monstres et des dragons, ainsi qu’une panoplie d’outils, tels des sorts, des runes et des talents, tout ça encadré par une série de règles du jeu. Si vous souhaitez avoir une idée de ce à quoi ressemble un jeu vidéo, je vous conseille de regarder la vidéo What is League of Legends ?13 publié par Riot Games ou si vous préférez League of Legends pour les Nuls14 réalisé par un jeune joueur français.   
 
On peut jouer seul contre des bots (agents virtuels), contre de vrais adversaires ou dans des ligues. League of Legends est la plus grande communauté de joueurs en ligne du monde. On peut y combattre des dizaines de millions d'adversaires de tous les pays. Les équipes de 5 joueurs (+ remplaçants) assistés par un coach sont regroupées en 13 ligues régionales. Le championnat du monde, un tournoi devant public, est au sport électronique ce que la Coupe du monde de football est au sport traditionnel. En 2017, l’équipe gagnante a empoché la modique somme de 1 million de dollars.

L’exemple de League of Legends nous permet de mieux comprendre la boucle Hook décrite par Nir Eyal. Dans la pyramide des besoins de Maslow, plusieurs peuvent être satisfaits par un jeu comme LoL : besoin d’appartenance et d’affection, besoin d’estime de soi et de reconnaissance des autres, besoin d’accomplissement, etc. L’anxiété à satisfaire un ou plusieurs de ces besoins est le déclencheur du processus. Dans la tête du joueur, l’action à mener pour réduire son anxiété est de retrouver son jeu vidéo, ses co-équipiers et ses spectateurs ou mieux, ses admirateurs. Le jeu lui procure alors des récompenses variables, par exemple sous la forme des succès qu’il obtient, du nombre de spectateurs qui le suivent ou des encouragements et des commentaires qu’il reçoit. Mais chaque échec, chaque baisse d’audience ou chaque remarque négative est une nouvelle source d’anxiété qu’il cherchera à réduire en jouant toujours plus pour augmenter son expertise et obtenir plus de succès, se méritant ainsi plus de récompenses. Le comportement compulsif est amorcé. Enfin, ses investissements en temps, en efforts, en participation aux séances de clavardage, en travail d’équipe justifieront tout ce qu’il a sacrifié pour le jeu. On pourrait décrire cette rétroaction positive de la façon suivante : l’anxiété stimule le comportement compulsif qui génère encore plus d’anxiété et ainsi de suite.  

À qui la faute ?

Qui doit-on blâmer quand un événement malheureux se produit chez un joueur compulsif ? Certainement pas le joueur, il est la victime. La dépendance aux jeux vidéo vient d’être reconnue comme une maladie par l’Organisation mondiale de la santé. Mary Aiken s’en réjouit car une fois qu’elle est « officialisée », une maladie reçoit l’attention des médias et des journaux médicaux, attire des budgets de recherche et peut même être couverte par les assurances. Mais pour Tristan Harris15, que le magazine The Atlantic surnomme « la conscience de la Silicon Valley », « nos faiblesses cognitives ne sont pas les raisons de notre addiction. Nos faiblesses personnelles et individuelles, notre manque de volonté ne sont pas en cause. Notre absence de maîtrise de soi ne relève pas de nos responsabilités quand, de l’autre côté de l’écran des milliers de personnes travaillent à nous faire perdre pied »16.

Et même si le joueur est mineur, comme dans le cas de Thomas, ses parents ne sont pas à blâmer non plus.vQue peuvent-ils faire devant tous ces psychologues, ingénieurs informatiques et concepteurs de produits qui sortent des plus grandes universités et qui mettent leurs gros QI au service d’une industrie qui s’enrichit en créant des dépendances chez les utilisateurs ? Le combat est inégal.

Dans un article au titre révélateur « Parents Alone Cannot Police Our Youth in Cyberspace », le docteur Mary Aiken affirme : « En cette époque où les technologies numériques sont omniprésentes (tablettes, téléphones intelligents, WiFi public, etc.), la surveillance constante du comportement des jeunes en ligne est pratiquement impossible pour les parents, les professeurs et les gardiens. (…) Charger les parents de la responsabilité entière de la cyber-régulation, c’est comme leur demander d’élever leur famille dans un environnement sans loi, un cyberespace où ils doivent devenir leurs propres gendarmes 24/7 »17.

Devrait-on chercher la culpabilité du côté des concepteurs de jeux ? Il est tentant de les comparer aux cigarettiers qui ont ajouté des produits chimiques au tabac pour s’assurer de créer une dépendance. Bien sûr, dans un cas comme dans l’autre la responsabilité est difficile à établir puisque des systèmes aussi complexes que le corps et l’esprit humains sont truffés d’interactions et de rétroactions, ce qui rend presque impossible d’isoler des relations directes entre les causes et les effets. Ainsi, il se trouvera toujours quelqu’un pour affirmer qu’il y a des fumeurs qui n’attrapent pas le cancer, de même qu’il y a des adeptes des jeux vidéo que ne restent pas accrochés. Mais les cigarettiers n’en n’ont pas moins perdu quelques poursuites très importantes.

Il est odieux de concevoir des jeux ayant pour but de créer un comportement compulsif et de rejeter ensuite la faute sur l’individu. Si les concepteurs ne craignaient pas les effets de leurs produits, ils n’hésiteraient pas à en faire profiter leur progéniture. Or, ce sont les parents de la Silicon Valley qui réglementent le plus sévèrement l’accès à Internet pour leurs enfants et qui les envoient dans des écoles alternatives où il est interdit de se connecter.   

Comment prévenir un comportement compulsif ?

Pour éviter les effets néfastes d’une boucle de rétroaction positive, on peut la modérer avec une rétroaction négative, mais le meilleur moyen est de ne pas la créer en premier lieu. Alors, si on veut éviter que les joueurs compulsifs passent à des comportements extrêmes, on peut réagir à ces comportements ou modérer la compulsion, mais la meilleure solution est de ne pas baser les jeux sur les piliers de l’attention (dépendance, compulsion).

Vers la fin du documentaire Bye, Alexandre Taillefer réunit des acteurs de l’industrie des jeux vidéo et leur demande de trouver des solutions pour éviter que d’autres joueurs compulsifs pensent au suicide ou passent à l’acte. Les solutions proposées étaient toutes de nature technologique. Autrement dit, on veut résoudre un problème causé par la technologie par encore plus de technologie. L’architecte et designer industriel William McDonough disait que « le design est la première manifestation de l’intention humaine ». J’aimerais bien que les concepteurs de produits numériques soient tenus criminellement ou financièrement responsables de leurs mauvaises intentions. Il n’y a rien de tel pour modifier une mauvaise pratique que de payer pour ses erreurs.

La solution technologique repose sur la conception d’algorithmes de détection des propos suicidaires, mais elle présente des travers. Développer de tels algorithmes fait appel à l’intelligence artificielle et à un apprentissage qui exige des exemples et des données en grand nombre, qui ne sont pas faciles à obtenir vu la nature du problème. De plus, certaines personnes s’inquiètent de l’usage qui pourrait être fait des données recueillies. Par exemple, savoir que quelqu’un a eu des pensées suicidaires pourrait-il avoir un impact sur sa cote de crédit ? L’empêcher d’obtenir un prêt hypothécaire ?

Une solution incluant une intervention humaine consiste à demander à des professionnels de la santé de former les modérateurs qui surveillent les conversations en ligne. « Twitch a adopté un code de conduite qui permet déjà à ses membres de rapporter des propos laissant croire qu’une personne « menace, tente ou est à risque de s’infliger des blessures ou la mort », incluant les « menaces de suicide et la manipulation psychologique intentionnelle », écrit Tristan Péloquin dans La Presse +18. « Nous prenons les comportements autodestructeurs très au sérieux », affirme par courriel le directeur des communications de Twitch, qui utilise le surnom de « Chase » pour communiquer avec les médias. « Nous avons une équipe de modération en fonction 24 heures sur 24, 7 jours par semaine, qui a pour mandat d’assurer un environnement positif sur le site et qui enquête lorsque de tels comportements sont rapportés. Nous vérifions chaque rapport et prenons les mesures nécessaires si le rapport s’avère, ce qui inclut la fermeture de canaux. » Mais l’une de ces modératrices, qui se fait appeler Baxdan, pense que le bannissement du joueur aurait pu avoir des conséquences graves. Si la personne est en dépression, l’isoler davantage ne fait qu’empirer sa situation. Baxdan19 s’est plainte du manque de ressources facilement accessibles dans ce type de cas. À la suite de ce message, Twitch a ajouté sur son site une page sur la santé mentale avec recommandations, des numéros de lignes d’assistance pour la prévention du suicide et des sections sur des sujets spécifiques comme les LGBT+ et la dépendance. Dans les cas de vie ou de mort, Twitch pourrait faire face à des poursuites légales si elle pose les mauvais gestes. Il est donc dans le meilleur intérêt de la compagnie, des modérateurs ou de toute personne impliquée dans l’organisation de ne rien faire, malheureusement. 
 
Les solutions précédentes sont en aval, une fois que le comportement compulsif est en place et que les problèmes sont présents. Mais les meilleures solutions sont toujours en amont, afin de prévenir les problèmes.

Nous avons parlé de modérer la rétroaction positive au moyen d’une régulation. Mais le mot « régulation » fait peur dans le monde de la « nouvelle économie ». Pourtant, comme nous ne sommes pas assez naïfs pour croire que les géants du numérique vont se réguler d’eux-mêmes, il faudra bien que quelqu’un s’en mêle. Mary Aiken est une de ces personnes qui propose d’encadrer l’industrie, en particulier en ce qui concerne la jeunesse.

Quand les Nations Unies ont décrit les droits des enfants dans les années 1980, l’Internet n’existait pas. Voici quels étaient ces droits humains fondamentaux des enfants : survivre, développer son plein potentiel, être protégé des influences nuisibles, des abus et de l’exploitation et participer pleinement à la vie familiale, culturelle et sociale. Plusieurs de ces droits sont bafoués par un Internet non régulé. Les manufacturiers de matériel informatique, les fournisseurs d’Internet, les serveurs et les générateurs de contenus sont tous complices dans ce qui devrait être considéré comme une violation de la Convention des Nations Unies. Et ils devraient être tenus responsables, si non au nom de la loi, du moins à celui de la morale et de l’éthique. La Convention des Nations Unies sur les droits de l’enfant devrait inclure les droits des enfants dans un cyber environnement (Aiken, p. 162-163).

Les propositions les plus audacieuses visent la réforme de l’économie de l’attention20. En 2016, Tristan Harris, alors éthicien du design chez Google, a quitté son employeur pour se consacrer à plein temps à l’initiative sans but lucratif Time Well Spent. Cette dernière veut servir de catalyseur pour un changement rapide et coordonné des entreprises de technologie par la défense d’intérêts publics, le développement de normes de conception éthiques, la formation en design et des recommandations stratégiques pour protéger les esprits contre la manipulation malveillante.

Dans une entrevue avec l’éditeur en chef du magazine Wired, Harris explique les trois étapes de la réforme qu’il souhaite accomplir :

1. transformer les consciences de soi : les gens ont besoin de comprendre les mécanismes d’ingénierie du comportement pour se protéger de la manipulation ;
2. transformer le design : en introduisant des rétroactions négatives, par exemple en installant des moniteurs pour que l’utilisateur sache combien de temps il a passé sur un site, combien de fois par jour il l’a visité, et autres mesures du genre ;
3. transformer le modèle d’affaires et la reddition de comptes : afin que la mesure du succès ne repose plus sur l’attention des utilisateurs.

Selon Harris, il ne s’agit pas d’ajouter plus de technologie, mais d’en développer une autre, complètement différente et plus respectueuse de l’humain.

Le salut par la technologie ?

Nous sommes envoûtés par la technologie. Comme les économistes qui ne peuvent plus imaginer le monde sans croissance et sans pétrole bon marché, nous ne pouvons plus concevoir le monde sans Internet, sans données et sans attention à monnayer.

Le pétrole libère des GES qui accélère l’emballement du climat. Comme le monde ne veut pas renoncer au pétrole, les ingénieurs essaient de trouver des solutions en aval par la géo-ingénierie. De même, l’attention stimule l’anxiété qui amplifie les comportements compulsifs. Mais comme les géants du numérique ne veulent pas renoncer à capter et monnayer notre attention, ils essaient de trouver des solutions en aval à l’aide des algorithmes. Alors, aux problèmes causés par la technologie, nous avons le réflexe de répondre par la technologie. Aux problèmes complexes, nous cherchons des réponses simples. Il faut dire que les solutions en amont causeraient des bouleversements importants. 

Aurons-nous la sagesse et le courage d’imposer nos exigences aux géants du numérique et de les rendre imputables ? Ne serait-ce que pour ne plus avoir à pleurer d’autres beaux jeunes Thomas…

Notes

1 https://www.youtube.com/watch?v=j54k7wrbfmg
2 https://www.futura-sciences.com/tech/actualites/tech-captologie-ordinateur-outil-persuasion-5689/
3 https://youtu.be/u6mbbroxm1k
4 http://www.internetactu.net/2017/02/01/addiction-et-compulsion-les-deux-piliers-de-lattention/
5 https://medium.com/@michael_spencer/facebook-is-ripping-apart-society-and-net-neutrality-is-dead-5e5e1657b06c
6 http://www.lefigaro.fr/secteur/high-tech/2017/12/04/32001-20171204artfig00281-facebook-lance-une-version-de-messenger-pour-enfants.php
7 http://www.lefigaro.fr/secteur/high-tech/2015/02/03/32001-20150203artfig00004-les-enfants-nouvelle-cible-de-choix-pour-les-geants-du-net.php
8 https://www.c-span.org/video/?414322-1/mary-aiken-discusses-the-cyber-effect
Mary Aiken est cyber psychologue et professeure à l'University College de Dublin. Ses intérêts de recherche comprennent la cybersécurité, la cybercriminalité organisée, le cyberharcèlement, la traite des personnes facilitée par la technologie et les droits des enfants en ligne.
9 AIKEN, Mary, The Cyber Effect : A Pioneering Cyberpsychologist Explains How Human Behavior Changes Online, Éditions John Murray, Londres, 2016
10https://newzoo.com/insights/articles/the-global-games-market-will-reach-108-9-billion-in-2017-with-mobile-taking-42/
11 http://www.roughtype.com/?p=1471
12 http://fonderie-infocom.net/blognumerique/index.php/2017/12/11/twitch-lenorme-succes-des-jeux-video-en-ligne/
13 https://www.youtube.com/watch?v=bgtrojempee
14 https://www.youtube.com/watch?v=bqxh3zeybye
15 http://www.tristanharris.com
16 http://www.internetactu.net/2016/11/09/design-de-nos-vulnerabilites-la-silicon-valley-est-elle-a-la-recherche-dune-conscience/
17 https://www.independent.ie/opinion/comment/parents-alone-cannot-police-our-youth-in-cyberspace-30607243.html
18 http://plus.lapresse.ca/screens/331716aa-5b32-4232-b0f6-3bbbcc97c6c1__7c___0.html
19 https://kotaku.com/suicide-threats-are-a-big-problem-on-twitch-1821235980
20 http://www.tristanharris.com