Psychothérapie assistée par ordinateur

Opportunités et risques

Peter Schulthess

Comme cela est abordé dans le rapport du Congrès PSY 2018, l’allocution de Dirk Helbing sur le thème « Utilisation de l’informatique cognitive dans la psychothérapie : Opportunités et risques » mérite un résumé complet. Dirk Helbling est professeur de Computational Social Science à l’ETH de Zurich.

Le sujet doit nous, les thérapeutes, nous occuper réellement et nous faire réfléchir, nous ne pouvons pas simplement ignorer que l’informatique cognitive va être utilisée ou est déjà utilisée aussi dans la psychothérapie, comme dans d'autres domaines du secteur de la santé.

Les quantités de données basées sur l’informatique permettent de nouvelles opportunités d'optimisation de l’efficacité de la médecine, mais elles cachent aussi des risques. Les mots-clés sont : Médecine personnalisée, établissement optimisé de diagnostic et assistance thérapeutique sur la base de lignes directrices. Et bien sûr, l'intérêt des organismes de financement dans l’utilisation de ces données est la baisse des frais de santé ou la sélection des risques des assureurs.

Le World Wide Web (WWW) est un réseau mondial d'informations (inventé à l’origine à des fins de renseignements militaires) et constitue un marché mondial de données. Les réseaux sociaux sont des nœuds dans le WWW dans lesquels des données sont générées et transmises. La quantité de données est tellement immense qu’il est impossible que des personnes seules puissent les analyser. L’intelligence artificielle est utilisée pour l’analyse. Dans le monde entier, 700.000 interrogations Google et 500.000 posts Facebook ont lieu en une minute. Nos mouvements génèrent des traces de données qui peuvent même être vues en temps réel.

Le paradigme des mégadonnées est : Si nous avions seulement assez de données, nous n'aurions alors plus besoin de théories, les données révèleraient la vérité. Depuis lors, autant de données que possible sont collectées afin de comprendre le cerveau et la psyché. C’est un rêve et en même temps un cauchemar !

Internet est déchiffré : On enregistre combien de temps vous restez où lorsque vous surfez, ce que vous lisez. Et lorsqu'il y a des failles dans la sécurité de votre matériel informatique : il est même possible de lire tout ce que vous tapez. Les données révèlent tout. 64.000 fournisseurs de réseaux sociaux sont analysés. Avec l’intelligence artificielle, la NSA peut enregistrer par l’intermédiaire de notre voix tout ce qui est possible. La caméra du smartphone ou de l’ordinateur est un navigateur pour fournir des données à Google. « Ils » savent non seulement où vous êtes, « ils » savent aussi où vous étiez et plus ou moins ce que vous pensez. Un double numérique est produit sur chacun d’entre nous. Par exemple, IBM Watson analyse des données (sur la santé) sur des terminaux Mac et peut tirer des conclusions sur notre état de santé.

L'objectif est bien sûr de faire du bien et d'améliorer la santé, d’aider les gens. Les diagnostics sont souvent plus fiables (par ex. pour le cancer de la peau) que chez de nombreux médecins. Nous ne savons même pas que nous sommes ainsi observés et analysés – sans jamais nous demander notre consentement.

Est-ce que plus de données signifie plus de savoir ? Plus de savoir plus de pouvoir ? Plus de pouvoir plus de réussite ? Non, cela ne s'applique pas en général. Plus il y a de données, plus grand est le danger que l’arbre cache la forêt. Dans les évaluations, des corrélations aléatoires apparaissent : Par exemple, là où on mange plus de chocolat, il y a plus d'incendies de forêt. Ou : Des enfants qui mangent plus de glaces – plus d'incendies de forêt. Certes, ce sont éventuellement des corrélations mathématiquement correctes, mais il est toutefois absurde d’en déduire un lien de causalité. Mais souvent, les corrélations sont évaluées ainsi (aussi dans la recherche en psychothérapie), en particulier lorsqu’elles sont significatives sur le plan statistique. Le grand secret de l’intelligence artificielle est : elle non plus n’est pas parfaite.

Discriminer les algorithmes, involontairement. Des échantillons génétiques ont été envoyés à différentes entreprises pour analyse : Il y a eu différents diagnostics et pronostics. Pensez à Angelina Jolie : Elle s’est fait retirer les deux seins sur la base d’une probabilité mathématique calculée par un algorithme.

Toutes les femmes doivent-elles être de façon étendue dépistées préventivement et examinées à la recherche de signes préliminaires d’un cancer ? Il y a un taux d’erreur dans les diagnostics et les pronostics. S'agit-il maintenant plus un bénéfice ou un effet indésirable ? Les données sont le nouveau pétrole. Il faut les raffiner et les distiller pour les rendre utiles.

Un exemple dans lequel les données pourraient être analysées utilement : L'analyse des passagers sur les vols de correspondance entre différents aéroports pourrait déjà permettre d’émettre des déclarations sur la façon dont une épidémie de grippe se propage. Ce sont des aides pour les décisionnaires.

Les puissances de calcul doublent de nos jours tous les 18 mois. Mais : La quantité de données croît encore plus vite : Elle double tous les douze mois. En un an sont générées autant de données que précédemment dans toute l’histoire de l’humanité !

Cambridge Analytica est une entreprise d'analyse de données. Elle a dû déposer le bilan en mai. L’entreprise collectait et analysait à grande échelle des données sur les électeurs potentiels avec pour objectif d’influencer le comportement électoral avec des informations personnalisées (micro ciblage). Une entreprise lui a succédé et est déjà opérationnelle : Emerdata.

Dans le domaine de la psychiatrie/psychothérapie, de telles analyses de données ayant pour objectif le pilotage et la modification comportementaux pourraient obtenir un large champ d'activité. Les machines nous connaissent mieux que de nombreuses personnes dans notre environnement. Généralement, nous choisissons bien nos amis pour nous savoir entre de bonnes mains, lorsque nous publions quelque chose de personnel, mais nous ne connaissons même pas le nom des entreprises qui gèrent nos données et qui sont en mesure de nous manipuler.

Exemple Crystal : Il s'agit d'une application pour effectuer des tests de personnalité et développer un comportement de communication personnalisé par rapport à la personne concernée. Cela est de plus en plus utilisé dans la gestion de personnel.

De tels outils sont envisageables pour la psychothérapie et la psychiatrie : L’ordinateur comme assistant d’un traitement individualisé et pilotage comportemental en ce qui concerne une modification souhaitée du comportement, de la pensée et du ressenti. Ici, cela doit déclencher chez nous des sonnettes d'alarme : Où dérivons-nous ?

L’intervenant Dirk Helbling a déclaré qu'il n’était pas là comme psychothérapeute pour analyser si ces nouvelles options de traitement de données seraient utiles ou néfastes. Il est un analyste de données et met à notre disposition son savoir sur l’informatique cognitif. Il a déclaré qu'il était temps de discuter publiquement et sérieusement de ce sujet également dans le domaine spécialisé de la psychiatrie et de la psychothérapie.

En utilisant toutes les données qui sont collectées sur nous, l’informatique cognitive permet d’influencer notre attention, notre pensée et notre ressenti, nos décisions et notre comportement. Des applications au quotidien et dans la psychothérapie sont envisageables. Il existe des données très détaillées sur des traits de caractère de centaines de millions de personnes. Nous sommes tous ciblés. Les estimations s’élèvent à 500 mégabits jusqu’à plusieurs gigabits de données collectées par personne et par jour.

Le « neuromarketing » désigne l’influence par des informations personnalisées par des voies inconscientes grâce à ces profils de personnalité. La publicité personnalisée est monnaie courante, même les résultats de recherche dans des moteurs de recherche suivent un ordre qui est personnalisé sur chacun de nous pour nous manipuler.

Notre cerveau fonctionne à l’économie, prend des raccourcis ce qui occasionne souvent des conclusions quelque peu précipitées. Ce fonctionnement peut être exploité par l’intelligence artificielle pour manipuler par le biais d’informations personnalisées. Il est possible aujourd'hui avec de telles méthodes d'influencer en partie notre pensée, notre ressenti et nos actions. Mais, cela échoue parfois.

De telles méthodes peuvent aussi être utilisées pour faire le bien. Il existe aujourd'hui des ordinateurs qui peuvent mieux débattre que les êtres humains, mieux convaincre. Il est donc possible non seulement de berner des personnes, mais également de les faire changer d'avis. Il existe de nombreux domaines dans lesquels l’informatique cognitive peut nous aider via des smartphones et d'autres appareils à résoudre certains problèmes ou à renoncer à des habitudes, par exemple arrêter de fumer, contrôler le comportement alimentaire ou même éliminer le stress et surmonter des traumatismes. La réalité virtuelle peut aider par exemple en cas de fortes douleurs : On a montré à des victimes de brûlures via des lunettes de réalité virtuelle des paysages enneigés et le ressenti douloureux a réellement considérablement baissé, mieux qu'avec tous les antidouleurs utilisés. Il est également possible de simuler des « out-of-body experiences » (expériences de hors-corps) qui aident certains à réduire la peur de la mort.

On souhaiterait aujourd'hui personnaliser la médecine et la psychiatrie aussi, ce qui nécessite davantage d'informations et ce qui prend également en compte ce qu'on appelle l’intelligence collective. Les forums pour patients sont de bons fournisseurs de données pour l’intelligence collective, car ils permettent d’obtenir des informations sur des tableaux cliniques à partir de perspectives différentes.

Grâce à la réalité virtuelle et aux technologies de réalité mixte, il est possible de concevoir des personnages qui peuvent servir d'amis virtuels ou de guides sur la manière dont on peut se mouvoir dans différentes cultures. L'idée aussi qu’un ordinateur doté d’intelligence artificielle peut remplacer la personne du psychothérapeute existe et on travaille à de tels programmes informatiques.

Dirk Helbling a conclu avec le sujet de l’éthique. Comment cette nouvelle technologie peut-elle être utilisée sur le plan éthique et à l’avantage des individus ? Seules des lignes directrices éthiques peuvent empêcher qu’elle soit utilisée au détriment des hommes.

Les patients sont des individus qui ont des droits à la liberté devant être pris en compte. Avec la réalité virtuelle, de nombreux abus sont aussi possibles, on peut être limité dans sa vision du monde ou commencer à croire à des réalités fictives et être amené à des actions que l’on n’aurait pas faites sans cette croyance.

L'intervenant a également fait une comparaison avec les expériences de Skinner sur des animaux dans les années 30 du siècle dernier et a déclaré que la même chose est faite aujourd’hui avec des êtres humains via Google, Facebook et certaines plateformes de rendez-vous : des expériences innombrables quotidiennement qui interviennent dans notre vie. Plus notre pensée est déviée, moins nous trouvons de nouvelles idées. L’ingénierie virtuelle désigne la manipulation des êtres humains dans leur pensée, leur ressenti et leurs actions. Il existe heureusement aujourd'hui aussi dans la Silicon Valley des collaborateurs qui débattent avec critique sur son abus dans de tels forums.

Le droit fondamental et la dignité humaine exigent que les hommes ne soient justement pas traités de la même manière que les animaux et ne soient pas réduits à des fournisseurs de données. Il est également interdit de confiner les hommes par le biais d’entreprises ou d'états via la collecte de données d’une manière telle qu’ils seraient traités comme une chose. La dignité humaine doit être défendue aussi face aux tiers, entreprises et états conformément à la loi fondamentale et à la convention sur les droits de l’homme.

Il semblerait que cela ne soit pas respecté par certaines entreprises et la question se pose de savoir à qui appartient en fait notre jumeau numérique créé sans que nous le sachions et sans notre consentement sur la base de nos données. On réfléchit aujourd’hui à la nécessité de créer une plateforme sur tous ces profils pour laquelle chacun d’entre nous reçoit un mot de passe afin de pouvoir participer à l’utilisation des données.

Un possible développement futur se présente comme suit : Aux États-Unis, il existe un projet Brain qui concerne le mesurage simultané et la manipulation de milliers, voire de millions de neurones. Ce sont des ingérences dans le cerveau qui ne sont plus seulement virtuelles, mais qui modifient réellement notre cerveau dans son mode de fonctionnement. On pourrait également avec de telles technologies construire aussi des sociétés différentes, faudrait-il vouloir en construire une qui soit humaine et démocratique !

Dans la discussion, on s’est interrogé sur une expérience sociale en Chine (Citizen Score) que l’intervenant va expliquer davantage. Sur la base de la surveillance des masses, des données sur les habitants et leurs comportements sont collectées, ceux-ci étant évalués avec des points positifs et négatifs. Chacun dispose d’un certain niveau de points qui influence significativement le type d’emplois ou d’appartement que l’on obtient, le pays dans lequel on a le droit de voyager ou même si l’on peut utiliser un certain moyen de transport. Pour ce système qu’on pourrait dire de crédits sociaux, un million d’Ouïghours entre autres seraient entreposés, surveillés et rééduqués pour devenir de « bons » citoyens.

La technologie trouve toutefois son origine dans l’Occident, Edward Snowden en a fait état. De tels systèmes de surveillance ont été développés par exemple en Angleterre, mais ne sont pas utilisés là-bas dans une telle proportion. Avec des moyens numériques, il est possible de construire le communisme numérique, le fascisme numérique, le féodalisme numérique. Le modèle chinois présente des éléments de tous ces systèmes. Mais, il est aussi possible de construire la démocratie numérique, ou de mettre à niveau le capitalisme.

Cela dépend de ce que nous voulons, c’est pourquoi il est urgent que nous en discutions et que nous recherchions des moyens de pouvoir l’influencer. Le modèle chinois n’est pas bien adapté en tant que modèle mondial, mais au début de la conception de tels modèles, l’idée était réellement de pouvoir résoudre avec nos problèmes futurs, en particulier les problèmes climatiques et de ressources.

Peter Schulthess est membre du conseil d'administration de l’ASP.