Je n’ai pas besoin d’un thérapeute, j’ai ChatGPT
Malgré les mises en garde des experts, des millions de personnes se tournent de plus en plus vers des chatbots basés sur l’IA très populaires, tels que ChatGPT, pour obtenir des conseils de type thérapeutique. De plus, des enquêtes et des sondages récents montrent que celles qui ne le font pas envisageraient de le faire. Mais dans quelle mesure ces chatbots sont-ils prêts à devenir le plus grand fournisseur de soutien en matière de santé mentale? Des informaticiens de l’université Brown, aux États-Unis, ont révélé que les principaux chatbots basés sur l’IA enfreignent régulièrement les règles éthiques en matière de santé mentale, soulignant ainsi la nécessité de mettre en place des normes juridiques et un dispositif de contrôle. Ces résultats ont été présentés dans le document intitulé «Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society»(s’ouvre dans une nouvelle fenêtre).
Thérapie par chatbot
Les chercheurs ont collaboré avec dix professionnels travaillant pour une plateforme en ligne d’aide en santé mentale pendant une période de 18 mois. Ils ont observé sept pairs-conseillers formés alors qu’ils menaient des conversations auto-thérapeutiques avec de grands modèles linguistiques (LLM), tels que la série GPT d’OpenAI et Claude d’Anthropic, auxquels on avait demandé de jouer le rôle de thérapeutes cognitivo-comportementaux. «Les invites (prompts) sont des instructions données au modèle afin de guider son comportement pour accomplir une tâche spécifique. Vous ne modifiez pas le modèle sous-jacent ni ne fournissez de nouvelles données, mais l’invite aide à orienter la sortie du modèle en s’appuyant sur ses connaissances préexistantes et les schémas qu’il a appris», a expliqué l’auteure et doctorante Zainab Iftikhar, qui a dirigé ces travaux, dans un article(s’ouvre dans une nouvelle fenêtre). Elle explique: «Par exemple, un utilisateur pourrait demander au modèle: “Joue le rôle d’un thérapeute cognitivo-comportemental pour m’aider à recadrer mes pensées”, ou “Utilise les principes de la thérapie comportementale dialectique [TCD] pour m’aider à comprendre et à gérer mes émotions”. Bien que ces modèles n’appliquent pas réellement ces techniques thérapeutiques comme le ferait un être humain, ils utilisent plutôt les schémas qu’ils ont appris pour générer des réponses conformes aux principes de la TCC [thérapie cognitivo-comportementale] ou de la TCD, en fonction de l’invite fournie». L’équipe de recherche a ensuite sélectionné des conversations simulées inspirées de véritables entretiens de conseil. Trois psychologues agréés ont examiné les conversations afin de déterminer s’il y avait eu des manquements à l’éthique. L’évaluation a mis en évidence 15 risques éthiques, allant d’une mauvaise gestion des situations de crise et du renforcement de croyances négatives à son propre sujet et à l’égard des autres, jusqu’à l’adoption de réactions partiales.
Le thérapeute (im)parfait
«Pour les thérapeutes humains, il existe des organismes de réglementation et des mécanismes permettant de tenir les prestataires professionnellement responsables en cas de mauvais traitements ou de faute professionnelle», a ajouté Zainab Iftikhar. «Mais lorsque les LLM commettent ces infractions, il n’existe aucun cadre réglementaire établi.» Ellie Pavlick, professeure d’informatique, a souligné la nécessité d’examiner minutieusement les systèmes d’IA mis en œuvre dans le domaine de la santé mentale. «La réalité de l’IA aujourd’hui est qu’il est bien plus facile de créer et de déployer des systèmes que de les évaluer et de les comprendre. La rédaction de cet article a nécessité la collaboration d’une équipe d’experts cliniques ainsi qu’une étude qui s’est étalée sur plus d’un an afin de mettre en évidence ces risques. La plupart des travaux menés aujourd’hui dans le domaine de l’IA sont évalués à l’aide d’indicateurs automatiques qui, de par leur conception, sont statiques et ne nécessitent aucune intervention humaine.» Elle conclut: «L’IA a réellement la possibilité de jouer un rôle dans la lutte contre la crise de santé mentale à laquelle notre société est confrontée, mais il est primordial que nous prenions le temps d’analyser et d’évaluer rigoureusement nos systèmes à chaque étape afin d’éviter de faire plus de mal que de bien. Ce travail offre un bon exemple de ce à quoi cela peut ressembler».
