Face à l’engorgement des systèmes de santé et aux coûts croissants, de plus en plus de personnes se tournent vers les chatbots alimentés par l’IA, comme ChatGPT, pour obtenir des conseils de santé.
Une étude récente menée par l’Université d’Oxford révèle que, malgré l’essor des chatbots, beaucoup d’utilisateurs peinent à obtenir des recommandations fiables pour leur santé. Environ un adulte américain sur six utiliserait ces chatbots pour obtenir des conseils médicaux au moins une fois par mois. Cependant, la facilité d’accès et l’immédiateté de ces outils ne se traduisent pas toujours par des décisions éclairées.
Lire aussi :
- OpenAI peut-elle encore conjuguer ambition technologique et mission éthique sous ce nouveau modèle hybride ?
- Skype tire sa révérence après 23 ans de service : quelles solutions adopter pour une autre application d’appel vidéo en 2025 ?
Une mauvaise communication avec les chatbots
L’étude a impliqué environ 1 300 participants au Royaume-Uni, auxquels ont été présentés des scénarios médicaux élaborés par des médecins. Les participants devaient identifier des conditions de santé et déterminer les actions à entreprendre (comme consulter un médecin ou se rendre à l’hôpital). Les résultats ont montré que l’utilisation des chatbots, comme GPT-4o de ChatGPT, Command R+ de Cohere, et Llama 3 de Meta, n’a pas conduit à de meilleures décisions que les méthodes traditionnelles. En fait, les utilisateurs étaient souvent moins capables de détecter les problèmes de santé et plus enclins à sous-estimer leur gravité.
Les limitations de l’IA dans les décisions de santé
L’étude met en évidence un problème de communication entre l’utilisateur et les chatbots. En effet, les participants omettaient fréquemment des informations importantes lors de l’interaction avec les chatbots, ou recevaient des réponses difficiles à interpréter. Comme l’a expliqué Adam Mahdi, co-auteur de l’étude, les réponses des chatbots sont souvent une combinaison de bonnes et de mauvaises recommandations. Ce manque de clarté peut induire les utilisateurs en erreur, les empêchant de prendre les bonnes décisions en matière de santé.
La prudence est de mise face aux chatbots en médecine
Bien que les chatbots soient vus par certaines entreprises comme une solution pour améliorer les résultats de santé, les professionnels de la santé restent partagés. L’American Medical Association déconseille l’utilisation de chatbots comme ChatGPT pour la prise de décisions cliniques, et OpenAI met en garde contre l’utilisation de leurs outils pour des diagnostics médicaux. Mahdi recommande de se tourner vers des sources d’information fiables et souligne l’importance de tester les chatbots dans des conditions réelles avant de les déployer à grande échelle pour des applications à haut risque.
