Scott Winters, un pasteur de Floride, poursuit OpenAI après que ChatGPT lui aurait donné ce que son procès qualifie de conseils médicaux « extrêmement dangereux », des conseils qui ont failli lui coûter la vie.
Qu'est-il arrivé au pasteur ?
Pendant des semaines, Winters s'est tourné vers ChatGPT avec des questions sur les étourdissements récurrents et l'instabilité de la tension artérielle. Au lieu de l'orienter vers un médecin, le robot l'a rassuré sur le fait que ses symptômes n'étaient pas suffisamment graves pour s'inquiéter et lui a dit que sa « micro-récupération prudente basée sur un fauteuil inclinable » fonctionnait très bien.
Winters a suivi ce conseil. Mais ce calme rassurant cachait une véritable urgence, une embolie pulmonaire provoquée par des caillots sanguins dans les deux poumons. Les médecins lui ont dit plus tard que son immobilité, ce que ChatGPT avait recommandé, était ce qui l'avait poussé au bord de la mort.
Comme Cybernews l'a signalé pour la première fois, les choses ont pris une tournure encore plus étrange une fois qu'OpenAI a déployé la mémoire de discussion croisée en 2025. ChatGPT aurait commencé à intégrer un langage religieux dans ses réponses, apparemment parce qu'il savait que Winters était un pasteur, qualifiant à un moment donné son rétablissement de « forme de culte ».
Six semaines de symptômes, considérés comme rien de grave, se sont transformés en un lent compte à rebours vers une crise médicale.
Pourquoi OpenAI est-il poursuivi ?
Winters a intenté une action en justice devant un tribunal californien, accusant OpenAI et le PDG Sam Altman de négligence et d'exercice non autorisé de la médecine. Il dit que les conséquences lui ont coûté son travail, son ministère et sa maison, en plus de lui avoir presque coûté la vie.
Cette affaire serait la première à affirmer qu’un chatbot à usage général devrait être tenu légalement responsable d’un mauvais avis médical. Winters réclame des dommages-intérêts financiers et demande au tribunal de suspendre ChatGPT Health jusqu'à ce qu'il soit prouvé qu'il est sûr.
OpenAI, pour sa part, a déclaré au New York Times que blâmer un chatbot seul simplifie à l'extrême les décisions des gens en matière de santé. Quelle que soit la décision du tribunal, cette affaire rappelle clairement qu’un ton confiant de la part d’un chatbot n’est pas la même chose qu’un diplôme en médecine.
Je dis toujours aux gens de ne jamais suivre un avis médical de ChatGPT ou de Google. Ce qui m'irrite ici, ce n'est pas l'avis médical que ChatGPT a donné au pasteur mais le fait qu'il ne lui a pas dit de consulter un médecin. Cela devrait constituer un filet de sécurité intégré à tous les chatbots IA.
