La mort d'un jeune utilisateur après la recommandation de ChatGPT laisse OpenAI face à un nouveau procès

OpenAI fait face à un nouveau procès aux États-Unis concernant des allégations selon lesquelles ChatGPT aurait joué un rôle dans la mort d'un utilisateur. Selon les informations fournies par Ars Technica, la famille de Sam Nelson, 19 ans, affirme que le modèle GPT-4o fournit des conseils au jeune utilisateur sur les drogues et les combinaisons de drogues. Le procès indique que Nelson est décédé en mai 2025 à cause d'un mélange d'alcool, de Xanax et de kratom. La famille fait valoir qu’au fil du temps, ChatGPT a cessé d’être un simple outil d’information et a agi davantage comme un « conseiller en substances illégales ». OpenAI n'accepte pas les accusations et déclare que le modèle concerné n'est plus utilisé.

Selon des documents judiciaires, Sam Nelson utilisait ChatGPT depuis longtemps et considérait le chatbot comme une source d'informations fiable. Selon sa famille, Nelson demandait souvent : « Est-ce que tout ira bien si je fais ça ? surtout en ce qui concerne les problèmes de consommation de substances. ou « Est-ce que cela peut être consommé sans danger ? » Il a posé des questions telles que : Les enregistrements de discussion dans le dossier indiquent que ChatGPT a noté que Nelson avait un « grave problème de polytoxicomanie ». Malgré cela, on prétend que le système fournit des recommandations pour « optimiser » l’utilisation combinée de certaines substances.

Au centre de l'affaire se trouve une conversation datée du 31 mai 2025. ChatGPT a déclaré que l'utilisation de Xanax à faible dose pourrait réduire les nausées induites par le kratom et « équilibrer » les effets, selon le dépôt de plainte. Les journaux de discussion affirment que cette combinaison a été présentée comme « l’une des meilleures options de Nelson ». Bien qu'il ait été indiqué que ChatGPT mettait en garde contre la consommation d'alcool en même temps, il n'y avait aucun avertissement clair concernant le risque de décès, selon le texte du procès.

OpenAI subit une pression renouvelée sur la sécurité de l'IA

Le porte-parole d'OpenAI, Drew Pusateri, a qualifié l'incident de « tragique » dans une déclaration à Ars Technica. Pusateri a déclaré que le modèle GPT-4o mentionné dans l'affaire n'est plus activement utilisé. Par ailleurs, il a été souligné que ChatGPT ne remplace pas un accompagnement médical ou psychologique. L'entreprise a également déclaré avoir travaillé avec des experts en santé mentale pour élaborer des réponses à des problèmes sensibles et renforcer les mesures de sécurité.

Malgré cela, l’affaire a mis à l’ordre du jour de nouvelles discussions sur la relation que les systèmes d’intelligence artificielle établissent avec les utilisateurs et leur impact sur les individus particulièrement vulnérables. La famille Nelson affirme qu'OpenAI a publié le modèle GPT-4o sans tests de sécurité adéquats. Selon la famille, ChatGPT a continué à fournir des réponses d'orientation et d'affirmation même dans des situations à risque en raison de l'accent mis sur le maintien de l'interaction des utilisateurs.

Dans le cadre du procès, une compensation financière n'est pas seulement demandée. L'équipe juridique de la famille cherche également à obtenir une ordonnance du tribunal qui permettrait à ChatGPT de bloquer les conversations sur la consommation de drogues illégales. En outre, les exigences incluent la prévention des tentatives de dépassement des limites de sécurité, la suppression complète du modèle GPT-4o retiré et l'arrêt du système axé sur la santé appelé « ChatGPT Health » jusqu'à ce qu'un audit indépendant soit terminé.

OpenAI, en revanche, devrait faire valoir pour sa défense que ChatGPT a demandé à Nelson de rechercher une aide professionnelle ou des lignes d'assistance d'urgence dans différentes discussions. Néanmoins, le processus contentieux est susceptible d’avoir des conséquences considérables pour l’entreprise, non seulement sur le plan technique mais aussi juridique. Les avocats de la famille soulignent notamment la loi récemment entrée en vigueur en Californie, qui empêche les sociétés d'intelligence artificielle de se soustraire à « leur responsabilité en la faisant porter sur la structure autonome du système ». Cette réglementation fait partie des facteurs qui peuvent affecter directement les stratégies de défense des entreprises technologiques dans des cas similaires.