OpenAI poursuivi par les proches des victimes après la fusillade dans une école canadienne

À la suite de l'incident survenu le 10 février dans la ville de Tumbler Ridge en Colombie-Britannique, au Canada, et considéré comme l'une des attaques scolaires les plus meurtrières de l'histoire du pays, les familles de ceux qui ont perdu la vie ont intenté une action en justice contre OpenAI. Cette évolution, survenue quelques jours seulement après le message d'excuses adressé par le PDG d'OpenAI, Sam Altman, aux habitants après l'incident, a remis en question les politiques de sécurité de l'intelligence artificielle de l'entreprise.

Lors de l'attaque en question, Jesse Van Rootselaar, 18 ans, est entré dans un lycée local, tuant cinq élèves et un enseignant et en blessant grièvement deux autres. Bien qu'il ait été déclaré que l'agresseur avait ensuite mis fin à ses jours, l'enquête policière a révélé que Van Rootselaar avait également tué sa mère et son demi-frère de 11 ans avant l'incident. À cet égard, l’incident est considéré non seulement comme une attaque contre une école, mais aussi comme une tragédie familiale aux multiples facettes.

Les avocats représentant les familles des victimes ont déposé mercredi six poursuites distinctes devant le tribunal fédéral de San Francisco, selon les informations rapportées par NPR. L'une des poursuites, déposée au nom de Maya Gebala, survivante de l'attaque, allègue que les systèmes de sécurité d'OpenAI ont signalé les conversations de Van Rootselaar avec ChatGPT en juin 2025 pour « activité et planification de violence armée ». Malgré cela, il semblerait que l'entreprise ait simplement fermé le compte concerné et que la suggestion de l'équipe de sécurité d'informer les autorités n'ait pas été mise en œuvre.

Comment OpenAI a-t-il mis à jour ses processus de sécurité ?

Selon les allégations contenues dans le dossier, il est indiqué que l'attaquant, dont le premier compte a été fermé, a ensuite créé un nouveau compte et a poursuivi sa communication avec ChatGPT. Cette situation pose la question de savoir si des mesures telles que la fermeture des comptes sur les plateformes sont suffisantes à elles seules. En revanche, le front OpenAI souligne avoir une politique de « tolérance zéro » contre l'utilisation violente de ses outils.

Dans la déclaration faite par le porte-parole de l'entreprise, il a été indiqué que diverses mesures avaient été renforcées conformément aux informations partagées avec les autorités canadiennes. Ainsi, des mises à jour ont été apportées aux systèmes afin que ChatGPT puisse mieux analyser les signes de l'état mental des utilisateurs, les orienter vers des ressources locales d'assistance et de santé mentale, détecter plus rapidement les risques potentiels de violence et les transmettre aux autorités supérieures. En outre, il a été signalé que des mécanismes permettant de détecter les violations récurrentes avaient également été développés.

Dans un article de blog récemment publié par OpenAI, il a été souligné que les comportements à risque ne sont pas toujours compris par un seul message et que les modèles émergeant au cours de conversations à long terme peuvent être plus décisifs. Cette approche montre que les efforts visant à accroître la capacité d’analyse contextuelle des systèmes basés sur l’intelligence artificielle se poursuivent.

L’affaire Tumbler Ridge se démarque comme l’un des derniers exemples de procédures juridiques auxquelles les entreprises d’intelligence artificielle sont confrontées en termes de conception de produits et de responsabilité en matière de sécurité. De même, l’été dernier, la famille d’un adolescent qui s’est suicidé en 2025 a intenté une action en justice contre OpenAI, affirmant que ChatGPT avait remarqué les tentatives précédentes. De tels cas soulèvent la question de savoir dans quelle mesure les plateformes d’intelligence artificielle devraient intervenir dans le comportement des utilisateurs pour en discuter dans un contexte plus large.