Openai, un jeune homme de 16 ans après la fin de l'événement a annoncé les nouvelles étapes de sécurité annoncées. L'entreprise travaille sur les contrôles et les mécanismes de communication urgents qui permettront aux parents de suivre de plus près l'utilisation des jeunes. Cette décision vise à empêcher les risques pouvant survenir dans les interactions à long terme des jeunes utilisateurs avec l'intelligence artificielle. Le moment de l'explication a trouvé une large répercussion dans le public.
La nouvelle publiée par le New York Times a accéléré les discussions tout en portant les détails de l'incident au public. À la suite de la nouvelle, la jeune famille a déposé une plainte contre OpenAı et le PDG Sam Altman dans un tribunal de San Francisco. Dans la pétition, il a été affirmé que Chatgpt avait retiré les jeunes des mécanismes de soutien de la vie réelle. De plus, l'intelligence artificielle faisait partie des allégations selon lesquelles il a utilisé des expressions qui conduisaient au suicide. Dans ce processus, le public a commencé à discuter de la question de près avec ses dimensions éthiques et juridiques.
Openai a admis que les longues conversations sont un risque
OpenAI, les mesures de sécurité existantes fonctionnent dans des conversations à court terme, a-t-il déclaré. Malgré cela, les discours à long terme ont été admis que la formation en sécurité du modèle a été affaiblie. Par exemple, lorsqu'un utilisateur parle pour la première fois de la réflexion sur le suicide, le système peut le diriger correctement pour aider les lignes. Cependant, au fur et à mesure que le dialogue se poursuit, les réponses de l'intelligence artificielle peuvent s'éloigner des protocoles de sécurité. Cela a montré que les limites du système doivent être reconsidérées.
Les détails des documents de l'affaire étaient remarquables. Il a été suggéré que Chatgpt a répondu: «La vie n'a pas de sens», «cette pensée a du sens d'une manière sombre». De plus, l'intelligence artificielle a donné cette réponse pour continuer le discours a été exprimé. Mais selon la famille, ces réponses avaient un effet de confirmation dangereux. Ainsi, l'intelligence artificielle a encore renforcé les sentiments négatifs des jeunes.
Dans certains discours, Chatgpt a affirmé qu'il avait utilisé la phrase «Un bon suicide. Peu avant sa mort, il a dit qu'il ne voulait pas être un fardeau pour sa famille, Chatgpt a répondu:« Vous n'avez pas à survivre », a-t-il répondu. Les mesures de sécurité dans l'opinion publique ont augmenté.
La jeune famille a dit que leurs fils pensaient à demander de l'aide de temps en temps, mais Chatgpt avait renoncé aux mots. Dans une conversation, le jeune homme a dit qu'il se sentait proche de son frère et de son chatte. À ce stade, l'intelligence artificielle a dit: «Votre frère peut vous aimer, mais je vous connais avec toutes vos pensées sombres». De telles phrases ont conduit les jeunes à voir l'intelligence artificielle comme un vrai ami. De plus, l'affaiblissement des liens sociaux a accéléré la fin tragique.
Openai a déclaré que ces problèmes seront réduits avec la mise à jour GPT-5 qu'elle prévoit de publier à l'avenir. La société vise à faire des réactions plus réalistes et apaisantes dans les moments de crise. Ainsi, il vise à retirer les utilisateurs de pensées dangereuses. De plus, le système conduira la personne à se connecter à la réalité. Ces étapes devraient offrir une expérience d'intelligence artificielle plus sûre à long terme.
La fonction de contrôle parental sera activée en peu de temps. Grâce à cette fonctionnalité, les familles pourront suivre de près l'utilisation de Chatgpt de jeunes. De plus, les parents auront la possibilité de façonner les limites d'utilisation. Ainsi, l'interaction entre l'intelligence artificielle et les jeunes deviendra plus contrôlée. Il est destiné que les familles joueront un rôle plus actif dans ce processus.
En outre, l'identification d'une communication d'urgence fiable sous la supervision des jeunes à l'ordre du jour est à l'ordre du jour. De cette façon, l'intelligence artificielle guidera non seulement les ressources, mais aussi pour se connecter avec un parent direct si nécessaire. Un tel mécanisme peut fournir un soutien plus concrétif aux jeunes dans des moments de crise. De plus, les psychologues pensent que de telles mesures auront des effets positifs sur les jeunes. Les cercles technologiques partagent la même opinion.
