ChatGPT avertira votre proche avec une personne de confiance

OpenAI, Personne de confiance ChatGPT a rendu la fonctionnalité disponible pour les utilisateurs adultes. Grâce à cette fonctionnalité, le titulaire du compte peut choisir un ami, un membre de sa famille ou un soignant à contacter dans les moments difficiles. Système dans les chats ne te fais pas de mal ou lorsqu'il détecte un risque de suicide, il invite l'utilisateur à contacter cette personne.

Cependant, OpenAI ne se contente pas de fournir des conseils. Lorsque le système détecte un problème de sécurité grave, il envoie automatiquement une notification à la personne de confiance ajoutée au compte. La notification vise à ce que la personne vérifie l'utilisateur et établisse une assistance dans le monde réel. OpenAI déclare spécifiquement qu'il ne partage pas le contenu du chat avec des parties de confiance.

En revanche, l'utilisateur ajoute cette personne directement depuis son propre compte. La fonctionnalité ne commence à fonctionner que lorsque l'autre partie accepte l'invitation. Ainsi, l’entreprise utilise un processus d’approbation bidirectionnel pour une étape de sécurité sensible. L'utilisateur ou la personne de confiance peut alors supprimer ce lien du compte.

De plus, OpenAI ne se contente pas de surveiller les conversations à risque avec des systèmes automatisés. L'entreprise fait intervenir ses équipes formées lorsqu'elle détecte un danger grave. Il contacte également les forces de l’ordre dans les cas qu’il juge opportuns. Cette approche est devenue plus visible après les cas « d’attaque » et de « suicide » centrés sur ChatGPT.

OpenAI étend la chaîne de support à de vraies personnes

Trusted Contact va au-delà de la simple recommandation textuelle de ChatGPT en temps de crise. OpenAI ouvre un canal de contact plus précoce entre l'utilisateur et son proche. En février, la société a également indiqué que certains cas ChatGPT liés à la santé mentale étaient coordonnés via un processus unique en Californie.

Cette fonctionnalité Fonctionnalités de sécurité ChatGPT C’est l’une des étapes les plus concrètes directement liées à l’accompagnement humain. La personne de confiance ajoutée aux paramètres du compte côté utilisateur ne reçoit des avertissements qu'en cas de signaux de risque sérieux. OpenAI explique sur sa page d'aide que cette personne peut être un soignant, un membre de la famille ou un ami proche.