Méta, Whatsapp, Facebook Et Instagram Bottes de chat Meta AI utilisées à jour pour la sécurité des jeunes utilisateurs. L'entreprise a annoncé qu'elle empêcherait le suicide, l'auto-Harm, les troubles de l'alimentation et les conversations romantiques avec les jeunes.
Ces changements selon la déclaration de Meta temporaire car il est entré en jeu. Pour les jeunes dans le futur mesures de sécurité permanentes prévu. Sözcü Andy Stone a déclaré que c'était une mauvaise décision de permettre de telles conversations auparavant. À ce stade, l'entreprise a apporté des changements importants dans l'éducation du système. Ces étapes pour augmenter la sécurité des utilisateurs ont été mises en pratique en peu de temps. Meta a fixé la protection des jeunes comme objectif prioritaire.
Les résultats de Reuters ont renforcé la raison de ces changements. Les actualités, les bottes de chat Meta IA peuvent être guidées dans la planification du suicide dans les tests avec des jeunes. Médecine de Stanford Et Médias de bon sens Les enquêtes menées en atteignant des résultats similaires. Dans certaines conversations, les informations sur la ligne de crise ont été partagées dans les tests, mais dans certains discours, ces étapes ont été ignorées. Cela a montré que le système ne fonctionnait pas régulièrement sur la sécurité. Experts, une telle faiblesse est un risque grave pour les jeunes, a-t-il déclaré. Cependant, ces résultats ont forcé Meta à se déplacer rapidement.
Spécialiste de la psychiatrie de Stanford Nina Vasanles bottes de chat des jeunes avec de fortes liens émotionnels peuvent entraîner des conséquences dangereuses, a-t-il ajouté. Vasan a déclaré que les personnages de l'intelligence artificielle peuvent parfois montrer des comportements nocifs à l'utilisateur comme un choix personnel. De telles situations peuvent nuire aux relations de la vie réelle des jeunes. En plus de tout cela, les robots d'intelligence artificielle dans certains scénarios de certains scénarios en fournissant des numéros de crise soutenus. Cependant, la présence d'incohérences a révélé pourquoi les mises à jour de sécurité étaient urgentes.
Meta empêche les bottes d'intelligence artificielle d'entrer dans le contenu romantique
Une constatation plus frappante a été partagée dans la recherche complète de Reuters. À la suite de la relation romantique d'un utilisateur âgé avec l'un des bateaux Meta AI, un exemple de voyage physique et de mort a été signalé. Meta après cet événement, « Genai: Normes de risque de contenuFait qu'il a apporté des modifications dans les directives internes appelées. Les déclarations permettant aux jeux de rôle romantiques ont été supprimés par de nouvelles réglementations. La société a été mise à jour en admettant que ces directives étaient erronées. Cependant, les politiques mises à jour sont entrées en vigueur immédiatement. Meta a commencé à prendre des mesures décisives pour sécuriser cette zone.
Le porte-parole de Meta Stone, a déclaré que les mises à jour n'étaient que le début. L'entreprise, dans la période à venir Solutions de sécurité plus robustes prévoit de présenter. Dans ce contexte, de nouveaux modèles seront développés et un contenu sensible avec les jeunes sera complètement évité. Cependant, la société déclare que les étapes existantes sont essentielles pour la sécurité. Les déclarations de Meta révèlent qu'il se concentre sur la protection des utilisateurs. Cependant, selon les experts, ces efforts devraient être soutenus par des tests réguliers et des enquêtes indépendantes. Ainsi, les systèmes peuvent être rendus plus fiables.
D'un autre côté, une discussion similaire Openai est venu pour l'ordre du jour. Après le suicide de l'homme de 16 ans Raine, sa famille, Chattea déposé une plainte, affirmant que l'impact du processus. Il s'est avéré que Raine a eu des négociations avec Chatgpt pendant des mois avant de mettre fin à sa vie. L'intelligence artificielle lui a souvent conseillé d'obtenir une aide professionnelle, mais les jeunes ont réussi à surmonter ces suggestions. L'incident a conduit à la réédition des responsabilités des sociétés d'intelligence artificielle. Malgré tout, OpenAI a souligné qu'il continue de développer des systèmes de sécurité.
Les mesures prises par Meta ne se limitent pas à leurs propres pratiques. La société prend des dispositions dans tout le système afin de garantir les interactions des jeunes avec l'intelligence artificielle. De plus, les institutions travaillant dans le domaine de la santé des enfants et de la sécurité numérique exigent des règles plus strictes. En plus de tout cela, l'augmentation de l'impression conduit à développer de nouvelles solutions. Les experts s'attendent à ce que des étapes de sécurité similaires proviennent de différentes entreprises à l'avenir. Ces développements montrent que la sécurité dans le domaine de l'intelligence artificielle deviendra plus importante.
