La méta-modération passe à l'IA : prise en charge linguistique à 98 %

Méta, modération du contenu change radicalement son approche. Peu à peu, la majorité des modérateurs humains Systèmes d'IA s'apprête à le remplacer par . L'entreprise affirme qu'avec cette transition, elle pourra intervenir plus rapidement et détecter avec plus de précision les violations les plus graves. Ce changement aura un impact que les utilisateurs ressentiront directement, notamment dans les processus d'objection de compte et de suppression de contenu.

Meta déclare que les premiers résultats des grands outils de modération basés sur des modèles de langage qu'il teste depuis longtemps sont positifs. Ces systèmes vont au-delà des infrastructures existantes et couvrent un éventail de langues beaucoup plus large. Les outils de modération actuels prennent en charge environ 80 langues. Cependant, les nouveaux modèles d’IA peuvent comprendre les langages utilisés par 98 % des internautes.

L’entreprise souligne que les modérateurs humains ne seront pas complètement désactivés. Équipes d'experts ; Il poursuivra sa mission de formation des systèmes d’IA, d’évaluation des performances et de prise des décisions les plus critiques. La surveillance humaine se poursuivra dans des domaines tels que les objections à la fermeture de comptes et les cas sensibles transmis aux forces de l'ordre.

À court terme, un changement concret s’amorce du côté des utilisateurs. Meta est une plateforme qui fonctionne au sein de Facebook et Instagram. Assistant de support IA a commencé à présenter. Par conséquent, ce système peut effectuer des opérations telles que la création d'une réclamation relative au contenu, la gestion des objections de compte, la réinitialisation de votre mot de passe et la modification des paramètres de compte directement en votre nom. La société propose initialement cette assistance sur une base limitée aux États-Unis et au Canada pour les utilisateurs qui ont perdu l'accès à leur compte.

Meta AI étend son système de modération à l'échelle mondiale

Meta remodèlera les descriptions de poste de milliers de modérateurs sous contrat au cours de ce processus de transformation. Toutefois, il ne partage pas l’ampleur de la diminution de l’effectif total. La société affirme que les systèmes basés sur l’IA effectuent moins d’interventions erronées et capturent les violations les plus graves avec une plus grande précision. En revanche, des inquiétudes subsistent parmi les utilisateurs concernant le taux d'erreur des systèmes automatisés et la difficulté des processus d'objection.

Meta note que les règles elles-mêmes ne changent pas, elles transforment seulement la manière dont ces règles sont appliquées. Cette approche peut avoir un impact direct sur la manière dont la modération du contenu sur la plateforme est perçue.