À partir de la semaine prochaine, Meta se prépare à passer à un système de marquage moins visible pour les images éditées avec des outils d'intelligence artificielle (IA) sur Facebook. Ce changement suscite certaines inquiétudes dans la lutte contre la désinformation, notamment avec l’utilisation croissante de la technologie de l’IA dans la production de fausses images et de faux contenus. Les images modifiées par l'IA comporteront toujours une note d'avertissement, mais les utilisateurs devront accéder à ces informations en cliquant d'abord sur le menu à trois points dans le coin supérieur droit de la publication, puis en faisant défiler vers le bas pour atteindre l'option « Informations sur l'IA ». Cela peut rendre difficile la distinction entre la réalité, notamment dans le contenu numérique.
Dans le nouveau système de marquage de Meta, les images créées avec des outils d'intelligence artificielle seront à nouveau clairement marquées avec la balise « AI Information ». Toutefois, cette balise ne sera immédiatement perceptible que si le contenu est créé par l’intelligence artificielle. Pour les images retouchées et modifiées avec l’intelligence artificielle, cette transparence devient désormais plus confidentielle. Les personnes préoccupées par la manipulation des contenus affirment que cela pourrait faciliter la diffusion de fausses informations, notamment en période électorale. Il faudra plus de temps et d’attention pour découvrir si les moindres détails des images ont été modifiés par l’intelligence artificielle.
Changements et préoccupations dans le système de marquage sur Facebook
Ces derniers mois, Meta a commencé à mettre en œuvre un système de balisage plus large pour le contenu créé et édité avec des technologies d'intelligence artificielle. Ce système comprenait non seulement des images mais aussi des vidéos et du son. Cependant, l'entreprise a été critiquée en juillet pour une erreur d'étiquetage. Lorsque de nombreux photographes ont affirmé que Meta balisait de manière incorrecte même le contenu non généré par l'IA, la société a remplacé « AI-Generated » par « AI Information ». Il a été déclaré qu'avec ce changement, Meta serait plus méticuleux dans le processus d'étiquetage et que des erreurs inutiles seraient évitées. Cependant, avec la nouvelle mise à jour, le contenu édité par l'IA est marqué de manière plus confidentielle, ce qui remet en question cette minutie.
Meta affirme avoir développé son processus de marquage en collaboration avec d'autres entreprises technologiques du secteur et que ces changements visent à mieux refléter la portée de l'utilisation de l'IA dans le contenu. Bien que l'entreprise affirme que ces nouvelles applications sont conçues pour améliorer l'expérience utilisateur, il est vrai que la propagation de fausses nouvelles et d'images manipulées pourrait s'accélérer dans ce processus. Ce type de contenu, qui touche un large public notamment sur les réseaux sociaux, nécessite plus d’attention lors des périodes sensibles comme les périodes électorales et les campagnes politiques.
Maintenir la transparence est d’une grande importance pour éviter que les images éditées avec l’intelligence artificielle ne soient utilisées pour diffuser de fausses informations. Cependant, cette décision de Meta rend au contraire plus difficile la compréhension si le contenu est réel ou manipulé par l’intelligence artificielle. Ce changement peut contribuer à masquer les manipulations du contenu visuel, augmentant ainsi le risque que les utilisateurs des réseaux sociaux soient exposés à des contenus trompeurs. Compte tenu de la rapidité avec laquelle la désinformation se propage, particulièrement courante en période électorale, il est probable que les utilisateurs auront davantage besoin d’outils de vérification visuelle.
