Instagram modifie ses règles sur la façon dont les comptes mettant en vedette des personnes créées avec l'intelligence artificielle seront affichés sur la plateforme. Bien que la société change le nom du label existant « Créateur d’IA » en « Profil généré par l’IA » pour plus de clarté, elle souhaitera que ces comptes indiquent clairement que l’intelligence artificielle est utilisée. Les comptes qui semblent appartenir à une personne réelle mais qui utilisent dans leur profil un personnage généré entièrement ou en grande partie par l'intelligence artificielle seront couverts par le nouveau label. L'accès des producteurs de contenu qui ne font pas les divulgations nécessaires sur Instagram peut être limité. D’un autre côté, les comptes qui utilisent le tag conformément aux règles ne seront pas confrontés à des pénalités d’accès simplement parce qu’ils se concentrent sur une personne créée avec l’intelligence artificielle.
Le nouveau règlement ne couvrira pas toutes les utilisations de l’intelligence artificielle sur Instagram. Les utilisateurs qui modifient leurs photos avec des outils d'intelligence artificielle, améliorent le partage de textes, préparent des graphiques ou effectuent des modifications créatives similaires n'auront pas besoin d'ajouter cette balise à leur profil. La distinction qu'Instagram fait ici se concentre ici sur l'identité de la personne que le profil représente plutôt que sur les outils de production auxiliaires. En d’autres termes, il vise à informer clairement les utilisateurs si la personne vue dans le compte a été créée par intelligence artificielle ou a été créée en grande partie avec l’aide de l’intelligence artificielle. Ainsi, utiliser l’intelligence artificielle pour éditer une photo et la présenter comme l’identité sur les réseaux sociaux d’une personne qui n’existe pas réellement ne sera pas évalué dans la même catégorie.
Instagram veut des informations plus claires sur les profils d'intelligence artificielle
Instagram déclare que l'une des raisons du changement était les commentaires des utilisateurs. Selon la plateforme, les utilisateurs sont dérangés après avoir rencontré un profil qu'ils pensent appartenir à une personne réelle, pour ensuite apprendre que la personne qui s'y trouve est entièrement créée par l'intelligence artificielle. Pour cette raison, l'entreprise souhaite qu'il soit compris dans un premier temps que le profil représente une personne créée avec l'intelligence artificielle. Le passage à l’expression « profil généré par l’IA » vise également à réduire l’incertitude que peut créer la définition actuelle de « créateur d’IA ». Car l’ancienne expression n’était peut-être pas assez claire quant à savoir si elle décrivait un véritable producteur de contenu utilisant des outils d’intelligence artificielle ou une personne virtuelle créée directement avec l’intelligence artificielle.
L’augmentation du nombre de comptes d’influenceurs créés avec l’intelligence artificielle au cours de la période d’introduction du règlement attire également l’attention. Ces comptes ne se limitent pas au contenu de divertissement ou de mode ; Elle peut également intervenir dans des domaines tels que la publicité, la promotion de produits et la communication directe avec les utilisateurs. Dans une étude précédente publiée par Wired, un réseau de comptes d'influenceurs masculins qui semblaient avoir été créés avec l'intelligence artificielle et faisant la promotion de l'application de rencontres Goose pour les utilisateurs gays sur Instagram, a été examiné. Bien qu'il ait été indiqué dans l'étude que plus de deux douzaines de comptes possédaient ces qualifications, il a été signalé que certains comptes envoyaient des messages directs à des utilisateurs potentiels et les encourageaient à s'inscrire à l'application. Cet exemple montre que les personnages d'intelligence artificielle peuvent être utilisés non seulement pour générer des publications, mais également pour interagir en tête-à-tête avec de vrais utilisateurs.
Le contenu sur la santé et le bien-être est l’un des aspects les plus sensibles du sujet. Dans une étude publiée par le New York Times en juillet, il était indiqué que des centaines de médecins, de guérisseurs et de personnalités du secteur de la santé avaient été créés grâce à l'intelligence artificielle sur les plateformes de médias sociaux. Certains de ces comptes auraient fait la promotion de compléments alimentaires ou auraient fait diverses allégations relatives à la santé auprès des utilisateurs. Donner l’impression qu’une personne qui n’existe pas réellement est un expert ou un professionnel de la santé peut présenter des risques différents de ceux d’un compte d’influenceur virtuel ordinaire. Le nouveau label d'Instagram n'est pas un mécanisme permettant de vérifier directement l'exactitude des allégations de santé, mais il peut aider l'utilisateur à comprendre plus facilement si la personne derrière le profil est réelle ou non.
La déclaration d'Instagram fait suite à une autre controverse à laquelle Meta avait déjà été confrontée concernant les outils d'intelligence artificielle. L'entreprise a été critiquée en raison d'une fonctionnalité d'intelligence artificielle qui permet aux utilisateurs de créer des images en tirant parti des similitudes des autres. Les utilisateurs se sont opposés à l'utilisation de leur contenu Instagram accessible au public à cette fin sans consentement explicite pour y participer. Meta a ensuite supprimé la fonctionnalité en question. Ce développement a montré que non seulement le contenu créé dans le cadre des fonctionnalités d'intelligence artificielle générative, mais aussi les images personnelles utilisées et la manière dont les utilisateurs sont informés de ce processus sont un sujet de discussion.
Au cours de la même période, Meta a également conclu un règlement de 18 milliards de dollars couvrant les réclamations des États américains concernant les effets de Facebook et d'Instagram sur les enfants et les adolescents. Dans le cadre de l'accord, la société introduira par défaut une limite d'utilisation quotidienne de deux heures sur Facebook et Instagram pour les jeunes utilisateurs. De plus, une restriction d'utilisation nocturne appelée « Mode Nuit », les notifications étant désactivées pendant les heures de classe et d'autres restrictions seront également appliquées. Bien que la nouvelle approche des profils d’intelligence artificielle aborde un problème différent de ces réglementations, elle révèle qu’Instagram se tourne vers la fourniture de davantage d’informations sur les comptes et les contenus rencontrés par les utilisateurs. L'impact pratique du nouveau système dépendra en grande partie de la précision avec laquelle les profils d'intelligence artificielle seront détectés et de la manière dont les restrictions d'accès seront appliquées aux comptes qui n'utilisent pas la balise.
