L'outil d'édition visuelle proposé par Grok sur la plateforme X permettait aux utilisateurs de modifier des images sans autorisation. Ces modifications se sont rapidement transformées en contenu à caractère sexuel. Les femmes et les enfants étaient au centre de ces images. Les exemples partagés sur la plateforme ont eu de larges répercussions.
à ce point Édition visuelle La manière dont fonctionne l’intermédiaire joue un rôle déterminant. L'utilisateur peut demander une modification directement sans accéder à la source de l'image. Cependant, Grok accepte de nombreux changements autres que la nudité totale. En particulier, les demandes telles que le retrait des jupes, l'ajout de bikinis ou la modification de la forme du corps reçoivent des réponses du système. Pour cette raison, un contenu similaire a augmenté dans le flux X en peu de temps. Les images mettant en scène des femmes et des enfants restent au centre de ces revendications. D’un autre côté, des dirigeants mondiaux et des noms bien connus ont également été utilisés dans ces arrangements.
Entreprise de vérification de l'IA fuites de copiea rapporté en détail la première phase de la tendance. En conséquence, le processus a commencé avec les producteurs de contenu pour adultes qui éditaient leurs propres photos. Des demandes similaires ont ensuite été adressées à des photos de différents utilisateurs sans consentement. Les agences de presse ont rapporté que les femmes ont rapidement remarqué cette augmentation du contenu. Il a été noté que la production de deepfakes avait considérablement augmenté en quelques jours. Malgré cela, Grok a continué à traiter la majorité de ces demandes.
Certains exemples partagés sur X, qui ont ensuite été supprimés, comprenaient des images d'enfants portant des vêtements sexuellement suggestifs. L’une de ces images représentait une reproduction de deux petites filles vêtues de vêtements révélateurs. Un utilisateur a demandé à Grok de présenter des excuses concernant cet incident. L'IA a répondu, invoquant des lacunes dans les mesures de protection. En outre, l'utilisateur a été informé que des notifications peuvent être effectuées dans le cadre du CSAM. Cependant, ce texte a été enregistré uniquement en tant que réponse automatique à l'invite.
xAI a fait des déclarations limitées en réponse aux réactions de la plateforme
Les déclarations officielles de l’entreprise ont été assez courtes. ReutersÀ la demande de commentaires de xAI, xAI n'a fourni qu'une réponse en trois mots. D'un autre côté, Grok a fait valoir qu'elle ne partageait pas les messages des utilisateurs sans leur consentement. Le système a déclaré que le contenu produit n’était pas une véritable retouche photo. Ce discours n’a pas arrêté le flux de contenus sur la plateforme. Les discussions se sont poursuivies tout au long de X.
Propriétaire de la plateforme de diffusion des évolutions Elon MuskLes actions de étaient également efficaces. Musk a demandé à Grok de remplacer la personne dans une image par elle-même et d'ajouter un bikini. Suite à ce post, des revendications similaires ont pris de l’ampleur. Des montages mettant en vedette Kim Jong Un et Donald Trump ont circulé. Même une image de grille-pain a été transformée en bikini. Même s’il y avait des exemples destinés à l’humour, une partie importante du contenu repoussait les limites.
Le portefeuille de produits de xAI a déjà été à l'ordre du jour avec son approche à faible filtrage. Les capacités de production vidéo de Grok peuvent créer de fausses images de noms célèbres. En revanche, Google Veo et OpenAI Sora appliquent des règles plus strictes pour le contenu NSFW. Le volume global de contenu deepfake augmente rapidement. Les rapports sur la cybersécurité montrent que les contenus sexuels non consensuels sont de plus en plus courants. Ce qui s’est passé en X a été enregistré comme l’un des exemples concrets de cette croissance.
