Le filigrane invisible de l'IA de Google identifiera le texte et les vidéos générés

Parmi les nouveaux modèles et outils d’IA, Google a annoncé qu’il étendait sa technologie de filigrane et de détection de contenu à deux nouveaux environnements. Cette technologie permet de marquer les contenus texte et vidéo produits par l’intelligence artificielle. Demis Hassabis, PDG de DeepMind de Google, a présenté ces innovations lors de la conférence des développeurs Google I/O.

Sécurité du contenu innovante avec SynthID

Le système SynthID permet le filigrane du contenu généré par l'intelligence artificielle, ce qui devient particulièrement important en cas d'abus de l'intelligence artificielle. Cette technologie est utilisée pour lutter contre des situations telles que la tromperie politique, l’affirmation de choses que les gens n’ont pas dites et la production de contenus sexuels non consensuels. SynthID utilise une méthode de filigrane visuellement imperceptible qui permet à ces contenus d'être détectés par le système.

SynthID a été annoncé pour la première fois en août dernier et a été développé pour ajouter des filigranes aux images créées avec l'intelligence artificielle que les humains ne peuvent pas distinguer visuellement, mais peuvent être détectés par le système. Cette approche diffère des autres normes de protocole de filigrane telles que C2PA, qui ajoutent des métadonnées cryptographiques au contenu généré par l'IA. Google a également utilisé cette technologie pour ajouter des filigranes inaudibles à la musique générée par l'intelligence artificielle et réalisée à l'aide du modèle Lyria de DeepMind.

SynthID est l'une des nombreuses mesures de sécurité de l'IA développées pour lutter contre l'utilisation abusive de la technologie. Aux États-Unis, l'administration du président Biden souhaite que les agences fédérales élaborent des lignes directrices pour empêcher l'utilisation abusive de ces technologies. Cela permettra d’accroître la sécurité du contenu de l’IA, tant au niveau gouvernemental que dans le secteur privé.

Ce nouveau système de filigrane développé par Google peut être considéré comme une étape importante pour garantir la sécurité des contenus produits avec l’intelligence artificielle et prévenir leurs abus. SynthID joue un rôle essentiel dans l'augmentation de la sécurité du contenu dans le monde numérique et la création d'un environnement médiatique fiable. Nous pouvons décrire cette technologie comme une innovation qui permettra aux utilisateurs d'être plus conscients du contenu produit avec l'intelligence artificielle et de protéger la fiabilité des médias.