En élargissant ses capacités en matière de détection de contenu basée sur l'intelligence artificielle, Google a annoncé que son application Gemini pouvait désormais analyser les vidéos. Pour savoir si une vidéo particulière a été produite à l'aide de Google AI, les utilisateurs peuvent directement demander à Gemini « Cette vidéo a-t-elle été produite avec Google AI ? peut poser des questions telles que : À cet égard, l'application examine le contenu vidéo en détail et propose une évaluation.
Lors de cette analyse, Gemini utilise un système de filigrane spécial développé par Google appelé SynthID. Ce filigrane, qui peut être inclus dans les composants visuels et audio, permet de déterminer si le contenu a été préparé avec les modèles d'intelligence artificielle générative de Google. Les Gémeaux ne se contentent pas de répondre par oui ou par non ; Il détaille également les périodes pendant lesquelles ce signe a été détecté dans la vidéo. Cette approche vise à fournir à l’utilisateur une évaluation transparente et vérifiable.
Les Gémeaux peuvent vérifier dans certaines limites.
La technologie SynthID, développée par Google, place sur le contenu un filigrane invisible à l'œil nu mais détectable par la machine. Puisqu’il est invisible, il n’entraîne aucune détérioration de la qualité visuelle ou audio de la vidéo. Cependant, on ne sait pas encore exactement quelle est la durabilité de ce filigrane, c'est-à-dire s'il peut être nettoyé avec d'autres logiciels. Il a été observé dans le passé que certains filigranes génératifs d'IA pouvaient être facilement supprimés, comme dans le cas de la plateforme Sora d'OpenAI.
Outre les filigranes SynthID, Google utilise également les métadonnées C2PA (Coalition for Content Provenance and Authenticity) dans certains de ses modèles. Cependant, il n’existe toujours pas de norme mondiale pour le marquage indiquant les sources de production de contenu sur les plateformes de médias sociaux. Cela facilite la propagation de fausses vidéos ou de contenus manipulés. Par conséquent, le système de vérification proposé par Gemini peut être limité à moins qu'une collaboration multiplateforme ne soit réalisée.
L'outil de vérification de Gemini peut fonctionner sur des vidéos d'une taille maximale de 100 Mo et ne dépassant pas 90 secondes. Ces limites visent à fournir une analyse rapide et efficace tout en maintenant les performances du système. La fonctionnalité est disponible dans tous les pays et langues où l'application Gemini est disponible. Les utilisateurs peuvent demander une analyse directement en téléchargeant des vidéos via l'application.
Cependant, il est également souligné que cette technologie ne fonctionne que sur les vidéos créées ou éditées avec Google AI. En d’autres termes, comme il n’y a pas de filigrane SynthID dans les vidéos créées avec les outils d’intelligence artificielle d’autres sociétés, Gemini ne peut pas détecter ces contenus. Cette restriction révèle la nécessité de collaborations sectorielles afin de surveiller plus largement les contenus d’IA.
