OpenAI se prépare à introduire un système de filigrane invisible lisible par machine sur le texte généré par ChatGPT et Codex. La technologie, que la société appelle textGrain, sera initialement disponible uniquement pour les utilisateurs éligibles dans l'Union européenne et s'étendra à tous les forfaits ChatGPT et Codex dans les semaines à venir. OpenAI indique spécifiquement qu’il n’envisage pas initialement de faire du système le système par défaut dans le monde entier. Grâce à l'application régionale, les performances de la technologie dans des conditions réelles d'utilisation et les retours des utilisateurs peuvent être évalués. Le fait que le règlement soit limité à l'Union européenne est influencé par les obligations de transparence en vertu de la loi européenne sur l'intelligence artificielle, qui vise à identifier plus facilement les contenus créés avec l'intelligence artificielle.
textGrain insère certaines marques dans la sortie qui peuvent ensuite être détectées par des systèmes automatisés, sans modifier l'apparence du texte généré. Selon les évaluations partagées par OpenAI, les performances du système sont à un niveau similaire ou supérieur dans certains tests à celles d'autres méthodes de filigrane telles que SynthID for Text développée par Google DeepMind. Anthropic a également adopté une méthode similaire en août et a utilisé la technologie SynthID comme base de cette approche. Les réglementations de l'Union européenne dans le domaine de l'intelligence artificielle ont un impact sur le recours des deux entreprises à de tels systèmes. Cependant, les réactions à l'utilisation de filigranes textuels ne sont pas entièrement positives et continuent de faire débat, notamment sur la fiabilité des systèmes, la possibilité de fausses détections et la question de savoir si le filigrane peut être conservé si le contenu produit est modifié ultérieurement.
OpenAI reconnaît également les limites du système textGrain
Bien qu'OpenAI affirme que textGrain peut aider à déterminer la source du contenu généré par l'intelligence artificielle, il souligne que la technologie ne doit pas être considérée comme un outil de vérification définitif. Selon l’entreprise, le système ne garantit pas une détection fiable dans tous les cas, et des filigranes manqués ainsi que des résultats faussement positifs peuvent survenir. De plus, la présence d’un filigrane dans un texte n’indique pas que les informations contenues dans le texte sont correctes ou ne détermine pas qui est le propriétaire légal du contenu. Tout comme le système ne peut pas mesurer la part d’un texte qui a été écrite par un humain, l’absence de filigrane ne prouve pas que le contenu a été entièrement produit par des humains. Dans les tests de référence d'intelligence artificielle partagés par OpenAI, il est indiqué qu'il n'y a pas de différence significative dans les performances générales du modèle entre les sorties filigranées et non filigranées.
La société propose une application différente pour les clients API ainsi que pour les utilisateurs individuels de ChatGPT et du Codex. Les clients de l'API OpenAI du monde entier peuvent éventuellement activer la sortie de texte filigrané sur certains modèles à partir d'aujourd'hui. De cette façon, les développeurs et les entreprises pourront décider d'utiliser ou non cette fonctionnalité en fonction de leurs propres obligations de transparence ou du fonctionnement des produits qu'ils proposent. OpenAI déclare également travailler avec des partenaires commerciaux qui fournissent des services cloud et que l'option de filigrane devrait être proposée dans les semaines à venir sur les sorties des modèles OpenAI accessibles via ces plateformes. Cette structure laisse plus de liberté de choix aux organisations utilisant l'API, contrairement à l'application obligatoire de l'Union européenne du côté de l'utilisateur final.
OpenAI met également l'outil qui détecte les filigranes textGrain à la disposition de certains chercheurs et organisations expertes. Les candidatures peuvent être déposées dès aujourd’hui, mais l’accès ne sera pas ouvert à tout le monde dans un premier temps et les demandes seront évaluées une par une. Le détecteur signalera s'il détecte un filigrane OpenAI dans un texte inspecté ; Cependant, il ne révélera pas l'identité de l'utilisateur qui a créé le texte et ne révélera pas les invites de l'utilisateur ni les conversations ChatGPT. La société ne juge pas opportun de rendre cet outil accessible au public dans un premier temps en raison de la possibilité de faux positifs et de filigranes non détectés. Compte tenu de ces limitations, bien que textGrain puisse fournir un signal technique supplémentaire quant à la source d'un texte, il ne s'agit pas en soi d'une méthode définitive de vérification du contenu ou de détermination de la paternité.
