ChatGPT fait fureur, mais il n’est pas populaire auprès de tout le monde, en particulier de ceux qui doivent repérer quand il est utilisé.
Le chatbot automatisé alimenté par l’IA d’OpenAI, ChatGPT, a pris d’assaut Internet, mais non sans créer quelques problèmes en cours de route. Avec des écrivains, des codeurs, des spécialistes du marketing et apparemment tout le monde entre eux utilisant ChatGPT pour générer du contenu, les entreprises du monde entier observent un tsunami de contenu généré par l’IA.
Avec des problèmes de plagiat et de contenu volé tourbillonnant constamment autour de ChatGPT et de sa sortie, OpenAI a maintenant publié un nouveau GPT-Classifier, un outil conçu pour détecter et révéler si le texte que vous lisez était l’œuvre de ChatGPT ou l’un de ses autres GPT outils.
OpenAI lance GPT-Classifier pour aider à vérifier le texte écrit par l’IA
L’annonce d’OpenAI intervient alors que l’examen minutieux de l’écriture par l’IA et du texte généré par l’IA s’intensifie et que les entreprises intègrent la sortie ChatGPT.
Le nouveau GPT-Classifier tente de déterminer si un texte donné a été écrit par un humain ou le travail d’un générateur d’IA. Alors que ChatGPT et d’autres modèles GPT sont largement formés sur toutes sortes de saisies de texte, l’outil GPT-Classifier est « affiné sur un ensemble de données de paires de texte écrit par l’homme et de texte écrit par l’IA sur le même sujet ».
Ainsi, au lieu d’aspirer les informations et de recréer sa meilleure approximation, le classificateur GPT tente de comparer les similitudes entre le texte humain connu et le texte IA connu pour trouver des divergences qui révèlent l’auteur source.
La détection de GPT-Classifier est actuellement limitée
Alors que l’idée de repérer facilement le texte généré par l’IA sera de la musique aux oreilles des éditeurs et des éducateurs, OpenAI a averti que son « classificateur n’est pas entièrement fiable ».
Actuellement, GPT-Classifier « identifie correctement 26 % du texte écrit par l’IA » tout en étiquetant 9 % du texte humain comme écrit par l’IA. OpenAI note également que la précision de l’outil « s’améliore généralement à mesure que la longueur du texte saisi augmente ».
Un test rapide du classificateur GPT a repéré un exemple généré par l’homme et l’a marqué « très peu susceptible d’être généré par l’IA », et a également correctement indiqué qu’un extrait généré par ChatGPT sur les problèmes USB était « peut-être généré par l’IA ».
La demande de détection ChatGPT est élevée
Même avec les limites du GPT-Classifier, la demande d’une détection fiable de ChatGPT est susceptible de voir beaucoup se tourner vers cet outil. L’engagement d’OpenAI à créer et à publier un outil de détection GPT gratuit est important car, à mesure que de plus en plus d’étudiants, d’écrivains, de programmeurs et d’autres utilisent des outils de génération de texte IA, la compréhension et la détection de cette entrée deviendront vitales.
Pour l’instant, bien que GPT-Classifier soit opérationnel et disponible pour les tests, il est préférable de prendre son étiquetage avec une pincée de sel.
