ChatGPT intègre un filigrane invisible pour repérer ses textes en Europe

Fondée en décembre 2015 à San Francisco, l'entreprise américaine OpenAI s'est imposée comme un acteur incontournable de l'intelligence artificielle générative grâce à sa série de modèles GPT. Depuis le lancement mondial de son célèbre agent conversationnel ChatGPT en novembre 2022, la question de l'identification des contenus générés par machine est devenue centrale pour les utilisateurs comme pour les régulateurs.

Pour répondre à ces enjeux et se conformer directement à la législation européenne, OpenAI déploie un système de marquage numérique inédit. Connu sous le nom de textGrain, ce mécanisme introduit un tatouage invisible directement dans la structure des textes produits par ChatGPT et Codex. Le principe repose sur une modification subtile dans le choix des mots par les modèles, laissant une empreinte numérique imperceptible à l'œil nu.

Ce filigrane discret a pour objectif principal de faciliter l'identification automatique des contenus rédigés par l'intelligence artificielle, sans pour autant altérer les performances globales des outils. Les utilisateurs de l'API d'OpenAI à travers le monde pourront également bénéficier de cette option pour certains de leurs modèles dans les prochaines semaines.

Si cette technologie offre une solution pratique pour repérer l'intervention de la machine grâce à des détecteurs dédiés, la méthode comporte toutefois certaines limites et failles identifiées. Le déploiement s'effectue progressivement, marquant une nouvelle étape dans la transparence des usages de l'intelligence artificielle en Europe.