OpenAI, la société derrière ChatGPT, affirme avoir construit un détecteur de contenu IA

L'entreprise à l'origine de ChatGPT, la célèbre plateforme d'IA générative, aurait développé un outil capable de détecter le contenu généré par l'IA. C'est ce qu'affirment les rapports de Le Wall Street Journal et vérifié par TechCrunch. Cependant, ils ne l’ont pas encore publié et envisagent de le publier.

Le lancement de ChatGPT le 30 novembre 2022 a donné naissance au contenu généré par l'IA. Étudiants, spécialistes du marketing, blogueurs et bien d'autres ont commencé à s'appuyer sur quelques invites pour générer du contenu substantiel avec un minimum d'interventions. Peu après, Google a lancé Bard, aujourd'hui appelé Gemini. D'autres plateformes d'IA générative ont ensuite émergé, créant un engouement massif pour ce domaine.

Il est désormais surprenant qu'OpenAI, qui facture aux utilisateurs 20 dollars par mois pour accéder à son modèle le plus avancé, envisage de contrôler le processus qu'il a créé.

À partir des informations disponibles, l'entreprise prévoit de filigraner les textes qu'elle génère afin qu'ils puissent être détectés facilement. Tout comme les images et les vidéos sont filigranées, ils prévoient de filigraner le texte généré par leur chatbot.

Dans une précédente blog récents, la société avait déclaré que la méthode de tatouage de texte était « très précise et même efficace contre les falsifications localisées, telles que la paraphrase ». Cependant, ils ont exprimé leurs inquiétudes quant au fait que « la méthode de filigrane de texte pourrait potentiellement avoir un impact disproportionné sur certains groupes. Par exemple, cela pourrait stigmatiser l’utilisation de l’IA comme outil d’écriture utile pour les anglophones non natifs.

Reste à savoir comment cela se déroulera et quel sera l’accueil du public.