OpenAI, la société derrière ChatGPT, affirme avoir construit un détecteur de contenu IA

L'entreprise à l'origine de ChatGPT, la plateforme d'IA générative très populaire, aurait développé un outil capable de détecter les contenus générés par l'IA. C'est ce qu'affirment le Wall Street Journal , information confirmée par TechCrunch . Toutefois, cet outil n'est pas encore disponible et l'entreprise réfléchit à son lancement.

Le lancement de ChatGPT le 30 novembre 2022 a donné naissance au contenu généré par l'IA. Étudiants, spécialistes du marketing, blogueurs et bien d'autres ont commencé à s'appuyer sur quelques invites pour générer du contenu substantiel avec un minimum d'interventions. Peu après, Google a lancé Bard, aujourd'hui appelé Gemini. D'autres plateformes d'IA générative ont ensuite émergé, créant un engouement massif pour ce domaine.

Il est désormais surprenant qu'OpenAI, qui facture aux utilisateurs 20 dollars par mois pour accéder à son modèle le plus avancé, envisage de contrôler le processus qu'il a créé.

À partir des informations disponibles, l'entreprise prévoit de filigraner les textes qu'elle génère afin qu'ils puissent être détectés facilement. Tout comme les images et les vidéos sont filigranées, ils prévoient de filigraner le texte généré par leur chatbot.

Dans un précédent article de blog , l'entreprise avait déclaré que sa méthode de tatouage numérique était « très précise et même efficace contre les falsifications localisées, comme la paraphrase ». Cependant, elle s'inquiétait du fait que « cette méthode puisse impacter de manière disproportionnée certains groupes. Par exemple, elle pourrait stigmatiser l'utilisation de l'IA comme outil d'écriture utile pour les personnes dont l'anglais n'est pas la langue maternelle. »

Reste à savoir comment cela se déroulera et quel sera l’accueil du public.