OpenAI, la société derrière ChatGPT, affirme avoir construit un détecteur de contenu IA
La société derrière ChatGPT, le populaire IA générative plateforme, aurait construit un outil capable de détecter le contenu généré par l’IA. C'est ce que révèlent les rapports de Le Wall Street Journal et vérifié par TechCrunch. Cependant, ils ne l’ont pas encore publié et envisagent de le publier.
Le lancement de ChatGPT le 30 novembre 2022 a donné naissance à du contenu généré par l'IA. Étudiants, spécialistes du marketing, blogueurs, et bien d’autres ont commencé à s’appuyer sur quelques invites pour générer un contenu substantiel avec un minimum de contribution. Peu de temps après, Google a lancé Bard, désormais appelé Gemini. Ensuite, d’autres plateformes d’IA générative ont émergé, créant un énorme buzz autour de l’IA générative.
Il est désormais surprenant qu'OpenAI, qui facture aux utilisateurs 20 dollars par mois pour accéder à son modèle le plus avancé, envisage de contrôler le processus qu'il a créé.
À partir des informations disponibles, l'entreprise prévoit de filigraner les textes qu'elle génère afin qu'ils puissent être détectés facilement. Tout comme les images et les vidéos sont filigranées, ils prévoient de filigraner le texte généré par leur chatbot.
Dans une précédente blog récents, la société avait déclaré que la méthode de tatouage de texte était « très précise et même efficace contre les falsifications localisées, telles que la paraphrase ». Cependant, ils ont exprimé leurs inquiétudes quant au fait que « la méthode de filigrane de texte pourrait potentiellement avoir un impact disproportionné sur certains groupes. Par exemple, cela pourrait stigmatiser l’utilisation de l’IA comme outil d’écriture utile pour les anglophones non natifs.
Reste à savoir comment cela se déroulera et quel sera l’accueil du public.