OpenAI, la empresa detrás de ChatGPT, dice que ha creado un detector de contenidos de IA

La empresa detrás de ChatGPT, el popular IA generativa plataforma, supuestamente ha creado una herramienta que puede detectar contenido generado por IA. Así lo afirman informes de El Wall Street Journal y verificado por TechCrunch. Sin embargo, aún no lo han publicado y están contemplando si debería publicarse.

El lanzamiento de ChatGPT el 30 de noviembre de 2022 dio lugar al contenido generado por IA. Estudiantes, especialistas en marketing, Bloggerss, y muchos otros comenzaron a confiar en algunas indicaciones para generar contenido sustancial con una participación mínima. Poco después, Google lanzó Bard, ahora llamado Gemini. Luego surgieron otras plataformas de IA generativa, creando un revuelo masivo sobre la IA generativa.

Ahora sorprende que OpenAI, que cobra a los usuarios 20 dólares al mes por acceder a su modelo más avanzado, esté planeando vigilar el proceso que creó.

A partir de la información disponible, la empresa planea poner marcas de agua en los textos que genera para que puedan detectarse fácilmente. Al igual que las imágenes y los videos tienen marcas de agua, planean poner marcas de agua en el texto generado por su chatbot.

En una entrada del blog, la compañía había dicho que el método de marca de agua de texto es "altamente preciso e incluso eficaz contra la manipulación localizada, como la paráfrasis". Sin embargo, expresaron su preocupación de que “el método de marca de agua de texto tenga el potencial de impactar desproporcionadamente a algunos grupos. Por ejemplo, podría estigmatizar el uso de la IA como una herramienta de escritura útil para hablantes no nativos de inglés”.

Queda por ver cómo se desarrollará esto y cuál será la recepción del público.