OpenAI, la empresa detrás de ChatGPT, dice que ha creado un detector de contenidos de IA

Según informes de The Wall Street Journal, y confirmados por TechCrunch , la empresa detrás de ChatGPT, ha desarrollado una herramienta capaz de detectar contenido generado por IA. Sin embargo, aún no la han lanzado y están evaluando si deberían hacerlo.

El lanzamiento de ChatGPT el 30 de noviembre de 2022 impulsó el desarrollo de contenido generado por IA. Estudiantes, profesionales del marketing, blogueros y muchos otros comenzaron a usar unas pocas indicaciones para generar contenido sustancial con una mínima intervención. Poco después, Google lanzó Bard, ahora llamado Gemini. Posteriormente, surgieron otras plataformas de IA generativa, lo que generó un gran revuelo en torno a la IA generativa.

Ahora sorprende que OpenAI, que cobra a los usuarios 20 dólares al mes por acceder a su modelo más avanzado, esté planeando vigilar el proceso que creó.

A partir de la información disponible, la empresa planea poner marcas de agua en los textos que genera para que puedan detectarse fácilmente. Al igual que las imágenes y los videos tienen marcas de agua, planean poner marcas de agua en el texto generado por su chatbot.

En una entrada anterior de su blog , la empresa afirmó que el método de marca de agua de texto es «muy preciso e incluso eficaz contra manipulaciones localizadas, como la paráfrasis». Sin embargo, expresaron su preocupación de que este método pudiera afectar de forma desproporcionada a ciertos grupos. Por ejemplo, podría estigmatizar el uso de la IA como herramienta útil de escritura para hablantes no nativos de inglés.

Queda por ver cómo se desarrollará esto y cuál será la recepción del público.