OpenAI, a empresa por trás do ChatGPT, afirma que construiu um detector de conteúdo de IA

A empresa por trás do ChatGPT, o popular IA generativa plataforma, supostamente construiu uma ferramenta que pode detectar conteúdo gerado por IA. Isto está de acordo com relatórios de O Wall Street Journal e verificado por TechCrunch. No entanto, eles ainda não o lançaram e estão pensando se deveria lançá-lo.

O lançamento do ChatGPT em 30 de novembro de 2022 deu origem a conteúdos gerados por IA. Estudantes, profissionais de marketing, bloggers, e muitos outros começaram a confiar em alguns prompts para gerar conteúdo substancial com o mínimo de entrada. Logo depois, o Google lançou o Bard, agora chamado Gemini. Depois surgiram outras plataformas de IA generativa, criando um enorme burburinho de IA generativa.

Agora é surpreendente que a OpenAI, que cobra dos usuários US$ 20 por mês para acessar seu modelo mais avançado, esteja planejando policiar o processo que criou.

A partir das informações disponíveis, a empresa planeja colocar marcas d’água nos textos que gera para que possam ser facilmente detectados. Assim como as imagens e os vídeos têm marca d'água, eles planejam colocar uma marca d'água no texto gerado por seu chatbot.

Num anterior no blog, a empresa disse que o método de marca d’água de texto é “altamente preciso e até eficaz contra adulterações localizadas, como paráfrases”. No entanto, expressaram preocupação de que o “método de marca d'água de texto tenha o potencial de impactar desproporcionalmente alguns grupos. Por exemplo, poderia estigmatizar o uso da IA ​​como uma ferramenta útil de escrita para falantes não nativos de inglês.”

Resta saber como isso se desenrolará e qual será a recepção do público.