OpenAI, a empresa por trás do ChatGPT, afirma que construiu um detector de conteúdo de IA

A empresa por trás do ChatGPT, a popular plataforma de IA generativa, teria desenvolvido uma ferramenta capaz de detectar conteúdo gerado por IA. A informação é do The Wall Street Journal e foi confirmada pelo TechCrunch . No entanto, a ferramenta ainda não foi lançada e a empresa está avaliando se deve ou não disponibilizá-la.

O lançamento do ChatGPT em 30 de novembro de 2022 deu origem ao conteúdo gerado por IA. Estudantes, profissionais de marketing, blogueiros e muitos outros começaram a confiar em alguns prompts para gerar conteúdo substancial com entrada mínima. Logo depois, o Google lançou o Bard, agora chamado Gemini. Então, outras plataformas de IA generativa surgiram, criando um enorme burburinho de IA generativa.

Agora é surpreendente que a OpenAI, que cobra dos usuários US$ 20 por mês para acessar seu modelo mais avançado, esteja planejando policiar o processo que criou.

A partir das informações disponíveis, a empresa planeja colocar marcas d’água nos textos que gera para que possam ser facilmente detectados. Assim como as imagens e os vídeos têm marca d'água, eles planejam colocar uma marca d'água no texto gerado por seu chatbot.

Em uma publicação anterior no blog , a empresa afirmou que o método de marca d'água em texto é "altamente preciso e até eficaz contra adulterações localizadas, como paráfrases". No entanto, expressaram preocupação com o fato de que "o método de marca d'água em texto tem o potencial de impactar desproporcionalmente alguns grupos. Por exemplo, poderia estigmatizar o uso de IA como uma ferramenta útil de escrita para falantes não nativos de inglês".

Resta saber como isso se desenrolará e qual será a recepção do público.