OpenAI, företaget bakom ChatGPT, säger att det har byggt en AI-innehållsdetektor

Företaget bakom ChatGPT, den populära generativa AI-plattformen, har enligt uppgift byggt ett verktyg som kan upptäcka AI-genererat innehåll. Detta enligt rapporter från The Wall Street Journal och verifierad av TechCrunch. Men de har ännu inte släppt den och funderar på om den ska släppas.

Lanseringen av ChatGPT den 30 november 2022 gav upphov till AI-genererat innehåll. Studenter, marknadsförare, bloggare och många andra började förlita sig på några uppmaningar för att generera betydande innehåll med minimal input. Strax efter lanserade Google Bard, nu kallad Gemini. Sedan dök andra generativa AI-plattformar upp, vilket skapade ett enormt generativt AI-buzz.

Det är nu förvånande att OpenAI, som debiterar användarna $20 per månad för att få tillgång till sin mest avancerade modell, planerar att övervaka processen som den skapade.

Från tillgänglig information planerar företaget att vattenmärka texter som det genererar så att de lätt kan upptäckas. Precis som bilder och videor är vattenstämplade planerar de att vattenmärka text som genereras av deras chatbot.

I en tidigare blogginlägg, hade företaget sagt att textvattenmärkningsmetoden är "mycket exakt och till och med effektiv mot lokal manipulering, såsom parafrasering." De uttryckte dock oro för att "metoden för textvattenmärkning har potential att påverka vissa grupper oproportionerligt. Det kan till exempel stigmatisera användningen av AI som ett användbart skrivverktyg för icke-engelska som modersmål."

Det återstår att se hur detta kommer att utspela sig och vad publikmottagningen blir.