OpenAI, firmaet bag ChatGPT, siger, at det har bygget en AI-indholdsdetektor
OpenAI har udviklet et værktøj til at opdage AI-genereret indhold, med planer om at vandmærke tekster. Flytningen rejser spørgsmål om dens indvirkning på forskellige brugergrupper.
Virksomheden bag ChatGPT, den populære generative AI-platform, har angiveligt bygget et værktøj, der kan registrere AI-genereret indhold. Dette ifølge rapporter fra The Wall Street Journal og bekræftet af TechCrunch . De har dog endnu ikke udgivet det og overvejer, om det skal udgives.
Lanceringen af ChatGPT den 30. november 2022 gav anledning til AI-genereret indhold. Studerende, marketingfolk, bloggere og mange andre begyndte at stole på nogle få opfordringer til at generere væsentligt indhold med minimalt input. Kort efter lancerede Google Bard, nu kaldet Gemini. Så dukkede andre generative AI-platforme op, hvilket skabte en massiv generativ AI-brum.
Det er nu overraskende, at OpenAI, som opkræver brugere $20 om måneden for at få adgang til sin mest avancerede model, planlægger at overvåge den proces, den skabte.
Ud fra tilgængelig information planlægger virksomheden at vandmærke tekster, den genererer, så de let kan opdages. Ligesom billeder og videoer er vandmærkede, planlægger de at vandmærke tekst genereret af deres chatbot.
I et tidligere blogindlæg havde virksomheden sagt, at tekstvandmærkningsmetoden er "yderst præcis og endda effektiv mod lokaliseret manipulation, såsom parafrasering." De udtrykte dog bekymring over, at "tekstvandmærkningsmetoden har potentiale til at påvirke nogle grupper uforholdsmæssigt meget. For eksempel kunne den stigmatisere brugen af AI som et nyttigt skriveværktøj for ikke-engelsktalende."
Det mangler at se, hvordan det kommer til at forløbe, og hvad den offentlige modtagelse bliver.
Relaterede artikler
