OpenAI, firmaet bag ChatGPT, siger, at det har bygget en AI-indholdsdetektor

Virksomheden bag ChatGPT, den populære generative AI-platform, har angiveligt bygget et værktøj, der kan detektere AI-genereret indhold. Dette er ifølge rapporter fra The Wall Street Journal og verificeret af TechCrunch. De har dog endnu ikke udgivet den og overvejer, om den skal udgives.

Lanceringen af ​​ChatGPT den 30. november 2022 gav anledning til AI-genereret indhold. Studerende, marketingfolk, bloggere og mange andre begyndte at stole på nogle få opfordringer til at generere væsentligt indhold med minimalt input. Kort efter lancerede Google Bard, nu kaldet Gemini. Så dukkede andre generative AI-platforme op, hvilket skabte en massiv generativ AI-brum.

Det er nu overraskende, at OpenAI, som opkræver brugere $20 om måneden for at få adgang til sin mest avancerede model, planlægger at overvåge den proces, den skabte.

Ud fra tilgængelig information planlægger virksomheden at vandmærke tekster, den genererer, så de let kan opdages. Ligesom billeder og videoer er vandmærkede, planlægger de at vandmærke tekst genereret af deres chatbot.

I en tidligere blogindlæg, havde virksomheden sagt, at tekstvandmærkemetoden er "meget nøjagtig og endda effektiv mod lokaliseret manipulation, såsom omskrivning." Men de udtrykte bekymring for, at "tekstvandmærkemetoden har potentialet til at påvirke nogle grupper uforholdsmæssigt. For eksempel kunne det stigmatisere brugen af ​​kunstig intelligens som et nyttigt skriveværktøj for ikke-engelsktalende som modersmål."

Det mangler at se, hvordan det kommer til at forløbe, og hvad den offentlige modtagelse bliver.