OpenAI, het bedrijf achter ChatGPT, zegt een AI-inhoudsdetector te hebben gebouwd

Het bedrijf achter ChatGPT, het populaire platform voor generatieve AI, heeft naar verluidt een tool ontwikkeld die door AI gegenereerde content kan detecteren. Dit meldt The Wall Street Journal en is bevestigd door TechCrunch . De tool is echter nog niet uitgebracht en het bedrijf overweegt nog of dit wel moet gebeuren.

De lancering van ChatGPT op 30 november 2022 leidde tot door AI gegenereerde content. Studenten, marketeers, bloggers en vele anderen begonnen te vertrouwen op een paar prompts om substantiële content te genereren met minimale input. Kort daarna lanceerde Google Bard, nu Gemini. Vervolgens ontstonden er andere generatieve AI-platforms, wat een enorme generatieve AI-buzz creëerde.

Het is nu verrassend dat OpenAI, dat gebruikers 20 dollar per maand in rekening brengt voor toegang tot het meest geavanceerde model, van plan is toezicht te houden op het proces dat het heeft gecreëerd.

Op basis van de beschikbare informatie is het bedrijf van plan de gegenereerde teksten van een watermerk te voorzien, zodat ze gemakkelijk kunnen worden gedetecteerd. Net zoals afbeeldingen en video's een watermerk hebben, zijn ze van plan om tekst die door hun chatbot wordt gegenereerd, van een watermerk te voorzien.

In een eerder blogbericht had het bedrijf gezegd dat de methode voor het watermerken van tekst "zeer nauwkeurig en zelfs effectief is tegen lokale manipulatie, zoals parafraseren". Ze uitten echter hun bezorgdheid dat de "methode voor het watermerken van tekst onevenredig grote gevolgen kan hebben voor bepaalde groepen. Het zou bijvoorbeeld het gebruik van AI als nuttig schrijfhulpmiddel voor niet-Engelstaligen kunnen stigmatiseren."

Het valt nog te bezien hoe dit zal uitpakken en wat de publieke ontvangst zal zijn.