OpenAI, het bedrijf achter ChatGPT, zegt een AI-inhoudsdetector te hebben gebouwd

Het bedrijf achter ChatGPT, het populaire generatieve AI-platform, heeft naar verluidt een tool gebouwd die door AI gegenereerde content kan detecteren. Dit blijkt uit rapporten van The Wall Street Journal en geverifieerd door TechCrunch. Ze hebben het echter nog niet vrijgegeven en overwegen of het moet worden vrijgegeven.

De lancering van ChatGPT op 30 november 2022 leidde tot door AI gegenereerde content. Studenten, marketeers, bloggers en vele anderen begonnen te vertrouwen op een paar prompts om substantiële content te genereren met minimale input. Kort daarna lanceerde Google Bard, nu Gemini. Vervolgens ontstonden er andere generatieve AI-platforms, wat een enorme generatieve AI-buzz creëerde.

Het is nu verrassend dat OpenAI, dat gebruikers 20 dollar per maand in rekening brengt voor toegang tot het meest geavanceerde model, van plan is toezicht te houden op het proces dat het heeft gecreëerd.

Op basis van de beschikbare informatie is het bedrijf van plan de gegenereerde teksten van een watermerk te voorzien, zodat ze gemakkelijk kunnen worden gedetecteerd. Net zoals afbeeldingen en video's een watermerk hebben, zijn ze van plan om tekst die door hun chatbot wordt gegenereerd, van een watermerk te voorzien.

In een eerdere blogpost, had het bedrijf gezegd dat de methode voor het watermerken van tekst “zeer nauwkeurig en zelfs effectief is tegen lokaal geknoei, zoals parafraseren.” Ze uitten echter hun bezorgdheid dat de “methode voor het watermerken van tekst het potentieel heeft om een ​​onevenredige impact te hebben op sommige groepen. Het zou bijvoorbeeld het gebruik van AI als nuttig schrijfmiddel voor niet-moedertaalsprekers van het Engels kunnen stigmatiseren.”

Het valt nog te bezien hoe dit zal uitpakken en wat de publieke ontvangst zal zijn.