OpenAI, het bedrijf achter ChatGPT, zegt een AI-inhoudsdetector te hebben gebouwd

Het bedrijf achter ChatGPT, het populaire generatieve AI platform, heeft naar verluidt een tool gebouwd die door AI gegenereerde inhoud kan detecteren. Dat blijkt uit berichten van The Wall Street Journal en geverifieerd door TechCrunch. Ze hebben het echter nog niet vrijgegeven en overwegen of het moet worden vrijgegeven.

De lancering van ChatGPT op 30 november 2022 gaf aanleiding tot door AI gegenereerde inhoud. Studenten, marketeers, bloggers, en vele anderen begonnen te vertrouwen op een paar aanwijzingen om met minimale input substantiële inhoud te genereren. Kort daarna lanceerde Google Bard, nu Gemini genaamd. Toen ontstonden er andere generatieve AI-platforms, die een enorme generatieve AI-buzz creëerden.

Het is nu verrassend dat OpenAI, dat gebruikers 20 dollar per maand in rekening brengt voor toegang tot het meest geavanceerde model, van plan is toezicht te houden op het proces dat het heeft gecreëerd.

Op basis van de beschikbare informatie is het bedrijf van plan de gegenereerde teksten van een watermerk te voorzien, zodat ze gemakkelijk kunnen worden gedetecteerd. Net zoals afbeeldingen en video's een watermerk hebben, zijn ze van plan om tekst die door hun chatbot wordt gegenereerd, van een watermerk te voorzien.

In een eerdere blogpost, had het bedrijf gezegd dat de methode voor het watermerken van tekst “zeer nauwkeurig en zelfs effectief is tegen lokaal geknoei, zoals parafraseren.” Ze uitten echter hun bezorgdheid dat de “methode voor het watermerken van tekst het potentieel heeft om een ​​onevenredige impact te hebben op sommige groepen. Het zou bijvoorbeeld het gebruik van AI als nuttig schrijfmiddel voor niet-moedertaalsprekers van het Engels kunnen stigmatiseren.”

Het valt nog te bezien hoe dit zal uitpakken en wat de publieke ontvangst zal zijn.