OpenAI, la società dietro ChatGPT, afferma di aver creato un rilevatore di contenuti AI

L'azienda dietro ChatGPT, la popolare piattaforma di intelligenza artificiale generativa, avrebbe creato uno strumento in grado di rilevare contenuti generati dall'intelligenza artificiale. Questo secondo i report di The Wall Street Journal e verificato da TechCrunch. Tuttavia, non l’hanno ancora rilasciato e stanno valutando se debba essere rilasciato.

Il lancio di ChatGPT il 30 novembre 2022 ha dato origine a contenuti generati dall'intelligenza artificiale. Studenti, addetti al marketing, blogger e molti altri hanno iniziato a fare affidamento su pochi prompt per generare contenuti sostanziali con un input minimo. Poco dopo, Google ha lanciato Bard, ora chiamato Gemini. Poi sono emerse altre piattaforme di intelligenza artificiale generativa, creando un enorme fermento sull'intelligenza artificiale generativa.

Ora sorprende che OpenAI, che fa pagare agli utenti 20 dollari al mese per accedere al suo modello più avanzato, stia pianificando di monitorare il processo che ha creato.

Dalle informazioni disponibili, l'azienda prevede di filigranare i testi generati in modo che possano essere rilevati facilmente. Proprio come le immagini e i video sono filigranati, pianificano di filigranare il testo generato dal loro chatbot.

In un precedente post sul blog, la società ha affermato che il metodo di filigrana del testo è "altamente accurato e persino efficace contro la manomissione localizzata, come la parafrasi". Tuttavia, hanno espresso preoccupazione per il fatto che “il metodo della filigrana del testo ha il potenziale di avere un impatto sproporzionato su alcuni gruppi. Ad esempio, potrebbe stigmatizzare l’uso dell’intelligenza artificiale come utile strumento di scrittura per i non madrelingua inglesi”.

Resta da vedere come andrà a finire e quale sarà l’accoglienza del pubblico.