OpenAI, firma stojąca za ChatGPT, twierdzi, że zbudowała detektor treści AI

Firma stojąca za ChatGPT, popularną platformą generatywnej sztucznej inteligencji, podobno stworzyła narzędzie, które potrafi wykrywać treści generowane przez sztuczną inteligencję. Według doniesień „ The Wall Street Journal” i zweryfikowanych przez TechCrunch , firma nie opublikowała jeszcze tego narzędzia i rozważa jego udostępnienie.

Uruchomienie ChatGPT 30 listopada 2022 r. dało początek treściom generowanym przez AI. Studenci, marketingowcy, blogerzy i wiele innych osób zaczęło polegać na kilku monitach, aby generować znaczące treści przy minimalnym nakładzie pracy. Niedługo potem Google uruchomiło Bard, obecnie nazywane Gemini. Następnie pojawiły się inne generatywne platformy AI, tworząc ogromny szum wokół generatywnej AI.

Zaskakujące jest teraz to, że OpenAI, które pobiera od użytkowników 20 dolarów miesięcznie za dostęp do swojego najbardziej zaawansowanego modelu, planuje nadzorować stworzony przez siebie proces.

Na podstawie dostępnych informacji firma planuje umieszczać w generowanych przez siebie tekstach znaków wodnych, aby można je było łatwo wykryć. Podobnie jak obrazy i filmy są znakowane znakiem wodnym, planują znakować wodą tekst wygenerowany przez ich chatbota.

W poprzednim wpisie na blogu firma stwierdziła, że ​​metoda znakowania wodnego tekstu jest „bardzo dokładna, a nawet skuteczna w przypadku lokalnych manipulacji, takich jak parafrazowanie”. Wyraziła jednak obawy, że „metoda znakowania wodnego tekstu może mieć nieproporcjonalnie duży wpływ na niektóre grupy. Na przykład, może stygmatyzować wykorzystanie sztucznej inteligencji jako użytecznego narzędzia do pisania dla osób, dla których angielski nie jest językiem ojczystym”.

Czas pokaże, jak to się potoczy i jaki będzie odbiór społeczny.