OpenAI, компания ChatGPT, заявляет, что создала детектор контента с использованием искусственного интеллекта.

Компания, стоящая за ChatGPT, популярной платформой генеративного ИИ, как сообщается, создала инструмент, который может обнаруживать контент, сгенерированный ИИ. Это согласно отчетам The Wall Street Journal и проверено TechCrunch. Однако они еще не выпустили его и обдумывают, стоит ли его выпускать.

Запуск ChatGPT 30 ноября 2022 года дал толчок контенту, генерируемому ИИ. Студенты, маркетологи, блогеры и многие другие начали полагаться на несколько подсказок для генерации существенного контента с минимальным вводом. Вскоре после этого Google запустил Bard, который теперь называется Gemini. Затем появились другие платформы генеративного ИИ, создав огромный ажиотаж вокруг генеративного ИИ.

Сейчас удивительно, что OpenAI, которая взимает с пользователей 20 долларов в месяц за доступ к своей самой продвинутой модели, планирует контролировать созданный ею процесс.

Судя по доступной информации, компания планирует снабжать генерируемые ею тексты водяными знаками, чтобы их можно было легко обнаружить. Точно так же, как изображения и видео имеют водяные знаки, они планируют пометить водяными знаками текст, созданный их чат-ботом.

В предыдущей блогеКомпания заявила, что метод нанесения водяных знаков на текст «очень точен и даже эффективен против локального вмешательства, такого как перефразирование». Однако они выразили обеспокоенность тем, что «метод текстовых водяных знаков может непропорционально повлиять на некоторые группы. Например, это может заклеймить использование искусственного интеллекта в качестве полезного инструмента письма для тех, для кого английский язык не является родным».

Еще неизвестно, как это закончится и какой будет общественный прием.