OpenAI, компанията зад ChatGPT, казва, че е изградила AI детектор за съдържание

Компанията, стояща зад ChatGPT, популярната платформа за генеративен изкуствен интелект, е създала инструмент, който може да открива генерирано от изкуствен интелект съдържание. Това е според доклади на The Wall Street Journal и потвърдено от TechCrunch . Те обаче все още не са го пуснали и обмислят дали да го направят.

Стартирането на ChatGPT на 30 ноември 2022 г. доведе до генерирано от AI съдържание. Студенти, търговци, блогъри и много други започнаха да разчитат на няколко подкани, за да генерират значително съдържание с минимален вход. Скоро след това Google стартира Bard, сега наречен Gemini. След това се появиха други генеративни AI платформи, създавайки огромен генеративен AI бръмча.

Сега е изненадващо, че OpenAI, който таксува потребителите $20 на месец за достъп до най-модерния си модел, планира да контролира процеса, който създаде.

От наличната информация компанията планира да постави водни знаци на текстовете, които генерира, така че да могат да бъдат открити лесно. Точно както изображенията и видеоклиповете са с воден знак, те планират да поставят с воден знак текст, генериран от техния чатбот.

В предишна публикация в блога си компанията заяви, че методът за поставяне на воден знак върху текста е „много точен и дори ефективен срещу локализирано манипулиране, като например перифразиране“. Те обаче изразиха опасения, че „методът за поставяне на воден знак върху текста има потенциал да окаже непропорционално въздействие върху някои групи. Например, той би могъл да стигматизира използването на изкуствен интелект като полезен инструмент за писане за хора, за които английският не е роден език“.

Остава да видим как ще се развие това и какъв ще бъде общественият прием.