OpenAI, компанията зад ChatGPT, казва, че е изградила AI детектор за съдържание
OpenAI разработи инструмент за откриване на съдържание, генерирано от AI, с планове за поставяне на воден знак върху текстове. Този ход повдига въпроси относно въздействието му върху различни потребителски групи.
Съобщава се, че компанията зад ChatGPT, популярната генерираща AI платформа, е създала инструмент, който може да открива съдържание, генерирано от AI. Това сочат доклади на The Wall Street Journal и проверено от TechCrunch. Все още обаче не са го пуснали и обмислят дали да го пуснат.
Стартирането на ChatGPT на 30 ноември 2022 г. доведе до генерирано от AI съдържание. Студенти, търговци, блогъри и много други започнаха да разчитат на няколко подкани, за да генерират значително съдържание с минимален вход. Скоро след това Google стартира Bard, сега наречен Gemini. След това се появиха други генеративни AI платформи, създавайки огромен генеративен AI бръмча.
Сега е изненадващо, че OpenAI, който таксува потребителите $20 на месец за достъп до най-модерния си модел, планира да контролира процеса, който създаде.
От наличната информация компанията планира да постави водни знаци на текстовете, които генерира, така че да могат да бъдат открити лесно. Точно както изображенията и видеоклиповете са с воден знак, те планират да поставят с воден знак текст, генериран от техния чатбот.
В предишен блог пост, компанията каза, че методът за текстови водни знаци е „много точен и дори ефективен срещу локализирано подправяне, като перифразиране“. Въпреки това, те изразиха загриженост, че „методът за воден знак на текста има потенциала да засегне непропорционално някои групи. Например, това може да стигматизира използването на AI като полезен инструмент за писане за хора, които не говорят английски.“
Остава да видим как ще се развие това и какъв ще бъде общественият прием.
Свързани статии
