OpenAI, společnost stojící za ChatGPT, říká, že vytvořila detektor obsahu AI
OpenAI vyvinula nástroj pro detekci obsahu generovaného umělou inteligencí s plány na vkládání vodoznaků do textů. Tento krok vyvolává otázky ohledně jeho dopadu na různé skupiny uživatelů.
Společnost stojící za ChatGPT, populární generativní platformou AI, údajně vytvořila nástroj, který dokáže detekovat obsah generovaný AI. Vyplývá to ze zpráv společnosti Wall Street Journal a ověřeno TechCrunch. Zatím ji však nevydali a zvažují, zda ji vydat.
Spuštění ChatGPT 30. listopadu 2022 vedlo ke vzniku obsahu generovaného umělou inteligencí. Studenti, marketéři, blogeři a mnozí další se začali spoléhat na několik výzev k vytvoření podstatného obsahu s minimálním vstupem. Brzy poté Google spustil Bard, nyní nazývaný Gemini. Pak se objevily další generativní platformy umělé inteligence, které vytvořily masivní generativní AI.
Nyní je překvapivé, že OpenAI, která uživatelům účtuje 20 dolarů měsíčně za přístup ke svému nejpokročilejšímu modelu, plánuje hlídat proces, který vytvořila.
Z dostupných informací společnost plánuje vytvářet vodoznaky, které generuje, aby je bylo možné snadno detekovat. Stejně jako obrázky a videa mají vodoznak, plánují vodoznak text vytvořený jejich chatbotem.
V předchozí blogu, společnost uvedla, že metoda textového vodoznaku je „vysoce přesná a dokonce účinná proti lokalizované manipulaci, jako je parafrázování“. Vyjádřili však obavy, že „metoda textového vodoznaku má potenciál neúměrně ovlivnit některé skupiny. Mohlo by to například stigmatizovat používání umělé inteligence jako užitečného nástroje pro psaní pro nerodilé mluvčí angličtiny.“
Jak to dopadne a jaký bude ohlas veřejnosti, se teprve uvidí.
Související články
