OpenAI, das Unternehmen hinter ChatGPT, sagt, es habe einen KI-Inhaltsdetektor entwickelt

Das Unternehmen hinter ChatGPT, der beliebten KI-Plattform für Generierung, hat laut Berichten des Wall Street Journal und bestätigten Aussagen von TechCrunch ein Tool entwickelt, das KI-generierte Inhalte erkennen kann. Eine Veröffentlichung steht jedoch noch aus; das Unternehmen überlegt derzeit, ob es überhaupt veröffentlicht werden soll.

Der Start von ChatGPT am 30. November 2022 führte zu KI-generierten Inhalten. Studierende, Marketingfachleute, Blogger und viele andere nutzten nun ein paar Eingabeaufforderungen, um mit minimalem Aufwand gehaltvolle Inhalte zu erstellen. Kurz darauf brachte Google Bard, heute Gemini, auf den Markt. Weitere generative KI-Plattformen entstanden und sorgten für einen enormen Hype um generative KI.

Es ist nun überraschend, dass OpenAI, das seinen Benutzern für den Zugriff auf sein fortschrittlichstes Modell 20 US-Dollar pro Monat berechnet, plant, den von ihm geschaffenen Prozess zu überwachen.

Den verfügbaren Informationen zufolge plant das Unternehmen, die von ihm generierten Texte mit einem Wasserzeichen zu versehen, damit sie leicht erkannt werden können. Genau wie Bilder und Videos mit einem Wasserzeichen versehen werden, plant das Unternehmen, auch den von seinem Chatbot generierten Text mit einem Wasserzeichen zu versehen.

In einem früheren Blogbeitrag hatte das Unternehmen erklärt, die Methode zur Textwasserzeichenung sei „sehr genau und sogar wirksam gegen lokale Manipulationen wie Paraphrasierung“. Allerdings äußerte es Bedenken, dass die Methode „das Potenzial hat, bestimmte Gruppen unverhältnismäßig stark zu benachteiligen. Beispielsweise könnte sie die Nutzung von KI als nützliches Schreibwerkzeug für Nicht-Muttersprachler stigmatisieren.“

Es bleibt abzuwarten, wie sich dies auswirkt und wie die öffentliche Resonanz ausfällt.