OpenAI, das Unternehmen hinter ChatGPT, sagt, es habe einen KI-Inhaltsdetektor entwickelt

Das Unternehmen hinter ChatGPT, der beliebten generativen KI-Plattform, hat Berichten zufolge ein Tool entwickelt, das KI-generierte Inhalte erkennen kann. Dies geht aus Berichten von hervor The Wall Street Journal und verifiziert durch TechCrunch. Sie haben es jedoch noch nicht veröffentlicht und überlegen, ob es veröffentlicht werden soll.

Der Start von ChatGPT am 30. November 2022 führte zu KI-generierten Inhalten. Studierende, Marketingfachleute, Blogger und viele andere nutzten nun ein paar Eingabeaufforderungen, um mit minimalem Aufwand gehaltvolle Inhalte zu erstellen. Kurz darauf brachte Google Bard, heute Gemini, auf den Markt. Weitere generative KI-Plattformen entstanden und sorgten für einen enormen Hype um generative KI.

Es ist nun überraschend, dass OpenAI, das seinen Benutzern für den Zugriff auf sein fortschrittlichstes Modell 20 US-Dollar pro Monat berechnet, plant, den von ihm geschaffenen Prozess zu überwachen.

Den verfügbaren Informationen zufolge plant das Unternehmen, die von ihm generierten Texte mit einem Wasserzeichen zu versehen, damit sie leicht erkannt werden können. Genau wie Bilder und Videos mit einem Wasserzeichen versehen werden, plant das Unternehmen, auch den von seinem Chatbot generierten Text mit einem Wasserzeichen zu versehen.

In einem vorangegangenen Blog-Post hatte das Unternehmen erklärt, dass die Text-Wasserzeichen-Methode „hochpräzise und sogar wirksam gegen lokale Manipulationen wie Paraphrasen“ sei. Allerdings äußerte das Unternehmen Bedenken, dass die „Text-Wasserzeichen-Methode das Potenzial hat, einige Gruppen unverhältnismäßig stark zu beeinträchtigen. Beispielsweise könnte sie die Verwendung von KI als nützliches Schreibwerkzeug für Nicht-Muttersprachler stigmatisieren.“

Es bleibt abzuwarten, wie sich dies auswirkt und wie die öffentliche Resonanz ausfällt.