ChatGPTの背後にあるOpenAIは、AIコンテンツ検出器を構築したと発表した。

人気の生成AIプラットフォームであるChatGPTの背後にある会社は、AIが生成したコンテンツを検出できるツールを開発したと報じられている。これは、 ウォールストリートジャーナル および検証済み TechCrunchのしかし、まだリリースされておらず、リリースするかどうかを検討中です。

30 年 2022 月 XNUMX 日の ChatGPT のリリースにより、AI 生成コンテンツが誕生しました。学生、マーケティング担当者、ブロガーなど、多くの人が、いくつかのプロンプトに頼って、最小限の入力で充実したコンテンツを生成し始めました。その後すぐに、Google は、現在は Gemini と呼ばれる Bard をリリースしました。その後、他の生成 AI プラットフォームが登場し、生成 AI の大きな話題が生まれました。

最も先進的なモデルへのアクセスに月額20ドルを請求しているOpenAIが、自社で作成したプロセスを監視することを計画していることは、今や驚きだ。

入手可能な情報によると、同社は生成したテキストに透かしを入れて簡単に検出できるようにする予定です。画像や動画に透かしを入れるのと同じように、チャットボットが生成したテキストにも透かしを入れる予定です。

以前で ブログ投稿同社は、テキスト透かしの手法は「非常に正確で、言い換えなどの局所的な改ざんに対しても効果的」だと述べていた。しかし、同社は「テキスト透かしの手法は、一部のグループに不釣り合いな影響を与える可能性がある。例えば、英語を母国語としない人にとって、AIを便利な文章作成ツールとして使用することに烙印を押す可能性がある」と懸念を表明した。

これがどのように展開し、世間の反応がどうなるかはまだ分からない。