OpenAI, perusahaan di balik ChatGPT, mengatakan telah membangun detektor konten AI

Perusahaan di balik ChatGPT, platform AI generatif populer, dilaporkan telah membangun sebuah alat yang dapat mendeteksi konten yang dihasilkan AI. Hal ini berdasarkan laporan dari The Wall Street Journal dan diverifikasi oleh TechCrunch . Namun, mereka belum merilisnya dan masih mempertimbangkan apakah akan merilisnya atau tidak.

Peluncuran ChatGPT pada 30 November 2022 memunculkan konten yang dihasilkan AI. Mahasiswa, pemasar, blogger, dan banyak lainnya mulai mengandalkan beberapa perintah untuk menghasilkan konten yang substansial dengan input minimal. Segera setelah itu, Google meluncurkan Bard, yang sekarang disebut Gemini. Kemudian platform AI generatif lainnya muncul, menciptakan gebrakan besar-besaran terhadap AI generatif.

Kini mengejutkan bahwa OpenAI, yang mengenakan biaya kepada pengguna $20 per bulan untuk mengakses model tercanggihnya, berencana untuk mengawasi proses yang dibuatnya.

Berdasarkan informasi yang tersedia, perusahaan berencana untuk memberi tanda air pada teks yang dibuatnya sehingga dapat dideteksi dengan mudah. ​​Sama seperti gambar dan video yang diberi tanda air, mereka berencana untuk memberi tanda air pada teks yang dibuat oleh chatbot mereka.

Dalam unggahan blog sebelumnya , perusahaan tersebut menyatakan bahwa metode penandaan teks (watermarking) "sangat akurat dan bahkan efektif melawan manipulasi lokal, seperti parafrase." Namun, mereka menyatakan kekhawatiran bahwa "metode penandaan teks berpotensi berdampak tidak proporsional pada beberapa kelompok. Misalnya, hal itu dapat menstigmatisasi penggunaan AI sebagai alat penulisan yang bermanfaat bagi penutur bahasa Inggris non-asli."

Masih harus dilihat bagaimana hal ini akan terwujud dan bagaimana penerimaan publik nantinya.