OpenAI, perusahaan di balik ChatGPT, mengatakan telah membangun detektor konten AI

Perusahaan di balik ChatGPT, platform AI generatif yang populer, dilaporkan telah membuat alat yang dapat mendeteksi konten yang dihasilkan AI. Hal ini menurut laporan oleh The Wall Street Journal dan diverifikasi oleh TechCrunchNamun, mereka belum merilisnya dan masih mempertimbangkan apakah sebaiknya dirilis.

Peluncuran ChatGPT pada 30 November 2022 memunculkan konten yang dihasilkan AI. Mahasiswa, pemasar, blogger, dan banyak lainnya mulai mengandalkan beberapa perintah untuk menghasilkan konten yang substansial dengan input minimal. Segera setelah itu, Google meluncurkan Bard, yang sekarang disebut Gemini. Kemudian platform AI generatif lainnya muncul, menciptakan gebrakan besar-besaran terhadap AI generatif.

Kini mengejutkan bahwa OpenAI, yang mengenakan biaya kepada pengguna $20 per bulan untuk mengakses model tercanggihnya, berencana untuk mengawasi proses yang dibuatnya.

Berdasarkan informasi yang tersedia, perusahaan berencana untuk memberi tanda air pada teks yang dibuatnya sehingga dapat dideteksi dengan mudah. ​​Sama seperti gambar dan video yang diberi tanda air, mereka berencana untuk memberi tanda air pada teks yang dibuat oleh chatbot mereka.

Sebelumnya posting blog, perusahaan tersebut mengatakan metode pemberian tanda air pada teks tersebut “sangat akurat dan bahkan efektif terhadap manipulasi lokal, seperti parafrase.” Namun, mereka menyatakan kekhawatiran bahwa “metode pemberian tanda air pada teks tersebut berpotensi berdampak tidak proporsional pada beberapa kelompok. Misalnya, metode tersebut dapat menstigmatisasi penggunaan AI sebagai alat tulis yang bermanfaat bagi penutur bahasa Inggris non-asli.”

Masih harus dilihat bagaimana hal ini akan terwujud dan bagaimana penerimaan publik nantinya.