OpenAI, perusahaan riset AI di balik ChatGPT, telah merilis alat baru — Pengklasifikasi Teks AI — untuk membantu membedakan teks buatan AI dari teks buatan manusia. Alat ini dirancang untuk membantu mengurangi klaim palsu tentang manusia yang menulis konten buatan kecerdasan buatan (AI). Menurut [pengumuman] OpenAI (https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text/){rel="nofollow"}, ini dapat membatasi kemampuan untuk menjalankan secara otomatis kampanye informasi kesalahan, menggunakan alat AI untuk melakukan penipuan akademik, dan menggunakan chatbot untuk menyamar sebagai manusia. Meskipun tidak dapat mendeteksi teks yang ditulis oleh AI dengan akurasi 100 persen, saat diuji pada serangkaian teks berbahasa Inggris, alat tersebut menilai dengan benar apakah teks tersebut ditulis oleh AI sebanyak 26 persen. Namun, itu juga salah percaya bahwa teks tulisan manusia ditulis oleh AI 9% dari waktu. OpenAI mengakui bahwa alatnya bekerja lebih baik dengan teks yang lebih panjang; oleh karena itu, setidaknya diperlukan 1.000 karakter untuk menjalankan pengujian.
Pengklasifikasi teks AI baru OpenAI adalah alat yang ampuh, tetapi memiliki beberapa keterbatasan. Misalnya, itu dapat salah memberi label pada teks yang dihasilkan AI serta teks yang ditulis manusia, dan pengeditan kecil dapat membantu teks yang dihasilkan AI menghindari pengklasifikasian. Juga, itu dilatih terutama pada konten berbahasa Inggris yang ditulis oleh orang dewasa dan mungkin tidak dapat diandalkan untuk teks yang ditulis oleh anak-anak atau bahasa non-Inggris.
Untuk menguji sendiri Pengklasifikasi Teks AI OpenAI, buka platform.openai.com/ai-text-classifier, rekatkan teks yang ingin Anda evaluasi dan klik Kirim. Alat tersebut akan menilai seberapa besar kemungkinan teks dihasilkan oleh AI, dalam skala dari sangat tidak mungkin hingga mungkin atau mungkin tidak jelas—semuanya dalam hitungan detik! Untuk mengilustrasikan poin ini, saya menguji kemampuan ChatGPT untuk membuat artikel tentang SEO dan mengirimkannya secara verbatim ke pengklasifikasi; menurutnya artikel tersebut mungkin dihasilkan oleh AI. OpenAI telah mengembangkan alat bernama AI Text Classifier, yang bertujuan untuk membedakan antara teks yang ditulis manusia dan teks yang dihasilkan AI. Hasil Januari 2023 (https://platform.openai.com/ai-text-classifier){rel="nofollow"} mengilustrasikan keterbatasan alat, karena tidak dapat dikatakan dengan pasti bahwa ChatGPT menghasilkan teks yang Ditulis oleh kecerdasan buatan. Namun, dengan menerapkan suntingan kecil yang disarankan oleh Grammarly, saya menurunkan peringkat dari Maybe menjadi Unclear. OpenAI dengan benar menunjukkan bahwa mudah untuk menghindari pengklasifikasi, tetapi itu bukan satu-satunya bukti yang menentukan apakah suatu dokumen dihasilkan oleh AI (https://platform.openai.com/faq#what_is_the_intended_use_of_the_tool){rel=“nofollow” }. OpenAI menambahkan bahwa alat tersebut belum diuji secara menyeluruh untuk mendeteksi konten yang mengandung kombinasi AI dan teks manusia, sehingga mereka merekomendasikan untuk mengandalkan sumber lain saat menentukan apakah sebuah dokumen ditulis oleh AI atau manusia.
Pengklasifikasi teks AI adalah alat yang ampuh untuk mengidentifikasi potensi teks yang dihasilkan AI. Namun, penting untuk dicatat bahwa pengklasifikasi tidak boleh digunakan sebagai ukuran yang menentukan untuk membuat keputusan. Sebaliknya, ini dapat memberikan wawasan yang berguna tentang seberapa banyak teks yang mungkin dihasilkan oleh program AI.