OpenAI merilis alat untuk mendetek si teks yang ditulis oleh AI

OpenAI – telah merilis pengklasifikasi teks AI yang mencoba mendeteksi apakah konten input dihasilkan menggunakan alat kecerdasan buatan seperti ChatGPT.

“Pengklasifikasi Teks AI adalah model GPT yang disetel dengan baik yang memprediksi seberapa besar kemungkinan sebuah teks dihasilkan oleh AI dari berbagai sumber, seperti ChatGPT,” jelas postingan blog OpenAI yang baru.

OpenAI merilis alat ini hari ini setelah sejumlah universitas dan distrik sekolah K-12 melarang chatbot AI ChatGPT yang populer dari perusahaan tersebut karena kemampuannya menyelesaikan pekerjaan rumah siswa, seperti menulis laporan buku dan esai, dan bahkan menyelesaikan tugas pemrograman.

Menurut BusinessInsider, ChatGPT dilarang di distrik sekolah negeri K-12 NYC, Seattle, Los Angeles, dan Baltimore, dengan universitas-universitas di Prancis dan India juga melarang platform ini dari komputer sekolah.

BleepingComputer menguji pengklasifikasi teks AI baru dari OpenAI dan, sebagian besar, menemukan bahwa pengklasifikasian tersebut tidak meyakinkan.

Ketika menguji pengklasifikasi teks AI OpenAI terhadap sebagian besar konten kami sendiri, pengklasifikasi ini dengan tepat menentukan bahwa manusia yang menulis artikel kami.

Namun, ketika menganalisis konten yang dihasilkan oleh ChatGPT dan chatbot AI You.com, ia mengalami banyak kesulitan untuk mendeteksi apakah teks tersebut dihasilkan oleh AI.

Karena para pendidik kemungkinan akan menggunakan Pengklasifikasi Teks AI yang baru untuk memeriksa apakah siswa menyontek dalam mengerjakan tugas pekerjaan rumah mereka, OpenAI memperingatkan bahwa hal tersebut tidak boleh digunakan sebagai “satu-satunya bukti” untuk menentukan ketidakjujuran akademis.

“Pengklasifikasi kami tidak sepenuhnya dapat diandalkan,” OpenAI memperingatkan.

“Dalam evaluasi kami pada ‘kumpulan tantangan’ teks bahasa Inggris, pengklasifikasi kami dengan benar mengidentifikasi 26% teks yang ditulis oleh AI (positif sejati) sebagai ‘kemungkinan besar ditulis oleh AI’, sementara secara tidak tepat melabeli teks yang ditulis oleh manusia sebagai teks yang ditulis oleh AI sebanyak 9% (positif palsu).”

“Keandalan pengklasifikasi kami biasanya meningkat seiring dengan bertambahnya panjang teks masukan”

Keberhasilan pengklasifikasi kemungkinan akan meningkat seiring berjalannya waktu dan dilatih dengan data yang lebih banyak. Namun, untuk saat ini, ini bukan alat yang dapat diandalkan untuk mendeteksi konten yang dihasilkan oleh AI.

Related Posts
China Covid: para ahli memperkirakan 9.000 kematian sehari karena AS mengatakan dapat mengambil sampel air limbah dari pesawat

COVID - Amerika Serikat sedang mempertimbangkan untuk mengambil sampel air limbah yang diambil dari pesawat internasional untuk melacak varian Covid-19 Read more

Jokowi Resmi Akhiri Kebijakan PPKM COVID-19

Presiden RI Joko "Jokowi" Widodo resmi memberhentikan pemberlakuan pembatasan mobilitas masyarakat atau PPKM yang bertujuan untuk menekan penularan COVID-19 pada Read more

Xbox Insider Menggoda Tanggal Rilis Redfall

Sumber kebocoran yang tampaknya akurat yang terkenal telah menggoda tanggal rilis untuk Redfall, game besar Arkane Studios berikutnya yang akan Read more

Kontroversi UU Cipta Kerja Yang Memberatkan Para Buruh

Penerbitan peraturan pemerintah pengganti undang-undang (Perppu) tentang penciptaan lapangan kerja yang kontroversial dapat berdampak positif pada kegiatan ekonomi tahun ini, Read more

Di Tahun Baru 2023 Apakah Sudah Waktunya untuk MMORPG Baru?

MMORPG  Bahkan di saat-saat terbaik, akan sangat melelahkan untuk memulai MMORPG baru. Dengan tahun baru di cakrawala, seringkali umum untuk Read more

TV OLED LG 2023: lebih pintar, lebih ringan, dan jauh lebih terang

TV OLED LG 2023 Setelah menyelesaikan semuanya tahun lalu, LG kembali dengan kekuatan penuh untuk CES 2023, menunjukkan yang terbaru Read more