Dicky Efendi Halo! Saya Dicky Efendi, founder dari Adopta Hunter. Saya lulusan dari "Pesantren Sintesa" angkatan 9 tahun 2019/2020. Follow ig @dkyefendi

Seorang siswa telah mengembangkan aplikasi yang dapat mendeteksi apakah AI telah menulis esai

Tian berkata banyak guru menoleh padanya setelah dia menerbitkan botnya secara online pada tanggal 2 Januari dan memberitahunya tentang hasil positif yang mereka lihat dari pengujian.

Lebih dari 30.000 orang telah mencoba GPTZero dalam waktu seminggu setelah peluncurannya. Itu sangat populer sehingga aplikasi macet. Streamlit, platform gratis yang menghosting GPTZero, sementara itu melangkah untuk mendukung Tian dengan lebih banyak penyimpanan dan sumber daya untuk menangani lalu lintas web.

Cara kerja GPTZero

Untuk menentukan apakah kutipan ditulis oleh bot, GPTZero menggunakan dua indikator: “Perplexity” dan “Burstiness”. Kebingungan mengukur kompleksitas teks; Jika GPTZero bingung dengan teksnya, maka itu memiliki kompleksitas tinggi dan lebih mungkin ditulis oleh manusia. Namun, jika teks lebih akrab dengan bot – karena dilatih pada data semacam itu – maka teks tersebut memiliki kompleksitas yang rendah dan oleh karena itu lebih mungkin dihasilkan oleh AI.

Secara terpisah, Burstiness membandingkan variasi kalimat. Misalnya, orang cenderung B. Untuk menulis dengan ledakan yang lebih besar, dengan beberapa kalimat yang lebih panjang atau rumit di samping yang lebih pendek. Perangkat AI cenderung lebih konsisten.

Dalam video demonstrasi, Tian membandingkan analisis aplikasi dengan sebuah cerita Orang New York dan posting LinkedIn yang ditulis oleh ChatGPT. Itu berhasil membedakan tulisan manusia dari AI.

Tian mengakui bahwa botnya tidak aman, seperti yang dilaporkan beberapa pengguna saat mengujinya. Dia mengatakan dia masih bekerja untuk meningkatkan akurasi model.

Namun dengan mengembangkan aplikasi yang menyoroti apa yang memisahkan manusia dari AI, alat tersebut membantu bekerja menuju salah satu misi inti Tian: membawa transparansi ke AI.

“AI telah menjadi kotak hitam begitu lama sehingga kami benar-benar tidak tahu apa yang terjadi di dalamnya,” katanya. “Dan dengan GPTZero, saya ingin mulai mendorong dan melawannya.”

Upaya untuk mengekang plagiarisme AI

Senior perguruan tinggi tidak sendirian dalam perlombaan untuk mengekang plagiarisme AI dan pemalsuan. OpenAI, pengembang ChatGPT, berkomitmen untuk mencegah plagiarisme AI dan aplikasi jahat lainnya. Bulan lalu, Scott Aaronson, seorang peneliti yang saat ini berfokus pada keamanan AI di OpenAI, mengumumkan bahwa perusahaan telah melakukannya Bekerja pada cara untuk “menandai air” Teks yang dihasilkan GPT dengan “sinyal rahasia tidak terdeteksi” untuk mengidentifikasi sumbernya.

Komunitas AI sumber terbuka Memeluk Wajah telah merilis alat untuk mendeteksi apakah teks dibuat oleh GPT-2, model AI versi sebelumnya digunakan untuk membuat ChatGPT. Seorang profesor filsafat di South Carolina yang kebetulan mengetahui tentang alat tersebut katanya pakai untuk menangkap seorang siswa mengirimkan makalah AI-ditulis.

Departemen Pendidikan Kota New York mengatakan Kamis bahwa mereka memblokir akses ke ChatGPT di jaringan dan perangkat sekolah di tengah kekhawatiran tentang “dampak negatif pada pembelajaran siswa dan kekhawatiran tentang keamanan dan keakuratan konten.”

Tian tidak menentang penggunaan alat AI seperti ChatGPT.

GPTZero “tidak dimaksudkan sebagai alat untuk mencegah penggunaan teknologi tersebut,” katanya. “Tetapi dengan teknologi baru apa pun, kita harus dapat merangkulnya secara bertanggung jawab dan kita membutuhkan perlindungan.”

Hak Cipta 2023 NPR. Untuk melihat lebih lanjut, kunjungi https://www.npr.org.
Dicky Efendi Halo! Saya Dicky Efendi, founder dari Adopta Hunter. Saya lulusan dari "Pesantren Sintesa" angkatan 9 tahun 2019/2020. Follow ig @dkyefendi

Tinggalkan Balasan

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *