Aug 5th 2024, 12:07, by Habib Allbi Ferdian, kumparanTECH
Ilustrasi AI ChatGPT. Foto: Alex Photo Stock/Shutterstock
OpenAI telah membuat sebuah tools untuk mengungkap kecurangan siswa yang meminta bantuan ChatGPT mengerjakan tugas mereka. Jadi, alat ini bisa mendeteksi teks yang dibuat oleh ChatGPT dengan sangat akurat.
Dalam sebuah pernyataan yang diberikan kepada TechCrunch, juru bicara OpenAI mengatakan bahwa pihaknya tengah meneliti metode pemberian tanda air atau watermarking pada teks yang dibuat oleh ChatGPT.
Ini akan menjadi pendekatan berbeda dari sebagian besar upaya untuk mendeteksi teks yang dibuat oleh AI, yang sebagian besar tidak efektif. Bahkan, OpenAI sendiri mematikan detektor teks AI sebelumnya karena tingkat akurasinya yang rendah.
Dengan watermarking teks, OpenAI bakal fokus pada deteksi tulisan yang dibuat ChatGPT, bukan dari model generatif AI lain. Ini dilakukan dengan membuat perubahan kecil pada cara ChatGPT memilih kata, yang pada dasarnya menciptakan watermark kasat mata dalam tulisan yang nantinya dapat dideteksi oleh alat terpisah.
Aplikasi ChatGPT untuk iPhone di App Store. Foto: kumparan
Kendati alat pendeteksi ini sudah rampung dibuat, menurut The Wall Street Journal, perusahaan sedang mempertimbangkan apakah mereka akan benar-benar merilisnya atau tidak. Ini karena masih ada sejumlah risiko yang mungkin ditimbulkan dan berdampak ke ekosistem yang lebih luas.
OpenAI menjelaskan, penggunaan watermarking untuk menandai teks AI memang bekerja sangat akurat. Namun, dalam beberapa situasi, alat pendeteksi ini tidak berfungsi dengan baik, termasuk jika teks telah dimanipulasi, seperti menggunakan sistem penerjemah, mengubah kata dengan model generatif lain, atau meminta AI untuk memastikan karakter khusus di antara setiap kata dan kemudian menghapus karakter tersebut.
"Metode pemberian watermark pada teks yang kami kembangkan ini secara teknis menjanjikan, tapi memiliki sejumlah risiko yang tengah dipertimbangkan selagi mencari alternatifnya, termasuk rentan dimanfaatkan oleh pelaku kejahatan, dan potensi dampak yang tidak proporsional pada beberapa kelompok. Misalnya, hal itu dapat menstigmatisasi penggunaan AI sebagai alat tulis yang berguna bagi penutur bahasa Inggris non-asli," tulis OpenAI.
Tidak ada komentar:
Posting Komentar