Apa itu halusinasi AI?
Halusinasi AI adalah keluaran model AI yang terdengar meyakinkan dan masuk akal, tetapi keliru atau dikarang: fakta yang salah, kutipan yang tidak pernah diucapkan siapa pun, atau sumber yang tidak ada. Halusinasi adalah keterbatasan yang sudah dikenal pada model bahasa besar, sistem di balik alat seperti ChatGPT.
Mengapa halusinasi terjadi
- Model bahasa menghasilkan teks dengan memprediksi kata berikutnya yang paling mungkin berdasarkan pola dalam data latih; model tidak mencari fakta kecuali terhubung ke pencarian atau ke sebuah dokumen.
- Ketika data latihnya sedikit atau sudah usang, model mengisi kekosongan itu dengan sesuatu yang cocok dengan polanya.
- Model disetel untuk memberikan jawaban, sehingga jarang mengatakan “saya tidak tahu” kecuali diminta.
Contoh halusinasi AI
- Sitasi rekaan: referensi dengan nama penulis, jurnal, dan DOI yang terdengar nyata tetapi tidak mengarah ke mana pun, masalah paling umum dalam karya akademik.
- Kasus hukum palsu: pada 2023, para pengacara dalam perkara Mata v. Avianca di Amerika Serikat dijatuhi sanksi setelah mengajukan berkas yang menyitasi putusan pengadilan karangan ChatGPT.
- Fakta keliru dalam demo produk: pada Februari 2023, Bard milik Google menyatakan dalam sebuah demonstrasi peluncuran bahwa Teleskop Luar Angkasa James Webb mengambil foto pertama sebuah planet di luar tata surya kita, padahal tidak demikian.
- Kutipan yang salah atau salah dikaitkan, serta statistik tanpa sumber.
Cara agar tidak tersesat
- Jangan pernah menyitasi sumber yang belum Anda buka: periksa setiap judul atau DOI yang diberikan alat itu.
- Mintalah sumbernya, lalu periksa apakah setiap sumber benar-benar menyatakan apa yang diklaim alat tersebut.
- Utamakan alat yang menjawab dari dokumen yang Anda berikan atau dari pencarian langsung, dan menunjukkan asal setiap klaim.
- Tulis prompt yang membolehkan “tidak yakin” sebagai jawaban, dan anggap angka dan tanggal yang presisi sebagai bagian yang paling mungkin keliru.
Poin penting
Alat AI dapat membantu menyusun draf dan mencari kata yang tepat, tetapi memeriksa fakta dan sumber tetap menjadi tugas penulis. Universitas memperlakukan referensi rekaan sebagai masalah integritas, siapa pun, atau apa pun, yang membuatnya.
Kasus penggunaan: Temukan sumber untuk setiap klaim saat menulis