Apa itu data latih?
Data latih adalah kumpulan contoh yang dipelajari oleh model pembelajaran mesin. Untuk filter spam, data latihnya berupa email yang diberi label spam atau bukan spam; untuk model bahasa besar, data latihnya berupa kumpulan teks yang sangat besar dari buku, situs web, artikel, dan kode. Kemampuan sebuah model, dan kesalahan yang dibuatnya, sangat bergantung pada data ini.
Contoh sederhana
Untuk mengajari model membedakan kalimat formal dan informal, Anda bisa mengumpulkan 10.000 kalimat, masing-masing diberi label “formal” atau “informal”. Model menyesuaikan parameternya sampai labelnya cocok dengan label Anda, lalu model dapat memberi label pada kalimat yang belum pernah dilihatnya.
Data latih, data validasi, dan data uji
- Set latih: contoh-contoh yang dipelajari model.
- Set validasi: disisihkan untuk menyetel pengaturan dan menentukan kapan pelatihan dihentikan.
- Set uji: disimpan sampai akhir, untuk mengukur kinerja pada data yang benar-benar baru.
Pembagian yang umum adalah 80% untuk pelatihan dan 20% untuk pengujian (atau 70/15/15 jika ada validasi). Pengujian pada data yang belum pernah dilihat menunjukkan apakah model telah mempelajari pola umum atau sekadar menghafal contohnya, masalah yang disebut overfitting.
Data latih untuk model bahasa
- Hasil perayapan web berskala besar seperti Common Crawl, yang disaring berdasarkan kualitas.
- Wikipedia, buku, dan makalah akademik, termasuk penelitian akses terbuka.
- Kode dari repositori publik.
- Contoh yang ditulis atau dinilai oleh manusia, yang digunakan untuk fine-tuning.
Setiap model memiliki tanggal batas data latih, sehingga model tidak mengetahui apa pun yang diterbitkan sesudahnya kecuali model itu dapat melakukan pencarian.
Mengapa data latih penting
- Kualitas: kesalahan dan teks berkualitas rendah dalam data akan muncul dalam keluaran.
- Bias: jika kelompok, bahasa, atau pandangan tertentu kurang terwakili, model akan mencerminkannya.
- Kesenjangan: cakupan yang tipis tentang suatu topik membuat jawaban rekaan lebih mungkin muncul (lihat halusinasi AI).
Pertanyaan etis dan hukum
- Persetujuan dan hak cipta: penulis dan penerbit telah menggugat penggunaan karya mereka untuk pelatihan.
- Privasi: data pribadi dapat masuk ke dalam set data latih.
- Teks Anda sendiri: sebagian alat mungkin menggunakan apa yang Anda ketik untuk melatih model berikutnya. Periksa kebijakan data suatu alat sebelum menempelkan penelitian yang belum diterbitkan.
Kasus penggunaan: AI terbaik untuk menulis esai yang tetap milik Anda