Langsung ke konten

Apa itu model bahasa?

Cara kerja model bahasa AI dan cara alat menulis memakainya: pelatihan, prediksi, dan pemahaman konteks di balik model seperti GPT.

Berbagi

Apa itu model bahasa?

Model bahasa adalah sistem yang memperkirakan seberapa mungkin suatu urutan kata muncul, sehingga sistem itu dapat memprediksi kata berikutnya berdasarkan kata-kata sebelumnya. Sederhananya: model ini telah melihat begitu banyak teks sehingga dapat menebak, dengan sangat baik, apa yang biasanya muncul berikutnya. Satu kemampuan itu, yang diulang kata demi kata, adalah cara model menghasilkan teks.

Contoh sederhana

Jika diberi “Hasil penelitian ini signifikan secara”, model bahasa menilai “statistik” jauh lebih mungkin daripada “ungu”. Saran kata berikutnya pada keyboard ponsel Anda dan fitur pelengkapan otomatis AI di alat menulis bekerja dengan prinsip ini.

Dari menghitung kata ke jaringan saraf

  • Model n-gram: model bahasa pertama menghitung seberapa sering urutan kata yang pendek muncul. Claude Shannon memakai gagasan ini untuk menghasilkan tiruan teks bahasa Inggris pada tahun 1948.
  • Model bahasa neural: sejak tahun 2000-an, jaringan saraf mempelajari makna kata sebagai angka, sehingga kata-kata yang mirip mendapat prediksi yang mirip.
  • Transformer: sejak 2017, model dapat menimbang setiap kata dalam teks yang panjang sekaligus, dan inilah yang melahirkan model bahasa besar.

Jenis model bahasa

  • Model bahasa besar: memiliki miliaran parameter dan bersifat serbaguna, seperti model di balik ChatGPT, Claude, dan Gemini.
  • Model bahasa kecil: cukup ringkas untuk dijalankan di laptop atau ponsel, sering kali dilatih untuk tugas yang lebih sempit.
  • Model visi-bahasa: bekerja dengan gambar sekaligus teks.

Penerapan

  • Pembuatan teks AI, asisten obrolan, dan peringkasan.
  • Pemeriksaan tata bahasa dan penerjemahan.
  • Pengenalan ucapan, ketika model memilih kata yang paling mungkin dari bunyi-bunyi yang mirip.
  • Pencarian, yang mencocokkan kueri dengan dokumen berdasarkan makna; bagian dari pemrosesan bahasa alami.

Hal yang tidak dapat dilakukan model bahasa

Model bahasa memprediksi teks yang terdengar masuk akal; model ini tidak memeriksa fakta. Pengetahuannya berasal dari data latih, yang memiliki batas waktu dan celah, sehingga model dapat menghasilkan kesalahan yang terdengar meyakinkan dan sumber rekaan (lihat halusinasi AI). Periksa apa pun yang ingin Anda andalkan.

Kasus penggunaan: AI terbaik untuk menulis esai yang tetap milik Anda

Makalah Anda berikutnya, dengan sitasi nyata.

Deskripsikan makalah Anda dan dapatkan kerangka dalam satu menit. Paket Gratis tidak memerlukan kartu.