Pernah dengar istilah N-Grams saat membaca tentang AI, machine learning, atau Natural Language Processing (NLP)?

Mengenal N-Grams: Fondasi Penting dalam LLM


Mungkin kamu pernah bertanya, apa sebenarnya N-Grams itu dan kenapa konsep ini penting dalam membuat model bahasa seperti ChatGPT?

Tenang, kali ini KonsepKoding.com akan menjelaskan secara sederhana apa itu N-Grams, bagaimana cara kerjanya, serta contoh penerapannya dalam dunia nyata.

🧠 Apa Itu N-Grams?

Secara sederhana, N-Grams adalah urutan dari N kata (atau huruf) yang muncul secara berurutan dalam sebuah kalimat atau teks.

Huruf “N” menunjukkan jumlah elemen yang digunakan dalam satu kelompok (gram).
Jadi:

  • Unigram (1-Gram) → satu kata

  • Bigram (2-Gram) → dua kata berurutan

  • Trigram (3-Gram) → tiga kata berurutan

Contohnya:
Kalimat:

“Saya suka belajar koding”

  • Unigram: [“Saya”, “suka”, “belajar”, “koding”]

  • Bigram: [“Saya suka”, “suka belajar”, “belajar koding”]

  • Trigram: [“Saya suka belajar”, “suka belajar koding”]

Dengan N-Grams, komputer bisa “memahami” bagaimana kata-kata biasanya muncul berurutan dalam sebuah bahasa.

⚙️ Mengapa N-Grams Penting dalam NLP?

Dalam Natural Language Processing (NLP), komputer tidak secara alami memahami makna kata.
N-Grams membantu model mengenali pola urutan kata untuk memperkirakan kata berikutnya, memahami konteks, atau menghitung probabilitas suatu frasa.

Misalnya, dari dataset teks besar, model bisa belajar bahwa:

“Saya suka” lebih sering diikuti oleh “makan” daripada “berlari”.

Dengan informasi ini, model bahasa bisa membuat kalimat yang terasa lebih alami bagi manusia.

🔢 Bagaimana Cara Kerja N-Grams?

N-Grams bekerja dengan menghitung frekuensi kemunculan urutan kata dalam sebuah teks.

Contoh:

“Saya suka kucing dan saya suka anjing.”

Bigram yang terbentuk:

  • “Saya suka” (2 kali)

  • “suka kucing” (1 kali)

  • “kucing dan” (1 kali)

  • “dan saya” (1 kali)

  • “suka anjing” (1 kali)

Dari sini, model bisa menghitung probabilitas kemunculan kata berikutnya menggunakan rumus statistik sederhana.

Misalnya, probabilitas kata “kucing” setelah “suka” bisa dihitung dengan:

P(kucing | suka) = (Jumlah “suka kucing”) / (Jumlah “suka ...”)

Teknik ini digunakan dalam banyak model lama seperti n-gram language models sebelum era transformer seperti GPT muncul.

📚 Contoh Penerapan N-Grams dalam Dunia Nyata

N-Grams digunakan di banyak aplikasi bahasa yang sering kita jumpai sehari-hari, seperti:

  1. Autocorrect / Autocomplete di Keyboard
    Saat kamu mengetik “Selamat pa…”, sistem akan menebak “Selamat pagi” berdasarkan pola bigram yang sering muncul.

  2. Pendeteksi Spam Email
    Sistem bisa mengenali frasa seperti “Anda menang hadiah” atau “klik link ini” sebagai bigram atau trigram yang sering muncul di email spam.

  3. Pencarian Google
    Saat kamu mengetik di kolom pencarian, saran kata yang muncul diambil dari data N-Grams yang populer di query pengguna lain.

  4. Analisis Sentimen
    N-Grams membantu menemukan pola kata seperti “sangat bagus” atau “tidak puas” untuk menentukan apakah suatu teks bersentimen positif atau negatif.

⚖️ Kelebihan dan Kekurangan N-Grams

✅ Kelebihan:

  • Konsep sederhana dan mudah diimplementasikan

  • Efektif untuk model bahasa dasar

  • Dapat digunakan untuk berbagai aplikasi NLP

❌ Kekurangan:

  • Tidak memahami makna konteks secara mendalam

  • Membutuhkan banyak data jika N besar (misalnya 4-gram atau 5-gram)

  • Konsumsi memori tinggi karena jumlah kombinasi kata meningkat drastis

Itulah sebabnya model modern seperti GPT dan BERT menggunakan pendekatan neural network untuk menggantikan model N-Grams tradisional.

🧩 Contoh Implementasi N-Grams Sederhana (Python)

Berikut contoh sederhana untuk membuat N-Grams dengan Python:

from nltk import ngrams

kalimat = "saya suka belajar koding di KonsepKoding.com".split()
bigram = list(ngrams(kalimat, 2))

print(bigram)

Output:

[('saya', 'suka'), ('suka', 'belajar'), ('belajar', 'koding'), ('koding', 'di'), ('di', 'KonsepKoding.com')]

Dengan hasil ini, kamu bisa menghitung frekuensi kemunculan dan menganalisis pola kata.

🚀 Kesimpulan

N-Grams adalah konsep fundamental dalam pemrosesan bahasa alami (NLP) yang membantu komputer memahami hubungan antar kata.
Meski sekarang sudah banyak model AI yang lebih canggih, konsep N-Grams tetap menjadi dasar penting dalam dunia pemrosesan teks dan pembelajaran mesin.

Kalau kamu baru mulai belajar NLP, memahami N-Grams adalah langkah awal yang wajib kamu kuasai!

🌐 Belajar NLP dan AI Lainnya di KonsepKoding.com

Temukan artikel menarik seputar Machine Learning, AI, React Native, TypeScript, dan dunia pemrograman modern lainnya hanya di KonsepKoding.com.
Penjelasan ringan, bahasa sederhana, dan penuh contoh nyata — bikin belajar teknologi jadi lebih menyenangkan! 🚀


Baca Artike AI Lainnya: