7 Istilah AI untuk Pemula agar Tidak Bingung

Kalau kamu baru mulai ngulik AI, wajar banget kalau banyak istilah terasa membingungkan.

Dengan memahami istilah AI untuk pemula, kamu bisa lebih percaya diri dalam mendesain fitur AI.

Apalagi saat mulai lihat model AI open source di Hugging Face, Ollama, LM Studio, atau artikel tentang AI. Tiba-tiba muncul istilah seperti LLM, token, parameter, 7B, 12B, 30B, VRAM, context window, sampai quantization.

Awalnya saya juga merasa istilah-istilah ini seperti bahasa engineer banget.

Namun, setelah dipahami pelan-pelan, sebenarnya konsepnya tidak serumit itu. Kita tidak harus menjadi AI engineer untuk mengerti dasarnya. Sebagai designer, product designer, atau user umum, kita cukup paham arti praktisnya: istilah ini berdampak ke kecepatan AI, biaya, kualitas jawaban, batasan input, dan kebutuhan hardware.

Artikel ini adalah panduan santai tentang istilah AI untuk pemula. Fokusnya bukan teori berat, tapi penjelasan yang mudah dipahami agar kamu lebih nyaman saat membaca spesifikasi model AI.

Jujur awal-awal saya mulai mengenal AI, ada istilah istilah yang asing dan cukup teknis untuk telinga saya, dan seperti membingungkan, namun setelah saya mulai explore istilah-istilah tersebut gak begitu rumit, dan cukup pahami dalam kontek in general saja gak harus telalu deep.

1. Apa Itu LLM?

Dengan memahami istilah AI untuk pemula, saya harap kamu bisa lebih nyaman saat membaca spesifikasi model AI.

LLM adalah singkatan dari Large Language Model.

Secara sederhana, LLM adalah model AI yang dilatih dengan data teks dalam jumlah besar agar bisa memahami dan menghasilkan bahasa manusia. Misalnya menjawab pertanyaan, membuat ringkasan, menulis email, membuat code, menjelaskan konsep, membuat design, membuat video atau membantu brainstorming ide.

Contoh LLM yang sering kita dengar:

• GPT
• Claude
• Gemini
• Llama
• Mistral
• Qwen
• DeepSeek

Kalau dijelaskan dengan bahasa sederhana, LLM itu seperti “mesin prediksi teks”. Saat kamu menulis prompt, model akan mencoba menebak kata atau token berikutnya yang paling masuk akal berdasarkan pola yang pernah dipelajari.

Namun, jangan salah paham. LLM bukan cuma autocomplete biasa. Karena dilatih dari data yang sangat besar, model ini bisa menangkap pola bahasa, konteks, struktur kalimat, bahkan hubungan antar konsep.

Buat designer, memahami apa itu LLM penting karena sekarang banyak produk mulai menambahkan fitur AI. Misalnya AI assistant, chatbot, AI search, AI summary, atau generative UI.

Kalau kita tahu cara kerja dasarnya, kita bisa lebih realistis saat mendesain fitur AI. Kita jadi tahu kenapa AI kadang cepat, kadang lambat, kadang pintar, kadang ngarang, dan kadang lupa konteks.

Takeaway:
LLM adalah model AI yang bekerja dengan memahami dan menghasilkan bahasa. Kita tidak perlu tahu semua detail teknisnya, tapi perlu tahu batasannya saat mendesain produk berbasis AI.

2. Apa Itu Token AI?

Salah satu istilah AI untuk pemula yang paling penting adalah token.

LLM tidak membaca teks seperti manusia membaca kata. Sebelum teks diproses, sistem akan memecah teks menjadi bagian kecil yang disebut token.

Token bisa berupa:

• satu kata
• sebagian kata
• tanda baca
• angka
• spasi
• potongan karakter tertentu

Misalnya kata “unbelievable” bisa saja dipecah menjadi beberapa token, tergantung tokenizer yang digunakan model.

Kenapa ini penting?

Karena banyak hal di AI dihitung berdasarkan token, bukan jumlah kata. Input yang kamu kirim dan output yang AI hasilkan sama-sama dihitung sebagai token.

Contohnya:

• Prompt pendek = token lebih sedikit
• Dokumen panjang = token lebih banyak
• Chat history panjang = token makin banyak
• Bahasa tertentu bisa memakai token lebih banyak daripada bahasa lain
• Istilah teknis atau nama unik kadang terpecah menjadi lebih banyak token

Dalam produk AI, token berpengaruh ke biaya dan performa. Fitur yang hanya mengklasifikasi satu kalimat akan jauh lebih ringan dibanding fitur yang meringkas dokumen 50 halaman.

Buat designer, ini penting saat mendesain UX untuk AI. Misalnya saat membuat fitur upload dokumen, summarize transcript meeting, atau chatbot dengan memory panjang. Kita perlu sadar bahwa semakin banyak teks yang diproses, semakin besar juga beban sistemnya.

Kalo kamu ingin mencobanya langsung untuk seberapa banyak token yang di hitung dengan kata-kata yang kamu masukan bisa dicek langsung di open ai Tokenizer.

Takeaway:
Token AI adalah potongan teks yang dipakai model untuk membaca input dan membuat output. Semakin banyak token, biasanya semakin besar biaya dan beban prosesnya.

3. Apa Itu Parameter AI?

Sekarang kita masuk ke istilah yang sering muncul di model AI open source: parameter AI.

Parameter adalah nilai internal yang dipelajari model selama proses training. Anggap saja parameter seperti “koneksi pengetahuan” di dalam model.

Semakin banyak parameter, biasanya semakin besar kapasitas model untuk menyimpan pola bahasa dan hubungan antar konsep. Namun, bukan berarti model dengan parameter lebih besar selalu lebih baik untuk semua kebutuhan.

Contoh sederhana:

• Model kecil bisa lebih cepat dan ringan
• Model besar bisa lebih kuat, tapi lebih berat dijalankan
• Model besar biasanya butuh hardware lebih tinggi
• Model kecil yang dituning untuk task spesifik bisa lebih efektif daripada model besar yang terlalu umum

Misalnya, untuk membuat fitur sederhana seperti mengubah tone tulisan dari formal ke santai, model kecil mungkin sudah cukup. Tapi untuk reasoning kompleks, analisis panjang, atau coding berat, model yang lebih besar bisa memberi hasil lebih baik.

Sebagai designer atau product person, kita tidak perlu menghitung parameter secara detail. Namun, kita perlu tahu bahwa parameter AI memengaruhi ukuran model, kebutuhan memory, kecepatan, dan kemungkinan kualitas output.

Takeaway:
Parameter AI adalah bagian internal yang dipelajari model. Semakin besar jumlah parameter, biasanya model lebih berat, tapi belum tentu selalu lebih cocok untuk semua use case.

4. Apa Arti 7B, 12B, dan 30B di Model AI?

Kalau kamu pernah melihat nama model seperti:

• Llama 7B
• Mistral 7B
• Qwen 14B
• Gemma 12B
• DeepSeek 32B
• Llama 70B

Huruf B di sana berarti billion, atau miliar.

Jadi:

• 7B = sekitar 7 billion parameter
• 12B = sekitar 12 billion parameter
• 30B = sekitar 30 billion parameter
• 70B = sekitar 70 billion parameter

Ini bukan berarti file-nya pasti 7GB, 12GB, atau 30GB. Angka itu menunjukkan jumlah parameter, bukan ukuran file secara langsung.

Namun, jumlah parameter sangat memengaruhi ukuran file dan kebutuhan memory.

Analogi sederhananya begini:

Model AI seperti otak digital. Parameter adalah “koneksi” di dalam otak itu. Semakin banyak koneksi, semakin besar kapasitasnya, tapi semakin berat juga untuk dijalankan.

Namun, jangan langsung berpikir model 30B pasti lebih bagus dari 12B.

Yang lebih penting adalah:

• model itu dilatih untuk apa?
• apakah cocok dengan task kita?
• seberapa bagus data training-nya?
• apakah sudah di-fine-tune?
• apakah hardware kita kuat?
• apakah latency-nya masih nyaman untuk user?

Untuk user umum, model 7B atau 12B kadang sudah cukup untuk writing, brainstorming, summarize ringan, dan chat biasa. Untuk task yang lebih berat, model 30B ke atas bisa lebih menarik, tapi kebutuhan hardware juga naik.

Takeaway:
7B, 12B, dan 30B menunjukkan jumlah parameter dalam model AI. Angka lebih besar biasanya berarti model lebih berat, tapi tidak otomatis selalu lebih baik.

5. Kenapa Model AI Butuh VRAM Besar?

Nah, ini bagian yang sering bikin bingung.

Banyak orang bertanya:
“Kalau modelnya 30B, kenapa butuh VRAM 20GB atau 30GB?”
“Atau kenapa kadang model 30B bisa jalan di VRAM lebih kecil?”

Jawabannya: karena kebutuhan memory AI tidak hanya dihitung dari jumlah parameter. Ada beberapa faktor lain.

Model weight

Model weight adalah data utama dari model AI. Ini seperti isi “otak” model.

Kalau model punya 30 billion parameter, setiap parameter perlu disimpan dalam format angka tertentu. Format ini bisa berbeda-beda, misalnya FP16, FP32, INT8, atau INT4.

Semakin besar format angkanya, semakin besar memory yang dibutuhkan.

Contoh kasar:

• FP16 memakai sekitar 2 byte per parameter
• INT8 memakai sekitar 1 byte per parameter
• INT4 memakai sekitar 0.5 byte per parameter

Jadi model 30B dalam FP16 bisa sangat besar. Tapi kalau sudah di-quantize ke 4-bit, ukurannya bisa jauh lebih kecil.

Context length dan KV cache

Selain model weight, ada juga memory tambahan yang dipakai saat model memproses percakapan. Salah satunya disebut KV cache.

Kamu tidak harus hafal istilah ini, tapi konsepnya penting.

Saat AI membaca prompt panjang atau chat history panjang, model perlu menyimpan informasi sementara agar bisa menghasilkan jawaban berikutnya dengan lebih efisien. Semakin panjang context yang dipakai, semakin besar memory tambahan yang dibutuhkan.

Jadi, dua orang bisa menjalankan model yang sama, tapi kebutuhan VRAM-nya beda karena:

• context length berbeda
• setting batch berbeda
• quantization berbeda
• runtime berbeda
• GPU berbeda
• sebagian proses bisa dipindah ke RAM/CPU

Karena itu, VRAM AI bukan hanya soal “modelnya berapa B”. Model 12B dengan context besar bisa terasa berat. Model 30B dengan quantization agresif bisa lebih ringan, tapi mungkin kualitasnya sedikit turun.

Kenapa VRAM penting?

VRAM adalah memory yang ada di GPU. Untuk menjalankan model AI lokal dengan cepat, model idealnya masuk ke VRAM.

Kalau tidak cukup, sebagian proses bisa dilempar ke RAM biasa atau CPU. Namun, biasanya hasilnya jadi lebih lambat.

Buat user umum, cara mudah memahaminya:

• VRAM besar = bisa menjalankan model lebih besar atau context lebih panjang
• VRAM kecil = pilih model lebih kecil atau versi quantized
• RAM/CPU bisa membantu, tapi biasanya lebih lambat daripada GPU

Takeaway:
Model AI butuh VRAM besar karena parameter, format angka, quantization, context length, dan KV cache. Jadi kebutuhan VRAM tidak bisa dilihat dari angka 7B/12B/30B saja.

6. Apa Itu Context Window AI?

Context window AI adalah jumlah maksimum token yang bisa “dilihat” model dalam satu waktu.

Anggap saja context window seperti meja kerja.

Kalau meja kerja kecil, kamu hanya bisa membuka sedikit dokumen. Kalau meja kerja besar, kamu bisa membuka lebih banyak dokumen sekaligus.

Dalam AI, context window menentukan berapa banyak informasi yang bisa diproses model dalam satu interaksi.

Yang masuk ke context window bisa berupa:

• prompt user
• instruksi sistem
• chat history
• dokumen yang dilampirkan
• data dari knowledge base
• output yang sedang dibuat

Kalau context window penuh, model tidak bisa melihat semua informasi sekaligus. Sistem harus memotong, meringkas, atau memilih bagian yang dianggap penting.

Ini penting untuk UX.

Misalnya kamu membuat fitur AI untuk:

• summarize meeting transcript
• membaca dokumen panjang
• chatbot customer support
• AI assistant untuk product knowledge
• AI yang membantu membaca file desain atau spesifikasi

Kalau context window terlalu kecil, AI bisa kehilangan detail penting. Tapi kalau context window terlalu besar, biaya dan latency bisa naik.

Jadi, context window besar memang menarik, tapi tetap punya trade-off.

Untuk designer, ini bisa memengaruhi keputusan UI. Misalnya:

• perlu ada batas upload file
• perlu menampilkan warning saat dokumen terlalu panjang
• perlu progress state saat AI membaca dokumen
• perlu summary mode sebelum deep analysis
• perlu menjelaskan ke user kenapa AI tidak bisa membaca semua bagian

Takeaway:
Context window adalah batas memory kerja AI dalam satu interaksi. Semakin besar context window, semakin banyak informasi yang bisa diproses, tapi biasanya lebih mahal dan lebih berat.

7. Apa Itu Quantization AI?

Quantization AI adalah teknik untuk membuat model lebih ringan dengan mengurangi presisi angka di dalam model.

Bahasa gampangnya: model AI menyimpan banyak angka. Kalau angka-angka itu disimpan dengan format yang sangat presisi, ukurannya besar. Quantization membuat angka itu disimpan dengan format yang lebih kecil agar model lebih hemat memory.

Contoh yang sering kamu lihat:

• FP16
• INT8
• INT4
• Q4
• Q5
• Q8

Kalau kamu memakai LM Studio atau Ollama, kamu mungkin pernah melihat file model dengan kode seperti Q4, Q5, atau Q8. Itu biasanya berkaitan dengan tingkat quantization.

Semakin kecil bit-nya, biasanya model makin ringan.

Namun, ada trade-off.

Model Q4 bisa lebih ringan dan lebih mudah dijalankan di laptop. Tapi kualitas output bisa sedikit turun dibanding versi yang lebih presisi. Kadang penurunannya kecil, kadang terasa, tergantung model dan task.

Contoh sederhana:

• Q8: lebih berat, kualitas biasanya lebih dekat ke original
• Q5: tengah-tengah
• Q4: lebih ringan, cocok untuk hardware terbatas
• Q2/Q3: sangat ringan, tapi kualitas bisa lebih terasa turun

Jadi kalau kamu bertanya, “Kenapa model 30B bisa jalan di VRAM 20GB?” salah satu jawabannya kemungkinan karena model itu memakai quantization.

Buat designer atau user umum, kamu tidak perlu terlalu teknis. Cukup pahami ini:

Quantization adalah cara membuat model AI open source lebih mudah dijalankan di hardware biasa, tapi tetap ada kompromi antara ukuran, kecepatan, dan kualitas.

Takeaway:
Quantization AI membantu model besar berjalan di hardware lebih kecil. Namun, semakin dikompresi, kualitas output bisa ikut berubah.

Contoh Praktis: Cara Membaca Spesifikasi Model AI

Misalnya kamu melihat model seperti ini:

ModelName 12B Q4 32K Context

Cara membacanya:

• 12B berarti model punya sekitar 12 billion parameter
• Q4 berarti model sudah di-quantize ke 4-bit
• 32K context berarti model bisa membaca sampai sekitar 32 ribu token dalam context window
• Kebutuhan VRAM tergantung ukuran model, quantization, context length, dan runtime yang kamu pakai

Jadi jangan cuma lihat angka 12B.

Lihat juga:

• quantization-nya apa?
• context window-nya berapa?
• hardware kamu cukup atau tidak?
• task kamu butuh model besar atau tidak?
• butuh cepat atau butuh kualitas lebih tinggi?

Kalau hanya untuk brainstorming, rewrite, dan summarize ringan, model kecil atau sedang bisa cukup. Kalau untuk reasoning kompleks, coding panjang, atau analisis dokumen besar, kamu mungkin butuh model yang lebih kuat.

Kenapa Designer Perlu Paham Istilah Ini?

Mungkin ada yang bertanya, “Ini kan teknis, kenapa designer perlu paham?”

Menurut saya, designer tidak harus menjadi engineer AI. Tapi designer perlu paham bahasa dasar AI agar bisa membuat keputusan UX yang lebih masuk akal.

Karena saat mendesain produk AI, kita akan sering bertemu pertanyaan seperti:

• Kenapa response AI lama?
• Kenapa ada batas upload file?
• Kenapa AI tidak bisa membaca semua dokumen?
• Kenapa jawaban AI kadang berubah?
• Kenapa fitur ini mahal kalau dipakai banyak user?
• Kenapa model lokal butuh GPU besar?
• Kenapa model kecil cukup untuk beberapa fitur?

Kalau kita paham istilah AI untuk pemula seperti LLM, token, parameter, VRAM, context window, dan quantization, kita bisa berdiskusi lebih nyambung dengan engineer.

Kita juga bisa mendesain UI yang lebih jujur untuk user.

Misalnya, daripada hanya menampilkan loading lama tanpa konteks, kita bisa memberi microcopy seperti:

“AI sedang membaca dokumen panjang. Proses ini bisa memakan waktu beberapa detik.”

Atau saat user upload file terlalu besar:

“File ini terlalu panjang untuk dianalisis sekaligus. Coba pilih bagian tertentu atau gunakan mode ringkasan.”

Hal kecil seperti ini membuat AI product terasa lebih jelas dan tidak membingungkan.

Kesimpulan

Memahami istilah AI tidak harus rumit.

Kamu tidak perlu langsung belajar machine learning dari nol. Mulai saja dari istilah yang paling sering muncul:

• LLM adalah model AI untuk memahami dan menghasilkan bahasa
• Token adalah potongan teks yang diproses model
• Parameter adalah nilai internal yang dipelajari model
• 7B, 12B, dan 30B menunjukkan jumlah billion parameter
• VRAM dibutuhkan untuk menjalankan model, terutama model besar
• Context window adalah batas memory kerja AI dalam satu interaksi
• Quantization adalah cara membuat model lebih ringan

Kalau kamu designer, product designer, atau user umum, memahami konsep ini akan membuat kamu lebih percaya diri saat membaca spesifikasi model AI.

Kamu juga akan lebih mudah berdiskusi dengan engineer, memilih tools, membaca dokumentasi, dan mendesain pengalaman AI yang lebih realistis.

Pada akhirnya, AI bukan cuma soal model paling besar atau paling pintar. Yang penting adalah memilih model dan pendekatan yang sesuai dengan kebutuhan user.

Action step sederhana:
Coba buka satu model AI open source di Hugging Face, Ollama, atau LM Studio. Lihat nama modelnya. Cari angka B, quantization, dan context window-nya. Dari situ, coba tebak: model ini ringan atau berat? Cocok untuk task sederhana atau task kompleks?

Semakin sering kamu membaca spesifikasi model, semakin cepat kamu paham polanya.

Referensi

• IBM — What are Large Language Models?
• Hugging Face — Tokenizers
• IBM — Context Window
• Hugging Face — bitsandbytes Quantization
• NVIDIA — LLM Inference Optimization