LLM Adalah: Pengertian Large Language Model, Cara Kerja, dan Contohnya

Kalau Anda pernah memakai ChatGPT atau Gemini, Anda sudah berinteraksi dengan LLM. Istilah ini muncul di penawaran vendor, di brosur aplikasi, dan di diskusi tentang AI agent. Artikel ini menjelaskan apa itu LLM, bagaimana ia menyusun jawaban, apa yang bisa dan tidak bisa ia kerjakan untuk bisnis, serta bedanya dengan chatbot dan AI agent.

LLM adalah apa?

LLM adalah singkatan dari large language model, atau model bahasa besar. AWS mendefinisikannya sebagai model deep learning yang sangat besar dan telah dilatih sebelumnya pada sejumlah besar data. Kursus Hugging Face menambahkan bahwa LLM dapat memahami dan menghasilkan teks yang mirip tulisan manusia serta mengerjakan beragam tugas bahasa tanpa pelatihan khusus untuk setiap tugas.

Kata "besar" merujuk pada ukuran model dan data latihnya. Ukuran model dihitung dalam parameter, yaitu angka yang diatur selama pelatihan. Sebagai gambaran, AWS mencatat model GPT-3 milik OpenAI memiliki 175 miliar parameter.

Satu catatan agar tidak tertukar: di dunia hukum, LLM juga dipakai sebagai singkatan gelar Master of Laws. Di artikel ini, LLM berarti model bahasa dalam AI.

Cara kerja LLM dalam empat langkah

Secara sederhana, LLM membaca teks yang Anda kirim, lalu menebak potongan teks berikutnya satu per satu sampai jawabannya selesai. Microsoft Learn menyamakan proses ini dengan cara kerja penyelesaian otomatis di keyboard ponsel, hanya saja skalanya jauh lebih besar.

1. Teks dipecah menjadi token

Token adalah satuan terkecil yang diproses model. Menurut Google, token bisa berupa kata utuh, potongan kata, atau satu karakter. Untuk bahasa Inggris, Google memperkirakan satu token setara sekitar 4 karakter, atau kira-kira tiga perempat kata. Google juga menegaskan bahwa pemecahan token bergantung pada bahasa, jadi angka itu tidak bisa langsung dipakai untuk teks berbahasa Indonesia.

Token penting bagi bisnis karena dua hal: biaya pemakaian model lewat API dihitung dalam token, dan batas panjang percakapan juga diukur dalam token. Contohnya dapat dilihat di dokumentasi Anthropic, yang menghitung kapasitas percakapan dan tagihan pemakaian dalam satuan token.

2. Token diubah menjadi angka yang membawa makna

Setiap token diberi representasi berupa deretan angka yang disebut embedding. AWS menjelaskan bahwa dengan cara ini kata-kata dengan makna yang mirip letaknya saling berdekatan. Itu sebabnya model bisa mengenali bahwa "tagihan" dan "invoice" berkaitan, meskipun hurufnya berbeda.

3. Transformer membaca konteks

Google menyebut Transformer sebagai arsitektur yang berhasil dan dipakai luas untuk membangun LLM. Arsitektur ini diperkenalkan dalam makalah Attention Is All You Need oleh tim Google pada 2017. Inti Transformer adalah self-attention. Google menggambarkannya sebagai pertanyaan yang diajukan untuk setiap token: seberapa besar pengaruh token lain terhadap makna token ini?

Contoh dari Google: pada kalimat "The animal didn't cross the street because it was too tired", kata "it" merujuk ke hewan. Jika kata terakhir diganti menjadi "wide", "it" merujuk ke jalan. Self-attention membantu model memilih rujukan yang tepat berdasarkan seluruh kalimat.

4. Model menebak token berikutnya

Setelah membaca konteks, model menghitung peluang untuk setiap kemungkinan token berikutnya, memilih satu, lalu mengulang proses itu dengan teks yang sudah bertambah. Microsoft Learn menjelaskan bahwa output dibangun satu token demi satu token. Google bahkan menyebut LLM pada dasarnya mekanisme pelengkap otomatis yang mampu memprediksi ribuan token.

Ada satu konsekuensi praktis: Microsoft Learn mencatat model AI generatif dirancang untuk menghasilkan konten unik, sehingga pertanyaan yang sama bisa menghasilkan jawaban yang berbeda. Untuk pekerjaan bisnis yang menuntut hasil konsisten, hal ini perlu diatur lewat instruksi, contoh, dan pengujian.

Bagaimana LLM dilatih?

Pelatihan LLM terdiri dari beberapa tahap:

• Pelatihan awal (pre-training). Model diberi teks dalam jumlah sangat besar, lalu belajar menebak token yang hilang atau token berikutnya. Menurut AWS, parameter model disesuaikan berulang kali sampai tebakannya tepat.
• Penyetelan instruksi (instruction tuning). Google menyebut tahap opsional ini meningkatkan kemampuan LLM mengikuti instruksi. Tahap inilah yang membuat model bisa menjawab permintaan seperti "ringkas email ini", bukan sekadar melanjutkan kalimat.
• Penyempurnaan (fine-tuning). AWS menjelaskan bahwa model yang sudah dilatih dapat disesuaikan untuk tugas tertentu dengan set data tambahan yang relatif kecil.

Melatih LLM dari nol membutuhkan data, keahlian, dan daya komputasi yang sangat besar. Google menulis bahwa pembaca kursusnya kemungkinan besar tidak akan pernah melatih LLM dari awal. Untuk bisnis, langkah yang realistis adalah memakai model yang sudah ada, lalu memberinya instruksi dan data yang tepat.

Contoh LLM dan produk yang memakainya

Pusat kajian CSET di Georgetown University menyebut LLM sebagai teknologi yang mendasari chatbot seperti ChatGPT dari OpenAI dan Gemini dari Google. Halaman AWS juga menyebut Claude, Llama 2, dan Cohere Command sebagai contoh model yang dipakai untuk menulis teks.

Perlu dibedakan antara model dan produk. GPT, Gemini, Claude, dan Llama adalah keluarga model. ChatGPT, aplikasi Gemini, atau asisten di dalam aplikasi kantor adalah produk yang memakai model tersebut, ditambah antarmuka, pengaturan, dan fitur lain. Satu produk bisa berganti model tanpa Anda sadari, dan satu model bisa dipakai oleh banyak produk.

LLM, generative AI, chatbot, dan AI agent: apa bedanya?

Keempat istilah ini kerap dipakai bergantian dalam materi pemasaran, padahal artinya berbeda:

Istilah	Apa itu	Contoh dalam bisnis
LLM	Model yang memproses dan menghasilkan teks	Model di balik ChatGPT atau Gemini
Generative AI	Kategori AI yang membuat konten baru: teks, gambar, audio, kode	Membuat draf caption atau gambar promosi
Chatbot	Antarmuka percakapan; bisa memakai LLM atau skrip jawaban tetap	Menjawab pertanyaan jam buka toko
AI agent	Program yang memakai LLM untuk menyelesaikan satu pekerjaan: membaca data, mengambil keputusan kecil, bertindak lewat aplikasi lain	Membaca daftar tagihan, mengingatkan pelanggan yang jatuh tempo, lalu mencatat hasilnya

Microsoft Learn menyebut bahwa aplikasi AI generatif yang memakai bahasa alami sebagai input atau output menggunakan LLM untuk melakukannya. Jadi LLM adalah salah satu komponen, bukan keseluruhan sistem. Penjelasan lebih rinci ada di artikel Agentic AI adalah dan Agent AI vs Chatbot vs RPA.

Apa yang bisa dikerjakan LLM untuk bisnis?

AWS mencatat bahwa satu LLM dapat mengerjakan tugas yang berbeda-beda, seperti menjawab pertanyaan, meringkas dokumen, menerjemahkan bahasa, dan melengkapi kalimat, serta mengelompokkan teks berdasarkan makna atau sentimen. Dalam pekerjaan sehari-hari, kemampuan itu bisa diterjemahkan menjadi tugas seperti berikut (contoh ilustrasi, bukan hasil pengukuran):

• Meringkas: merangkum percakapan pelanggan yang panjang menjadi tiga poin untuk tim penjualan.
• Mengelompokkan: memilah pesan masuk menjadi pertanyaan harga, keluhan, atau konfirmasi pembayaran.
• Menulis draf: menyusun balasan email, deskripsi produk, atau pengingat tagihan yang nadanya sopan dan seragam.
• Mengekstrak data: mengambil nama pelanggan, nomor invoice, dan nominal dari teks pesan, lalu menuliskannya ke tabel.
• Menerjemahkan: mengubah balasan untuk pelanggan luar negeri ke bahasa Inggris.

Hasilnya bergantung pada instruksi yang Anda berikan. Panduan menulis instruksi yang jelas ada di artikel Cara Membuat Prompt AI yang Efektif untuk Bisnis.

Batas LLM yang perlu Anda ketahui

Bisa salah dengan nada yakin

Google menyatakan bahwa LLM berhalusinasi, artinya prediksinya bisa mengandung kesalahan. Hugging Face menambahkan bahwa LLM dapat menghasilkan informasi keliru dengan percaya diri dan bekerja berdasarkan pola statistik, bukan pemahaman sejati tentang dunia. Cara menekan risikonya dibahas di artikel Halusinasi AI adalah.

Tidak tahu data bisnis Anda

LLM dilatih dengan data umum. Ia tidak mengetahui stok gudang, daftar harga, atau status pembayaran pelanggan Anda kecuali data itu diberikan saat ia bekerja. Teknik untuk mengambil dokumen yang relevan lalu menyerahkannya ke model disebut RAG; penjelasannya ada di artikel RAG adalah.

Punya batas ingatan per percakapan

Batas itu disebut context window. Dokumentasi Anthropic mendefinisikannya sebagai seluruh teks yang dapat dirujuk model saat menyusun jawaban, termasuk jawaban itu sendiri, dan menyebutnya sebagai memori kerja model, berbeda dengan data latihnya. Dokumentasi yang sama mengingatkan bahwa konteks yang lebih panjang tidak otomatis lebih baik: akurasi dapat menurun ketika jumlah token terus bertambah. Memilih bahan yang relevan lebih penting daripada memasukkan semua dokumen sekaligus.

Bisa membawa bias dan butuh sumber daya besar

Google dan Hugging Face sama-sama mencatat bahwa LLM dapat mereproduksi bias dari data latihnya, dan menjalankan model besar membutuhkan daya komputasi yang besar. Bagi bisnis, hal ini berarti hasil yang menyangkut pelanggan perlu diperiksa, dan biaya pemakaian perlu dihitung sejak awal. Cara membaca harga layanan AI dibahas di Biaya AI Agent untuk Bisnis.

Dari LLM ke agent yang menyelesaikan pekerjaan

LLM sendiri hanya menerima teks dan mengembalikan teks. Agar bisa menyelesaikan pekerjaan, ia perlu dilengkapi dengan aturan kerja, memori dari langkah sebelumnya, dan alat untuk membaca serta menulis data di aplikasi lain. Keempat komponen itu dijelaskan di artikel Cara Kerja AI Agent.

Karena LLM bisa keliru, agent yang dipakai untuk pekerjaan bisnis juga perlu titik pemeriksaan:

• Batasi sumber data yang boleh dibaca agent, dan sebutkan kapan ia harus berhenti lalu bertanya.
• Minta persetujuan manusia untuk langkah yang berisiko, seperti mengirim pesan ke pelanggan atau mengubah data keuangan. Lihat Human-in-the-Loop AI Agent.
• Uji agent dengan kasus yang jawabannya sudah Anda ketahui sebelum tim mengandalkannya. Daftar periksanya ada di Uji Agent AI Sebelum Tim Memakainya.

Di Bikinin.ai.id, Anda tidak perlu memilih atau mengatur LLM secara teknis. Anda menjelaskan satu pekerjaan berulang dengan bahasa biasa atau memulai dari template, menghubungkan Google Sheets dan aplikasi yang sudah dipakai, lalu menjalankan agent di WhatsApp dan Telegram. Setiap langkah agent bisa diperiksa sebelum dan sesudah berjalan. Alur lengkapnya ada di panduan agent AI untuk bisnis.

Mulai dari satu pekerjaan

Memahami LLM membantu Anda menilai penawaran AI dengan lebih jernih: model mana yang dipakai, data apa yang ia baca, dan siapa yang memeriksa hasilnya. Langkah berikutnya adalah memilih satu pekerjaan berulang yang hasilnya mudah diperiksa, seperti dijelaskan di Satu Pekerjaan Berulang, Satu Agent AI.

Lihat pilihan harga Bikinin.ai.id untuk mulai membuat agent pertama, atau hubungi tim kami jika Anda ingin mendiskusikan pekerjaan yang cocok untuk diserahkan ke agent.