Halusinasi AI Adalah: Penyebab, Contoh, dan Cara Mencegahnya

Halusinasi AI adalah kondisi ketika model AI, misalnya chatbot berbasis model bahasa besar (LLM), menghasilkan jawaban yang terdengar meyakinkan tetapi salah, tidak didukung sumber, atau sepenuhnya karangan. Penyebabnya terletak pada cara model bekerja: ia menyusun jawaban yang masuk akal secara statistik, bukan memeriksa kebenarannya. Halusinasi tidak bisa dihilangkan sepenuhnya, tetapi risikonya dapat ditekan dengan membatasi sumber data, menguji agent, dan meminta persetujuan manusia untuk keputusan penting.

Apa itu halusinasi AI?

IBM mendefinisikan halusinasi AI sebagai fenomena ketika model bahasa besar, chatbot AI generatif, atau alat visi komputer melihat pola atau objek yang tidak ada, sehingga menghasilkan output yang tidak masuk akal atau tidak akurat. Dalam penjelasan versi bahasa Inggrisnya, IBM merinci bentuknya: fakta palsu, studi yang tidak pernah ada, URL yang tidak bisa dibuka, atau detail keliru tentang orang dan organisasi yang nyata.

Yang membuat halusinasi berbeda dari kesalahan biasa adalah rasa yakinnya. Menurut IBM, kesalahan AI mencakup hal seperti informasi yang sudah usang atau jawaban yang terlalu umum, sedangkan halusinasi adalah jenis kesalahan ketika sistem dengan yakin menyusun informasi yang salah atau dikarang. Karena bentuknya mengikuti pola tulisan yang benar, halusinasi lebih sulit dikenali.

Anthropic, pembuat Claude, menyebut halusinasi lebih buruk daripada kesalahan biasa karena AI dapat terlihat sangat yakin, bahkan berusaha meyakinkan pengguna bahwa jawabannya benar.

Mengapa AI bisa berhalusinasi?

Model menebak kata berikutnya, bukan memeriksa fakta

Model bahasa menyusun jawaban dengan memperkirakan token (kata atau simbol) berikutnya berdasarkan konteks sebelumnya. IBM menjelaskan bahwa proses ini adalah pencocokan pola statistik: model mengejar jawaban yang masuk akal di dalam pola, bukan kebenaran tentang dunia. Hal seperti keabsahan hukum atau ketepatan ilmiah tidak tersimpan langsung di dalam model, sehingga teks yang terdengar benar belum tentu memenuhi kriteria tersebut.

Pelatihan dan evaluasi menghargai tebakan

Makalah Why Language Models Hallucinate oleh Adam Tauman Kalai, Ofir Nachum, Santosh S. Vempala, dan Edwin Zhang (diunggah ke arXiv pada 4 September 2025) mengibaratkan model bahasa seperti pelajar yang menghadapi soal ujian sulit: saat tidak yakin, model menebak alih-alih mengakui tidak tahu. Para penulis berpendapat hal ini terjadi karena prosedur pelatihan dan evaluasi memberi nilai lebih pada tebakan dibandingkan pengakuan ragu, sehingga model dioptimalkan menjadi peserta ujian yang baik.

Data pelatihan yang keliru atau tidak lengkap

Model belajar dari data yang dilihatnya. Bila data itu mengandung kesalahan, bias, atau celah, model mempelajarinya sebagai pola yang wajar. IBM mencatat bahwa kumpulan data pelatihan sangat besar sehingga tidak mungkin diperiksa seluruhnya oleh manusia.

Informasi yang diminta langka atau sangat spesifik

Anthropic menjelaskan bahwa ketika pengguna menanyakan hal yang langka, misalnya makalah dari peneliti yang tidak dikenal luas, data yang bisa dipakai model sangat sedikit. Model tetap berusaha membantu, lalu menebak, dan tebakan itu bisa salah.

Input yang sengaja menyesatkan

IBM juga menyebut serangan adversarial dan prompt injection sebagai penyebab. Penyerang menyisipkan instruksi atau konteks palsu ke dalam input agar model mengabaikan aturan yang sudah dipasang dan menghasilkan output yang mengikuti instruksi sisipan itu.

Jenis-jenis halusinasi AI

IBM membagi halusinasi AI generatif menjadi tiga jenis. Kolom contoh di bisnis pada tabel berikut adalah ilustrasi untuk memudahkan pemahaman, bukan kasus nyata.

Jenis	Artinya	Ilustrasi di bisnis
Halusinasi faktual	AI menyatakan informasi yang salah tentang dunia nyata, termasuk peristiwa, orang, statistik, atau detail teknis yang tidak ada.	Chatbot menyebut toko Anda buka hari Minggu, padahal tutup.
Halusinasi kontekstual	AI seharusnya menjawab dari dokumen atau basis data tertentu, tetapi memakai pengetahuan umum model atau mencampur fakta dari beberapa sumber.	Diberi daftar harga terbaru, AI justru menyebut harga produk serupa dari toko lain.
Halusinasi konsistensi	AI bertentangan dengan dirinya sendiri dalam satu percakapan.	Di awal chat AI bilang ongkos kirim ditanggung pembeli, lalu beberapa pesan kemudian menyebutnya gratis.

Untuk halusinasi kontekstual, IBM memberi contoh nyata: fitur AI Overview milik Google pernah menyarankan pengguna menambahkan lem nontoksik ke saus pizza agar keju lebih menempel. Jawaban itu berasal dari lelucon di Reddit tahun 2013.

Contoh halusinasi AI yang tercatat

Beberapa kasus berikut didokumentasikan oleh sumber yang dikutip:

• Chatbot Bard dan teleskop James Webb. Menurut IBM, Bard milik Google keliru mengklaim bahwa Teleskop Luar Angkasa James Webb menangkap gambar pertama planet di luar tata surya kita.
• Demo Galactica dihentikan. IBM mencatat Meta menghentikan demo LLM Galactica pada 2022 setelah model itu memberikan informasi yang tidak akurat kepada pengguna.
• Kutipan putusan pengadilan yang dikarang. Pada 2023, seorang pengacara di Amerika Serikat memakai ChatGPT untuk membantu menyusun dokumen pengadilan dan meminta contoh putusan pendukung. Menurut IBM, ChatGPT memberikan daftar perkara lengkap dengan nama, nomor perkara, dan kutipan. Saat diperiksa, beberapa perkara itu ternyata tidak pernah ada.
• Chatbot maskapai dan tarif duka. Dalam putusan Moffatt v. Air Canada tertanggal 14 Februari 2024, Civil Resolution Tribunal di British Columbia, Kanada, mencatat bahwa chatbot di situs Air Canada menyarankan penumpang bisa mengajukan tarif duka (bereavement fare) setelah tiket dibeli, dalam 90 hari. Halaman kebijakan maskapai itu sendiri menyatakan sebaliknya.

Kasus Air Canada relevan untuk pemilik usaha. Maskapai berargumen tidak bisa dimintai tanggung jawab atas informasi dari chatbot. Tribunal menolak argumen itu dan menyatakan chatbot tetap bagian dari situs Air Canada, sehingga perusahaan bertanggung jawab atas semua informasi di situsnya, baik dari halaman statis maupun chatbot. Air Canada diperintahkan membayar total 812,02 dolar Kanada, terdiri dari ganti rugi, bunga, dan biaya tribunal.

Putusan itu menyebut kasusnya sebagai pernyataan keliru karena kelalaian (negligent misrepresentation), tanpa menjelaskan teknologi di balik chatbot. Pelajarannya tetap sama: jawaban yang diberikan atas nama bisnis Anda dianggap sebagai jawaban bisnis Anda.

Kapan risiko halusinasi meningkat?

Menurut Anthropic, halusinasi lebih mungkin muncul pada situasi berikut:

• Pertanyaan meminta fakta spesifik, statistik, atau kutipan sumber.
• Topiknya langka, sangat khusus, atau sangat baru.
• Pertanyaan menyangkut orang atau tempat yang nyata tetapi tidak dikenal luas.
• Jawaban membutuhkan detail persis seperti tanggal, nama, atau angka.

Bagi bisnis, daftar ini mencakup pertanyaan pelanggan seperti harga, stok, jam buka, nomor rekening, tanggal jatuh tempo, dan syarat garansi. Semua itu adalah detail persis yang khusus untuk usaha Anda dan tidak ada di data pelatihan model umum.

Risiko juga bertambah ketika AI bekerja dalam beberapa langkah. IBM menjelaskan bahwa dalam alur kerja multi-agent, satu halusinasi bisa menjadi asumsi awal bagi langkah berikutnya. Agent kedua menganggapnya fakta, agent ketiga merangkumnya, dan hasil akhirnya tampak rapi padahal premisnya salah. IBM menyebutnya halusinasi berantai. Bila Anda ingin memahami bagaimana agent mengambil langkah, baca Cara Kerja AI Agent dan Agentic AI Adalah.

Cara mencegah halusinasi AI di bisnis

Tidak ada satu cara yang menghapus halusinasi. Dokumentasi Anthropic menyatakan bahwa teknik pengurangan halusinasi tidak menghilangkannya sepenuhnya, sehingga informasi penting tetap perlu divalidasi. Langkah-langkah berikut dapat dipakai bersama.

1. Batasi sumber jawaban ke data bisnis Anda. Dengan RAG, model mencari informasi dari basis pengetahuan yang Anda tentukan sebelum menjawab. IBM menjelaskan bahwa RAG mendorong sistem mengambil jawaban dari informasi tepercaya, dan hasilnya dapat disertai kutipan. Anthropic juga menyarankan instruksi eksplisit agar model hanya memakai dokumen yang diberikan. Penjelasan lengkapnya ada di RAG Adalah, dan prinsip menyambungkan data ada di Sambungkan Data yang Sudah Perusahaan Pakai ke Agent AI.
2. Izinkan AI mengatakan tidak tahu. Anthropic menyarankan memberi izin eksplisit kepada model untuk mengakui ketidakpastian, misalnya dengan instruksi agar menjawab "informasinya tidak cukup" bila dokumen tidak memuat jawabannya. IBM menyebut aturan seperti "jika tidak yakin, katakan tidak tahu" sebagai pagar pembatas yang mengurangi kecenderungan model mengarang.
3. Minta kutipan, lalu cocokkan. Untuk dokumen panjang, Anthropic menyarankan model mengambil kutipan kata per kata lebih dulu sebelum mengerjakan tugasnya. Setelah jawaban disusun, model dapat diminta mencari kutipan pendukung untuk setiap klaim dan menarik klaim yang tidak punya kutipan.
4. Tulis instruksi yang terstruktur. IBM menjelaskan bahwa prompt yang samar mengundang model menebak. Prompt terstruktur menyebutkan tugas, format input, format output, dan aturan, misalnya "jika risiko tidak disebutkan secara eksplisit, jangan menyimpulkannya".
5. Uji dengan pertanyaan yang jawabannya sudah Anda ketahui. IBM menyarankan set uji berisi pertanyaan nyata dengan jawaban terverifikasi untuk mengukur akurasi dari waktu ke waktu. Untuk usaha kecil, set ini bisa berupa pertanyaan pelanggan yang benar-benar masuk beserta jawaban yang sudah dicek. Daftar periksanya ada di Uji Agent AI Sebelum Tim Memakainya.
6. Tetapkan pekerjaan mana yang wajib disetujui manusia. IBM menjelaskan pola pembagian tingkat risiko: penggunaan berisiko tinggi seperti dokumen hukum atau laporan ke regulator membutuhkan verifikasi ketat, sedangkan penggunaan berisiko rendah seperti curah gagasan internal atau draf email boleh lebih longgar. Di bisnis kecil, pesan yang menyangkut uang, janji ke pelanggan, atau data pribadi layak masuk kelompok yang disetujui dulu. Polanya dibahas di Human-in-the-Loop AI Agent.
7. Pantau hasilnya setelah berjalan. IBM menyebut pengurangan halusinasi bukan perbaikan sekali jadi dan membutuhkan pemantauan berkelanjutan: kapan model gagal, di mana, dan dalam kondisi apa. Jejak setiap langkah membantu Anda menemukan jawaban yang keliru dan memperbaiki instruksinya. Lihat juga Yang Terlihat Pemilik Setelah Agent AI Berjalan.

Cara memeriksa jawaban AI sebelum dipakai

Untuk Anda dan tim yang memakai chatbot AI dalam pekerjaan sehari-hari, Anthropic memberikan beberapa saran pemeriksaan:

• Minta AI menyebutkan sumber untuk klaimnya, lalu minta ia memeriksa apakah sumber itu benar-benar mendukung klaim tersebut.
• Sampaikan di awal bahwa tidak apa-apa bila AI tidak tahu jawabannya.
• Tanyakan seberapa yakin AI dengan jawabannya dan bagian mana yang mungkin salah.
• Buka percakapan baru dan minta AI mencari kesalahan dalam jawaban sebelumnya.
• Untuk pekerjaan penting, cocokkan angka, tanggal, nama, dan kutipan dengan sumber tepercaya.

IBM menambahkan sudut pandang yang berguna untuk tim: perlakukan AI generatif sebagai asisten penyusun draf dan riset, bukan sebagai otoritas.

Mengurangi risiko halusinasi dengan agent di Bikinin

Halusinasi menjadi masalah bisnis ketika jawaban AI langsung sampai ke pelanggan tanpa batas sumber dan tanpa pemeriksaan. Di Bikinin.ai.id, agent disusun untuk satu pekerjaan berulang, seperti membalas pertanyaan pelanggan dari pengetahuan bisnis atau mengingatkan tagihan jatuh tempo lewat WhatsApp dan Telegram. Bila Anda belum menentukan pekerjaannya, mulai dari Satu Pekerjaan Berulang, Satu Agent AI.

Menurut panduan agent AI untuk bisnis, agent hanya mengakses sumber data yang disebut dalam penjelasan pekerjaan, dan Anda dapat melihat sumber mana yang tersambung. Agent dirancang untuk berhenti dan bertanya saat ragu, sehingga stok kurang atau alamat kosong ditanyakan, bukan ditebak. Agent diuji dengan contoh lebih dulu, dan selama uji tidak ada pesan yang benar-benar terkirim; yang dibuat hanya draf. Panduan itu juga menyarankan mulai dengan mode setujui-dulu sebelum melonggarkan untuk kasus rutin. Untuk layanan pelanggan, persiapannya dibahas di AI Agent Customer Service WhatsApp.

Semua paket di halaman harga mencakup eval dan jejak proses, sehingga hasil tiap langkah dapat Anda periksa. Bila Anda punya satu pekerjaan yang jawabannya harus tepat, misalnya pertanyaan harga atau status pesanan, ceritakan pekerjaannya. Tim Bikinin membaca penjelasan Anda, membalas lewat email, dan bila cocok, uji disusun bersama.