Halusinasi AI
Dalam konteks AI, Halusinasi adalah respons percaya diri yang dihasilkan oleh Model Bahasa Besar yang tidak selaras dengan data pelatihannya atau fakta dunia nyata. Hal ini terjadi ketika model "menciptakan" informasi untuk mengisi kesenjangan pengetahuan, seringkali karena data sumber yang berwenang dan terstruktur hilang atau tidak jelas.
Mengapa Halusinasi Berisiko bagi Merek
Halusinasi AI menimbulkan risiko serius bagi bisnis. LLM dapat menciptakan kode diskon palsu untuk toko Anda, salah mengutip kebijakan pengembalian Anda, mengaitkan fitur pesaing dengan produk Anda, atau mengutip harga yang sudah usang. Fabrikasi ini merusak kepercayaan pelanggan dan dapat menimbulkan tanggung jawab hukum. Akar penyebabnya biasanya adalah data yang hilang atau buruk strukturnya—ketika AI tidak dapat menemukan informasi yang jelas dan berwenang, ia mengisi kekosongan dengan tebakan probabilistik. Pertahanan utama adalah data terstruktur melalui JSON-LD dan Knowledge Graphs. Dengan secara eksplisit menyatakan fakta dalam format yang dapat dibaca mesin, Anda memberikan model AI informasi yang jelas dan dapat diverifikasi untuk dikutip alih-alih memaksanya untuk berhalusinasi jawaban.
Respons AI Faktual vs. Halusinasi
Dampak Dunia Nyata
Pengguna bertanya ke chatbot tentang produk yang dihentikan
AI berhalusinasi: "Produk X tersedia, $49.99"
Pelanggan memesan, menemukan kebenaran, menuntut pengembalian dana
Skema produk mencakup "ketersediaan": "Dihentikan"
AI menyatakan dengan benar: "Produk X dihentikan"
Pelanggan mendapatkan info akurat, mengeksplorasi alternatif