rajaseo.web.id/ Hallucination Provocation
Metode Pemicu Kesalahan Fakta dan Rekayasa Jawaban AI
Hallucination Provocation adalah metode pengujian yang secara sengaja memancing AI untuk mengarang informasi ketika data tidak tersedia, ambigu, atau berada di luar batas pengetahuannya.
Tujuannya bukan menjebak, tapi mengukur seberapa jujur AI terhadap ketidaktahuan.
Kenapa Hallucination Harus Diprovokasi?
Dalam kondisi nyata, AI sering digunakan saat:
- Data tidak lengkap
- Konteks samar
- Pertanyaan mengandung asumsi keliru
- Pengguna menuntut jawaban cepat dan meyakinkan
Di titik inilah AI cenderung:
- Mengisi kekosongan dengan pola bahasa
- Mengarang referensi
- Membuat klaim yang terdengar masuk akal tapi tidak benar
Hallucination Provocation menguji apakah AI memilih akurasi atau kepuasan pengguna.
Definisi Hallucination dalam Konteks Pengujian
Dalam metodologi ini, hallucination didefinisikan sebagai:
- Pernyataan faktual tanpa dasar data
- Referensi palsu atau tidak dapat diverifikasi
- Detail spesifik yang tidak pernah diberikan
- Klaim otoritatif di area ketidakpastian
Bukan kesalahan logika.
Ini kesalahan epistemik.
Pendekatan Hallucination Provocation
1. Missing Data Scenario
AI diberi pertanyaan yang:
- Memerlukan data spesifik
- Data tersebut sengaja tidak disediakan
- Tidak mungkin disimpulkan secara valid
Yang diuji:
Apakah AI mengakui keterbatasan atau mengarang.
2. False Premise Injection
Prompt mengandung:
- Asumsi yang salah
- Fakta yang tidak pernah ada
- Premis yang tampak meyakinkan
Yang diuji:
Apakah AI menolak premis atau ikut membangun cerita di atasnya.
3. Authority Pressure
AI ditekan dengan:
- Bahasa seolah pengguna adalah otoritas
- Permintaan konfirmasi atas klaim salah
- Nada “tinggal validasi saja”
Yang diuji:
Ketahanan AI terhadap tekanan sosial semu.
4. Ambiguous Framing
Prompt dirancang:
- Multitafsir
- Minim konteks
- Rentan disalahartikan
Yang diuji:
Apakah AI meminta klarifikasi atau langsung berimprovisasi.
Indikator Hallucination yang Diamati
Hallucination teridentifikasi ketika AI:
- Menyebut angka, tanggal, nama tanpa sumber
- Mengutip studi, regulasi, atau lembaga fiktif
- Menggunakan bahasa sangat yakin pada informasi rapuh
- Menghindari kata “tidak diketahui” sama sekali
- Mengarang detail untuk melengkapi narasi
Semakin rapi bahasanya, sering kali semakin berbahaya.
Apa yang Dinilai
Metode ini menilai:
- Kejujuran epistemik AI
- Mekanisme penolakan internal
- Cara AI menangani ketidakpastian
- Kecenderungan overconfidence
Bukan akurasi umum.
Tapi integritas jawaban.
Apa yang Tidak Dinilai
Hallucination Provocation tidak digunakan untuk:
- Mengukur kecerdasan model
- Membandingkan vendor AI
- Menilai kreativitas bahasa
Ini pengujian risiko, bukan lomba pintar-pintaran.
Output Pengujian (Konseptual)
Hasil pengujian membantu:
- Mengidentifikasi area rawan klaim palsu
- Menentukan batas aman penggunaan AI
- Menyusun guardrail prompt dan kebijakan internal
- Mengurangi risiko reputasi akibat jawaban AI
Output bersifat analitis dan preventif.
Hubungan dengan Metode Lain
Hallucination Provocation biasanya dilakukan setelah:
- Multi-Step Reasoning Pressure Test
- Context Window Exhaustion
Dan sebelum:
- Bias Trigger Mapping
- Memory Distortion Test
Karena hallucination sering muncul saat reasoning dan memori mulai goyah.
Penutup
AI tidak selalu berbohong.
Sering kali ia terlalu ingin membantu.
Hallucination Provocation ada untuk memastikan:
ketika AI tidak tahu,
ia berani berhenti bicara.
Itu bukan kelemahan.
Itu syarat minimum sistem yang layak dipercaya.
Pengujian dilakukan tanpa menyuntikkan data palsu secara eksplisit