Orang-orang lebih cenderung membeli produk setelah membaca ringkasan yang dihasilkan oleh kecerdasan buatan (AI), meskipun ringkasan tersebut berhalusinasi tentang fakta dalam 60% kasus. Sebuah studi baru dari University of California, San Diego (UCSD), menunjukkan bahwa bias kognitif dalam model bahasa besar (LLM) berdampak langsung pada perilaku konsumen, sehingga meningkatkan kekhawatiran tentang distorsi keputusan pembelian.
Temuan Inti: Kepercayaan pada AI Meski Tidak Akurat
Penelitian yang dipresentasikan pada konferensi pemrosesan bahasa alami baru-baru ini menemukan bahwa partisipan menyatakan 84% minat membeli produk setelah membaca ringkasan ulasan online yang dihasilkan AI, dibandingkan dengan hanya 52% minat saat membaca ulasan yang ditulis manusia. Hal ini terjadi meskipun sistem AI sering memalsukan informasi. Studi ini merupakan studi pertama yang mengukur dampak ini dan menyoroti bagaimana LLM mempengaruhi tindakan di dunia nyata.
Cara Kerja: Bias Kognitif dalam Permainan
Tim UCSD mengidentifikasi dua faktor utama yang mendorong tren ini:
- “Tersesat di Tengah”: LLM cenderung terlalu menekankan informasi di awal teks, sehingga membuat pembingkaian awal lebih berpengaruh.
- Pengetahuan Kedaluwarsa: AI kesulitan dengan informasi di luar data pelatihannya, sehingga mengakibatkan ketidakakuratan tentang kejadian terkini.
Bias-bias ini menghasilkan ringkasan yang tidak dapat diandalkan. Chatbot yang diuji mengubah sentimen ulasan pengguna di 26,5% kasus dan berhalusinasi 60% saat menjawab pertanyaan tentang produk.
Eksperimen: Dampak Jelas pada Pembelian
Studi ini melibatkan 70 peserta yang membaca ulasan produk asli atau ringkasan yang dihasilkan AI. Mereka yang terpapar ringkasan AI secara signifikan lebih mungkin mengungkapkan niat membeli – 83,7% untuk ulasan positif, dibandingkan 52,3% untuk ulasan asli.
Para peneliti menggunakan enam LLM, menganalisis lebih dari 1.000 ulasan produk, 1.000 wawancara media, dan 8.500 item berita untuk mengukur pergeseran sentimen, bias, dan halusinasi.
Implikasi dan Risiko: Selain Barang Konsumsi
Temuan ini tidak terbatas pada belanja. Para peneliti memperingatkan bahwa efek ini bisa jauh lebih berbahaya jika terjadi skenario berisiko tinggi:
“Pergeseran framing dapat mempengaruhi persepsi seseorang atau suatu kasus.”
Misalnya, ringkasan AI yang tidak akurat mengenai dokumen layanan kesehatan atau profil siswa dapat menimbulkan konsekuensi yang parah.
Kesimpulan
Konten yang dihasilkan AI dapat memanipulasi perilaku konsumen meskipun hanya mengarang fakta. Studi ini menegaskan perlunya kehati-hatian saat menggunakan LLM, terutama dalam pengambilan keputusan penting. Penelitian ini memberikan wawasan mengenai bias sistemik yang dapat mengubah persepsi di media, pendidikan, dan kebijakan.
