Люди з більшою ймовірністю купують товари після прочитання оглядів, згенерованих штучним інтелектом (ІІ), навіть якщо ці огляди видають вигадані факти в 60% випадків. Нове дослідження Каліфорнійського університету в Сан-Дієго (UCSD) показує, що когнітивні спотворення у великих мовних моделях (LLM) безпосередньо впливають на поведінку споживачів, викликаючи побоювання з приводу спотворених рішень про покупки.
Головний Висновок: Довіра до ІІ, Незважаючи на Неточність
Дослідження, представлене на нещодавній конференції з обробки природної мови, показало, що учасники висловили 84% інтерес до купівлі товарів після прочитання оглядів, згенерованих ІІ, порівняно з лише 52% інтересом, коли читали огляди, написані людьми. Це відбувається навіть попри те, що ІІ-системи часто фабрикують інформацію. Це перше дослідження, яке кількісно оцінило цей ефект, наголошуючи, як LLM впливають на реальні дії.
Як Це Працює: Когнітивні Спотворення в Дії
Команда UCSD виявила два ключові фактори, що визначають цю тенденцію:
- “Втрачене в Середині”: LLM схильні перебільшувати інформацію на початку тексту, роблячи початкове оформлення більш впливовим.
- Застарілі Знання: ІІ відчуває труднощі з інформацією, що виходить за рамки його навчальних даних, що призводить до неточностей щодо недавніх подій.
Ці спотворення призводять до недостовірних оглядів. Протестовані чат-боти змінили тональність відгуків користувачів у 26,5% випадків та видавали вигадані дані у 60% випадків, відповідаючи на запитання про товари.
Експеримент: Явний Вплив на Покупки
У дослідженні взяли участь 70 осіб, які читали або оригінальні відгуки про продукти, або огляди, які згенерували ІІ. Ті, хто читав огляди, згенеровані ІІ, значно частіше висловлювали намір здійснити покупку – 83,7% для позитивних відгуків проти 52,3% для оригіналів.
Дослідники використали шість LLM, проаналізувавши більше 1000 відгуків про продукти, 1000 інтерв’ю зі ЗМІ та 8500 новинних статей, щоб оцінити зрушення в тональності, спотворення та галюцинації.
Наслідки та Ризики: Виходячи за Рамки Споживчих Товарів
Висновки не обмежуються шопінгом. Дослідники попереджають, що цей ефект може бути набагато небезпечнішим у ситуаціях з високими ставками:
«Зміни у формулюваннях можуть спричинити те, як людина чи справа сприймається».
Наприклад, неточні огляди ІІ медичних документів чи профілів студентів можуть мати серйозні наслідки.
Висновок
Контент, згенерований ІІ, може маніпулювати споживчою поведінкою, навіть вигадуючи факти. Це дослідження підтверджує необхідність обережності при використанні LLM, особливо при ухваленні критичних рішень. Дослідження дає уявлення про системні спотворення, які можуть спотворювати сприйняття у ЗМІ, освіті та політиці.
