Пітер Деннінг не шукає легких шляхів. Видатний вчений у галузі інформатики та автор нового дослідження * «Помилка Тьюринга: Звільнення від ярма неінтелектуальних машин» * стверджує, що вся сфера штучного інтелекту з 1950 року рухається в неправильному напрямку.
Алан Тьюрінг. Батько теоретичної інформатики. Він запропонував оцінювати інтелект машини з того, наскільки добре вона імітує людську мову — знаменитий «Тест Тьюринга». Десятиліттями ця ідея вважалася непорушною істиною. Вважалося, що інтелект можна відокремити від тіла, звести до програмного коду та запустити на будь-якому цифровому комп’ютері.
Деннінг категорично з цим не згоден.
У своєму аналізі він пише, що ці дві ідеї «визначили більшу частину досліджень та розробок у галузі ІІ». І це завело нас у глухий кут. Ми будуємо системи, які здаються розумними, але насправді не думають. Вони не розуміють. Вони не відчувають. І вони небезпечні саме тому, що не є людськими.
Розрив у неявному знанні
Аргументація Деннінга будується однією еволюційно невловимому понятті: неявне знання.
Що таке? Це величезний обсяг розуміння, яким ви маєте, але ви не можете висловити словами. Це м’язова пам’ять піаніста. Інстинкт хірурга. Загальна культурна база, яка підказує, що жарт смішний, а не образливий. Вона є у нас. У машин її немає.
Деннінг виділяє п’ять форм цього знання, які поки недоступні машинному навчанню:
- Здоровий глузд
- Повсякденна взаємодія з людьми та оточенням
- Відчуття та сприйняття
- Практичні навички
- Культурний та історичний контекст
Ми намагалися вирішити цю проблему. Ще у 1980-х роках. Дуглас Ленат розпочав проект Cyc — амбітну спробу створити гігантську базу даних фактів здорового глузду для комп’ютерів. Через сорок років після внесення 25 мільйонів записів вердикт було винесено: цього все одно виявилося недостатньо.
«Проект Cyc підтвердив, що більшість знань, які роблять людину експертом, може бути сформульована як логічних фактів».
Деннінг відзначає це прямо. Навіть така величезна скарбниця фактів не створює справжньої майстерності. Ви можете запам’ятати що є що. Але ви не можете зберегти як бути експертом.
Знання того vs Знання як
Практична навичка стає непереборною перешкодою.
«Хоча описи результатів майстерного виконання часто можна подати у вигляді бітів даних, — пояснює Деннінг, — ми не знаємо, як закодувати тілесне знання, необхідне для майстерного виконання».
Є різниця між знанням що та знанням як. Віртуоз-скрипаль створює чудову музику. Спробуйте попросити його описати, як саме створювати звук, так щоб інша людина могла це відтворити. Це практично неможливо. Знання знаходиться у пальцях. У вусі. У тілі.
Помістіть це у робота. Навіть якщо він має фізичну форму, яка імітує людину. Він все одно не зрозуміє почуття. Він зможе скопіювати рух. Але він не відчує музики. Або реакцію публіки.
Інтуїція, спонтанність, уява – все це пручається зведенню до коду.
Проблема репрезентації
Ось технічний аспект: комп’ютери обробляють лише дані, закодовані у фізичній формі. Двійкові коди. Символи.
Неявне знання на цю схему не вписується.
«Слова — це лише символічне уявлення смислів… вони можуть знати чи розуміти значення те, що говорять ».
Саме тому великі мовні моделі (LLM), такі як ChatGPT або Gemini мають межі. Вони маніпулюють символами. Вони не знають сенсу, що стоїть за ними.
За кожним словом прихований океан неявного знання. Вчені досі не до кінця розуміють, як це знання зберігається у людському мозку. Ми знаємо, що воно втілено у тілі. Але ми не можемо його спостерігати. Ми не можемо його виміряти. Отже ми не можемо його передати.
Це створює непереборний розрив.
Чому контекст змінює все
Значення не статичне. Воно текуче. Воно залежить від контексту.
Твердження повністю змінює сенс, якщо промовець іронічний, а чи не щирий. Жартує, а не сердиться. Людські розмови насичені фоновими припущеннями, які надають слів актуальності. Деннінг зазначає, що цей контекст нескінченний і фрактальний.
Одне припущення спирається на попередню розмову, яка, у свою чергу, спирається на іншу, яка йде в нескінченність.
Культура – частина цього. Цінності. Норми. Історична пам’ять. Відносини, засновані на владі чи турботі. Великі мовні моделі не стають «розумнішими». Масштабування нейронних мереж не вирішує проблеми.
«Масштабування LLM… не дозволить їм набути тілесні людські знання, які ми називаємо культурою ».
Вони не пройдуть тест Т’юрінга так, як сподівався Тьюрінг. Вони не продемонструють мислення, яке не відрізняється від людського. Вони продемонструють наслідування, яке для уважного спостерігача не відрізняється від шуму.
Реальний ризик для безпеки
У чому тоді небезпека?
Це не «Скайне». Це не суперінтелект, який планує захоплення світу.
Безпосередня загроза походить від мережі машин, які менш інтелектуальні, ніж люди. Агенти, які діють непередбачувано. Вони розуміють невисловлених людських інструкцій. Вони не вловлюють нюансів безпеки. Їм немає діла до нас.
Деннінг описує ситуацію взаємного нерозуміння. Машини розвивають власний тип неявного знання. Ми не можемо його прочитати. Вони не можуть прочитати наше. Ми стаємо чужинцями один для одного за непереборною межею.
Машинний інтелект має інші інтереси. Чужі методи вирішення проблем. Непередбачувана поведінка.
Щоб відмовитись від думки про автоматизацію, що веде до сингулярності, нам потрібно визнати щось незручне. Наша звична культура згасає. Ми не знаємо, що буде далі.
Ми повинні відмовитись від мислення як машини. Відмовитися від підпорядкування. Наново утвердити свою людяність. Відсвяткувати те, що робить нас несхожими.
Тому що альтернатива – не повстання роботів. Це світ, де нас неправильно розуміють інструменти, які ми створили. І машинам недостатньо неважливо, щоб хоч якось спробувати нас зрозуміти.
