Питер Деннинг не ищет легких путей. Выдающийся ученый в области информатики и автор нового исследования «Ошибка Тьюринга: Освобождение от ярма неинтеллектуальных машин» утверждает, что вся сфера искусственного интеллекта с 1950 года движется в неверном направлении.
Алан Тьюринг. Отец теоретической информатики. Он предложил оценивать интеллект машины по тому, насколько хорошо она имитирует человеческую речь, — знаменитый «Тест Тьюринга». Десятилетиями эта идея считалась непреложной истиной. Считалось, что интеллект можно отделить от тела, свести к программному коду и запустить на любом цифровом компьютере.
Деннинг категорически с этим не согласен.
В своем анализе он пишет, что эти две идеи «определили большую часть исследований и разработок в области ИИ». И это завело нас в тупик. Мы строим системы, которые кажутся умными, но на самом деле не думают. Они не понимают. Они не чувствуют. И они опасны именно потому, что не являются человеческими.
Разрыв в неявном знании
Аргументация Деннинга строится на одном эволюционно неуловимом понятии: неявное знание.
Что это такое? Это огромный объем понимания, которым вы обладаете, но не можете выразить словами. Это мышечная память пианиста. Инстинкт хирурга. Общая культурная база, которая подсказывает, что шутка смешна, а не оскорбительна. Она есть у нас. У машин её нет.
Деннинг выделяет пять форм этого знания, которые пока недоступны машинному обучению:
- Здравый смысл
- Повседневное взаимодействие с людьми и окружением
- Ощущения и восприятия
- Практические навыки
- Культурный и исторический контекст
Мы пытались решить эту проблему. Еще в 1980-х годах. Дуглас Ленат начал проект Cyc — амбициозную попытку создать гигантскую базу данных фактов здравого смысла для компьютеров. Спустя сорок лет, после внесения 25 миллионов записей, вердикт был вынесен: этого все равно оказалось недостаточно.
«Проект Cyc подтвердил, что большая часть знаний, делающих человека экспертом, не может быть сформулирована в виде логических фактов».
Деннинг отмечает это прямо. Даже такая огромная сокровищница фактов не создает настоящего мастерства. Вы можете запомнить что есть что. Но вы не можете сохранить как быть экспертом.
Знание того vs Знание как
Практический навык становится непреодолимым препятствием.
«Хотя описания результатов мастерского исполнения часто можно представить в виде битов данных, — поясняет Деннинг, — мы не знаем, как закодировать телесное знание, необходимое для мастерского выполнения ».
Есть разница между знанием что и знанием как. Виртуоз-скрипач создает прекрасную музыку. Попробуйте попросить его описать, как именно создавать звук, так чтобы другой человек мог это воспроизвести. Это практически невозможно. Знание находится в пальцах. В ухе. В теле.
Поместите это в робота. Даже если у него есть физическая форма, имитирующая человека. Он все равно не поймет чувства. Он сможет скопировать движение. Но он не почувствует музыку. Или реакцию публики.
Интуиция, спонтанность, воображение — все это сопротивляется сведению к коду.
Проблема репрезентации
Вот технический нюанс: компьютеры обрабатывают только данные, закодированные в физической форме. Двоичные коды. Символы.
Неявное знание в эту схему не вписывается.
«Слова — это лишь символическое представление смыслов… они не могут знать или понимать значение того, что говорят ».
Именно поэтому большие языковые модели (LLM), такие как ChatGPT или Gemini, имеют пределы. Они манипулируют символами. Они не знают смысла, стоящего за ними.
За каждым словом скрыт океан неявного знания. Ученые до сих пор не до конца понимают, как это знание хранится в человеческом мозге. Мы знаем, что оно воплощено в теле. Но мы не можем его наблюдать. Мы не можем его измерить. Следовательно, мы не можем его передать.
Это создает непреодолимый разрыв.
Почему контекст меняет всё
Значение не статично. Оно текуче. Оно зависит от контекста.
Утверждение полностью меняет смысл, если говорящий ироничен, а не искренен. Шутит, а не злится. Человеческие разговоры насыщены фоновыми предположениями, которые придают словам актуальность. Деннинг отмечает, что этот контекст бесконечен и фрактален.
Одно предположение опирается на предыдущий разговор, который, в свою очередь, опирается на другой, уходящий в бесконечность.
Культура — часть этого. Ценности. Нормы. Историческая память. Отношения, основанные на власти или заботе. Большие языковые модели не становятся «умнее». Масштабирование нейронных сетей не решает проблему.
«Масштабирование LLM… не позволит им приобрести телесные человеческие знания, которые мы называем культурой ».
Они не пройдут тест Тьюринга так, как надеялся Тьюринг. Они не продемонстрируют мышление, неотличимое от человеческого. Они продемонстрируют подражание, которое для внимательного наблюдателя неотличимо от шума.
Реальный риск для безопасности
В чем тогда опасность?
Это не «Скайнет». Это не суперинтеллект, планирующий захват мира.
Непосредственная угроза исходит от сети машин, которые менее интеллектуальны, чем люди. Агенты, действующие непредсказуемо. Они не понимают невысказанных человеческих инструкций. Они не улавливают нюансы безопасности. Им нет дела до нас.
Деннинг описывает ситуацию взаимного непонимания. Машины развивают свой собственный тип неявного знания. Мы не можем его прочесть. Они не могут прочесть наше. Мы становимся чужаками друг для друга за непреодолимой чертой.
Машинный интеллект имеет иные интересы. Чуждые методы решения проблем. Непредсказуемое поведение.
Чтобы отказаться от мысли об автоматизации, ведущей к сингулярности, нам нужно признать нечто неудобное. Наша привычная культура угасает. Мы не знаем, что будет дальше.
Мы должны отказаться от мышления как машины. Отказаться от подчинения. Заново утвердить свою человечность. Отпраздновать то, что делает нас непохожими.
Потому что альтернатива — не восстание роботов. Это мир, где нас неправильно понимают инструменты, которые мы сами создали. И машинам недостаточно неважно, чтобы хоть как-то попытаться нас понять.
