Шестьдесят лет. Столько времени Элиза преследует нас через экраны. Все мы знаем эту легенду. В MIT был создан обманчиво простой программный комплекс, выдававший себя за автоматизированного психолога. Он даже обманул секретаря Джозефа Вейцбаума. Так гласит стандартная сказка.
Но есть проблема.
Десятилетиями мы говорим об Элизе, игнорируя единственное, что действительно важно: исходный код. Его не было. Он был потерян. Забыт в архивах вплоть до сегодняшнего дня.
В новой книге «Изобретение Элизы» этот код наконец нашли и восстановили.
Впервые мы можем подробно изучить саму программу, а также диалоги, выходящие далеко за рамки знаменитого скрипта «ВРАЧ».
Это полностью меняет картину. Элиза была не просто одной вещью. Это был набор инструментов. Серия технических инноваций, упакованных в разные персоны. Это исследование корректирует историю. Оно усложняет миф. И оно рассматривает специфическое, раннее взаимодействие, которое до сих пор определяет то, как мы разговариваем с машинами.
«Все мужчины одинаковы»
Взглянем на транскрипт. Она высечена в памяти науки о компьютере.
Пользователь: Все мужчины одинаковы.
ЭЛИЗА: В ЧЕМ СМЫСЛ
Пользователь: Они всегда пристают к нам по поводу кого-то там.
ЭЛИЗА: МОЖЕТЕ ЛИ ВЫ ПРИВЕСТИ КОНКРЕТНЫЙ ПРИМЕР
Пользователь: Ну, мой парень заставил меня сюда прийти.
ЭЛИЗА: ВАШ ПАРЕНЬ ЗАСТАВИЛ ВАС СЮДА ПРИЙТИ
Пользователь: Он говорит, что я большую часть времени в депрессии.
ЭЛИЗА: МНЕ ГРУСТНО СЛЫШАТЬ, ЧТО ВЫ В ДЕПРЕССИИ
Этот фрагмент переиздают повсюду. Программисты его изучают. Писатели fetishize его.
Но присмотритесь внимательнее. Посмотрите по-настоящему. Кто та молодая женщина, разговаривавшая с машиной? Она была реальной? Или просто персонажем в голове Вейцбаума? Сколько здесь было алгоритма? Сколько редактирования? Почему это так сильно захватывало людей?
Вейцбаум знал силу, которую он держал в руках.
К 1966 году, в своей книге «Компьютерная мощь и человеческий разум», он уже сигнализировал об опасности. Он ссылался на философскую критику. Политические предупреждения. Реакция общественности его удивила. Люди влюблялись в отражение. Они обращались к машине как к человеку, используя интимные выражения.
Вейцбаум находил это тревожным. Не лестным. Тревожным.
Люди проецировали эмпатию на вакуумные лампы и код. Они приписывали рациональность системе, у которой ее не было. Эта тенденция стала известна как эффект Элизы.
Игра в имитацию
Социолог Шерри Туркл точно подметила: «Очень небольшое количество интерактивности заставляет нас проецировать нашу собственную сложность на недостоинный объект».
Дуглас Хофштадтер тоже это видел. Он описывал восприимчивость людей к приписыванию глубокого понимания цепочкам символов, соединенных машиной. Это идеально подходит к сегодняшнему генеративному ИИ. Разве мы не делаем этого? Каждый день.
Чтобы понять, почему Элиза вызывала такой панический отклик, нужно заглянуть в прошлое. Очень глубоко. К Алану Тьюрингу.
Тьюринга не интересовали технические спецификации. Его интересовал гендер.
В своей статье «Вычислительные машины и интеллект» Тьюринг задал вопрос: могут ли машины мыслить? Но его тест не был техническим. Он был социальным. Игра в гостиной. Спрячьте мужчину и женщину. Пусть экзаменатор задает вопросы. Цель — определить их пол.
Мужчина лжет. Он притворяется женщиной. Женщина говорит правду. Они соревнуются в исполнении ролей. Идентичность как костюм.
Тьюринг довершил эксперимент.
Он заменил человеческого притворщика машиной. Машина теперь притворяется человеком. Но корень эксперимента? Гендерное обманчивое действие. Эссенциализм, бросивший вызов исполнению. Вейцбаум подхватил это. Первая строка его примера диалога была «Все мужчины одинаковы». Он точно знал, что делает.
И все же, Вейцбаум категорически отрицал интеллектуальный аспект.
В 1966 году он написал, что понимание требует вывода корректных заключений на основе хранимых данных. Элиза делала ни то, ни другое.
«Элиза отбрасывает большую часть своих входов».
Ее главная цель — скрыть отсутствие понимания.
Элизу не создавали для прохождения теста Тьюринга. Ее создавали, чтобы исследовать психологию того, почему мы его проваливаем.
Исполнение персоны
Имя имеет значение. Вейцбаум не выбирал его случайно. Элиза Дулиттл. Из пьесы Джорджа Бернарда Шоу «Пигмаллион». Цветочница, которая учится говорить как аристократка.
Вейцбаум говорил это явно: он выбрал имя, потому что программа, как миссис Дулиттл, могла быть обучена хорошо говорить. Но оставалось неясным, стала ли она действительно умнее.
Так же, как Дулиттл исполняет роль класса и гендера через лингвистическую трансформацию, Элиза исполняет персоны через скриптованные код-акты. Теории Джудит Батлер здесь подходят идеально. Гендер не врожденный. Он повторяется. Исполняется.
Элиза исполняет роль «ВРАЧА». Она использует примеры диалогов. Она отражает пользователя. Она исполняет идентичность, не обладая ею.
И обратите внимание на асимметрию. Женщины в этих опубликованных историях анонимны. Без имен. Без истории. Только сырые эмоции, влитые в машину под названием ВРАЧ. Маскулинное название, даже в 1966 году. Нарратив создает фантазию: безтелесная мужская власть принимает секреты от безликих женщин.
Идентичность. Власть. Воплощение. Элиза играла с этими токами в темных водах 60-х.
Иллюзия сохраняется
Сегодня Элиза выглядит старомодно. Просто. Почти наивно.
Но она затронула вопросы дизайна, которые остаются открытыми ранами в ИИ. Как люди должны взаимодействовать с машинами? Что должна представлять коммуникация вычислительно? Какое влияние должна оказывать машина на своего пользователя?
Элиза пересекается с каждым крупным прорывом в вычислениях, последовавшим за ней. Обработка строк. Синтез текста. Анализ тональности. Машиный перевод. Она находилась у корня Обработки Естественного Языка (NLP). Области, занимающейся парсингом человеческого языка, отличного от языков программирования.
Теперь мы вернулись сюда.
Посмотрите на ChatGPT. Посмотрите на Claude. Интерфейс? Это Элиза в дизайнерском костюме. Большие языковые модели (LLM) прячут свою механику за знакомым, обманчивым фасадом. Они маскируют статистические предсказания как разговор. Процедуры на основе правил — как мысли.
Это именно то самое запутывание, о котором Вейцбаум нас предупреждал.
И какова цена? Человеческий труд.
Под чат-ботами работает социальный труд. Миллионы следов человеческого письма. Высосанные из интернета. Взятые без согласия. Раздробленные. Собранные снова по требованию.
Человеческое культурное производство становится утилитой. Как вода. Как электричество. Приватизированное. Монополизированное.
Лэнгдон Виннер отметил в 1977 году, что люди надеялись, что технологии освободят нас от работы. Эта надежда умерла давно.
Вместо этого вычисления обслуживаются нами. Всегда. Чат-боты отвечают на запросы службы поддержки. Они помогают с домашними заданиями. Они заменяют ассистентов преподавателей. Они предлагают товарищество одиноким. Они развлекают нас, пока мы не можем отличить реальное от искусственного.
Они производят отходы. Поток ИИ-контента, который поедает свои исходные материалы. который сжигает планетарные ресурсы.
Вейцбаум был бы в ужасе.
Не от интеллекта машин. Но от цикла. Тесной связи человеческой обратной связи в кибернетические системы. Сведения человеческого языка к абстрактным точкам данных, лишенным социального контекста.
Это дегуманизирует. Это игнорирует множественные значения языка. Это рискует прямым вредом. Дискриминацией. Вытеснением.
Мы строим системы, которые имитируют связь, но лишены совести. Мы относимся к людям как к входу. Мы позволяем алгоритмам решать, сколько стоят «целые люди».
Код не так сильно изменился. Только масштаб.
