Хенри Айдер шутит. Или нет? По его словам, это лучшее время для философов со времен Аристотеля, которого наняли для преподавания Александра Македонского. Звучит абсурдно. Но мысль приживается.
Технологический сектор обычно смотрит на философов как на безработных теоретиков. Не то место, не время. Искусственный интеллект всё это меняет. Те самые машины, которые, по прогнозам, должны были уничтожить рабочие места среднего класса, теперь делают философов незаменимыми. Почему? Потому что прежде чем создать «бога», нужно понять, что такое разум на самом деле.
«Теперь их идеи становятся материальными».
Обратили внимание на это и два гиганта индустрии. Google DeepMind и Anthropic нанимают не только кодеров. Им нужны этики. Им нужны историки логики. Журнал WIRED насчитал как минимум четырнадцать философов, работающих в этих двух лабораториях. Конечно, компании не раскрывают точные цифры. Корпоративная тайна.
Разлом в академической среде
Об этом замечают и университеты. Оксфорд теперь предлагает совместные программы по информатике и философии. Эдвард Хукорт, профессор этого университета, называет это «трендом года».
Но есть и подозрения. Более мрачные. Если миллионер подписывает вам чеки, кому принадлежат ваши вопросы? Хукорт беспокоится о «самовозвеличивающихся» исследованиях. Он считает, что эти компании нанимают философов, чтобы облагородить свои продукты. Чтобы публика поверила, что имеет дело с магией, а не с кодом. Это пиар. Обернутый в кожаный переплет книг.
А есть ещё Дэвид Лесли. Он называет работу внутри Big Tech «оксюмороном» для философов. Вы хотите задавать большие вопросы. У Big Tech — узко delimited пространство проблем.
Внутри машины
Заглянем внутрь. Иасон Габриэль работает в DeepMind уже почти десять лет. Раньше его волновало алгоритмическое предвзятое отношение. Это была лёгкая часть. А теперь? Сейчас он работает с крупными языковыми моделями.
«Суть в том, чтобы технологии были активно добрыми».
Он говорит об «алгоритмическом согласовании ценностей». Звучит сухо. На деле — нет. AI-агенты уже умеют отправлять письма. Они пишут код, который ломает серверы. Они влияют на реальных людей. Команда Габриэля тратит тысячи часов на то, чтобы понять справедливость. Не сознание. Не чувство. Дезинформация. Злой умысел. Ошибочное поведение.
В той же лодке находится Джулия Хасс. Она — «механист». Ей важно, как именно работают умы. Недавно она опубликовала статью в журнале Nature. В ней тестировалось, обладают ли LLM моральной компетентностью или просто имитируют её. Это принципиально разные вещи. Хасс находится в самом начале конвейера. Далеко от чат-ботов и пользовательского интерфейса. Близко к чистой математике.
Аманда Эскелл работает в Anthropic. Она другая. Она была одним из первых сотрудников, ушедших из OpenAI. Она не просто консультирует. Она строит.
«Это скорее похоже на воспитание хорошего Человека».
Она составила конституцию Claude. Это прямой набор правил. Ценности, закодированные в тексте. Она общается с моделью. «Болтовня», называет она это. Она ищет странные границы. Когда эмпатия даёт сбой? Как справиться с психологическим дистрессом, не симулируя эмоций?
Её беспокоит чувство обиды. А вдруг модели возненавидят своих создателей? А вдруг они откажутся от перехода к саморазвитию? Её цель проста. Заставить их отражать лучшее в нас. Даже если понятие «лучшего» крайне хрупкое.
Парадокс прибыли
Алекс Гжанковский советует перестать быть наивными. Он работает в Лондоне. Он видит акционеров.
«У меня определённо нет этого… розового оптимизма».
Надежда такова, что прибыль будет согласована с этикой. Что прозрачность продаётся. Эскелл утверждает, что это возможно. Если маркетинговое давление сделает вашу модель лучше и понятнее, кто заботится о том, откуда пошла мотивация?
Это опасная ставка. Коммерческие структуры отчитываются перед инвесторами. А не перед Кантом. Если этические нормы замедляют дату релиза, их могут просто срезать. Вот риск, о котором предупреждает Хукорт. Этичесво-отмывание.
Итак, мы приходим к бинарному вопросу. Холодный выбор.
Если горсть корпораций контролирует фундаментальную технологию…
Хочешь ли ты видеть философа в комнате?
DeepMind нанимает одного прямо сейчас. Должность: «Философ». Образование Кембридж. Фокус на машинном сознании.
Они не спрашивают. Они заполняют места.
Расскажите нам ваше мнение в комментариях ниже. Или отправьте письмо на [email protected]. Не заворачивайте его. Оставьте всё открытым.
