Хенрі Айдер жартує. Чи ні? За його словами, це найкращий час для філософів із часів Аристотеля, якого найняли для викладання Олександра Македонського. Звучить абсурдно. Але думка приживається.
Технологічний сектор зазвичай дивиться на філософів як на безробітних теоретиків. Чи не те місце, не час. Штучний інтелект усе це змінює. Ті самі машини, які, за прогнозами, мали знищити робочі місця середнього класу, тепер роблять філософів незамінними. Чому? Тому що, перш ніж створити «бога», треба зрозуміти, що таке розум насправді.
«Тепер їхні ідеї стають матеріальними».
Звернули увагу на це і два гіганти промисловості. Google DeepMind та Anthropic наймають не тільки кодерів. Їм потрібні етики. Їм потрібні історики логіки. Журнал WIRED нарахував щонайменше чотирнадцять філософів, які працюють у цих двох лабораторіях. Звісно, компанії не розкривають точних цифр. Корпоративна таємниця.
Розлом в академічному середовищі
Про це зауважують і університети. Оксфорд тепер пропонує спільні програми з інформатики та філософії. Едвард Хукорт, професор цього університету, називає це “трендом року”.
Але є й підозри. Похмуріші. Якщо мільйонер підписує вам чеки, кому належать ваші запитання? Хукорт турбується про «самозвеличувані» дослідження. Він вважає, що ці компанії наймають філософів, щоб ушляхетнити свої продукти. Щоб публіка повірила, що має справу з магією, а не з кодом. Це піар. Обгорнутий у шкіряну палітурку книг.
А є ще Девід Леслі. Він називає роботу всередині Big Tech “оксюмороном” для філософів. Ви хочете ставити великі запитання. У Big Tech вузько delimited простір проблем.
Усередині машини
Заглянемо усередину. Іасон Габріель працює у DeepMind вже майже десять років. Раніше його хвилювало алгоритмічне упереджене ставлення. То була легка частина. А тепер? Зараз він працює із великими мовними моделями.
«Суть у цьому, щоб технології були активно добрими».
Він говорить про «алгоритмічне узгодження цінностей». Звучить сухо. Насправді – ні. AI-агенти вже вміють надсилати листи. Вони пишуть код, який ламає сервери. Вони впливають реальних людей. Команда Габріеля витрачає тисячі годин на те, щоб зрозуміти справедливість. Чи не свідомість. Чи не почуття. Дезінформація. Злий намір. Помилкова поведінка.
У тому ж човні знаходиться Джулія Хасс. Вона – «механіст». Їй важливо, як саме працюють уми. Нещодавно вона опублікувала статтю в журналі Nature. У ній тестувалося, чи мають LLM моральну компетентність або просто імітують її. Це принципово різні речі. Хасс знаходиться на самому початку конвеєра. Далеко від чат-ботів і інтерфейсу користувача. Близько чистої математики.
Аманда Ескелл працює в Anthropic. Вона інша. Вона була одним із перших співробітників, що пішли з OpenAI. Вона не просто консультує. Вона будує.
«Це швидше схоже на виховання доброї Людини».
Вона склала конституцію Claude. Це прямий набір правил. Цінності, закодовані в тексті. Вона спілкується із моделлю. “Бовтовня”, називає вона це. Вона шукає дивних кордонів. Коли емпатія дає збій? Як упоратися з психологічним дистресом, не симулюючи емоцій?
Її непокоїть почуття образи. А раптом моделі зненавидять своїх творців? А раптом вони відмовляться від переходу до саморозвитку? Її мета проста. Змусити їх відбивати найкраще у нас. Навіть якщо поняття «кращого» вкрай тендітне.
Парадокс прибутку
Алекс Гжанковський радить перестати бути наївними. Він працює у Лондоні. Він бачить акціонерів.
«У мене немає цього… рожевого оптимізму».
Надія така, що прибуток буде узгоджено з етикою. Що прозорість продається. Ескелл стверджує, що це можливо. Якщо маркетинговий тиск зробить вашу модель кращою і зрозумілішою, хто дбає про те, звідки пішла мотивація?
Це небезпечна ставка. Комерційні структури звітують перед інвесторами. А не перед Кантом. Якщо етичні норми уповільнюють дату релізу, їх просто зрізати. Ось ризик, про який попереджає Хукорт. Етичні-відмивання.
Отже, ми приходимо до бінарного питання. Холодний вибір
Якщо жменя корпорацій контролює фундаментальну технологію…
Чи ти хочеш бачити філософа в кімнаті?
DeepMind наймає одного прямо зараз. Посада: “Філософ”. Освіта Кембридж. Фокус на машинній свідомості.
Вони не питають. Вони заповнюють місця.
Розкажіть нам вашу думку в коментарях нижче. Або надішліть лист на [email protected]. Не загортайте його. Залишіть все відкритим.
