Майбутнє здавалося похмурим для Райана Карр’єра.
Десять років тому колишній керуючий хедж-фондом спостерігав, як системи штучного інтелекту скочуються до хаосу. Алгоритми Facebook втручалися у вибори. Чат-бот від Microsoft стверджував, що Голокосту не було. Система Autopilot від Tesla спричинила смертельну аварію. Ні governance (управління), ні нагляду. Тільки лезо на вістря прогресу, що ріже шлях до прірви.
Для Кар’єра світ, у якому мали жити його дітям, був темним.
Тому він заснував організацію ForHumanity. Його ціль? Створити інструменти для аудиту систем ІІ. Він займається цим із 2016 року.
Але гроші приходили повільно. Організація залишалася незначним гравцем, зводячи кінці з кінцями, збираючи сотні тисяч доларів фінансування.
Ця динаміка ось-ось різко зміниться.
ForHumanity тепер бореться за частку в тій хвилі філантропії, яка може стати наймасштабнішою за останні десятиліття. Тригер? Цунами багатства, яке хлине від майбутніх IPO (первинних публічних пропозицій акцій) у найбільших лабораторіях ІІ Кремнієвої долини.
OpenAI та Anthropic — два майже трильйонні гіганти готуються вийти на біржу. Коли це станеться, сотні нинішніх та колишніх співробітників майже миттєво стануть ультрарозбагатими. І значної частини цього населення дотримується конкретної філософії: ефективного альтруїзму.
Це не просто про благодійність. Це про максимізацію впливу. Швидко.
Питання на 15 мільярдів доларів
Хто принесе ці гроші?
Сім засновників Anthropic пообіцяли передати 80% свого статку на благодійність. Компанія навіть пропонує програму зіставлення пожертвувань: за кожну акцію, яку співробітник зобов’язується пожертвувати, Anthropic вносить у дар одну або три додаткові акції (у межах встановленого ліміту).
Технічні інсайдери вже рахують гроші. За їхніми оцінками, IPO Anthropic, яке, можливо, відбудеться у вересні, може генерувати лише на щорічну благодійну діяльність 15 мільярдів доларів.
Подумайте про цей масштаб.
Ця лише цифра може збільшити загальний обсяг благодійних внесків у США на 2,5% щорічно. Насправді? Це рівнозначно тому, що кожен рік у світовий пул щедрості додається щедрість чотирьох Біллів Гейтсів.
Anthropic відмовилася коментувати конкретні суми пожертв або імена одержувачів. Але тиск відчувається фізично.
Не всі ці гроші матеріалізуються. IPO можуть затримати. Ринки можуть звалитися. Співробітники можуть злякатися та утримати свої акції. Або, що більш імовірно, вони зіткнуться з паралічем вибору. Коли так багато причин, що «заслуговують на увагу», конкурують за увагу, багато хто може вирішити, що зберігання грошей безпечніше.
Проте конкуренція за ці гаманці донорів вже запекла.
Джек Леуарс, консультант, який обслуговує 13 найбагатших працівників у сфері технологій та фінансів, повідомляє, що співробітники провідних лабораторій ІІ отримують до 20 не запрошених листів із проханнями про пожертви щотижня.
WIRED спілкувався з 18 некомерційними організаціями. Було запропоновано контакти ще десяткам.
Чи надсилали вони холодні листи? Ніхто не зізнавався публічно. Як зазначає Леуарс у своєму блозі The Funding Anthropalypse, ці холодні листи «мають мізерні шанси на успіх».
Натомість ці організації готуються до війни. Вони наймають персонал швидше. Автоматизують процеси. Навчають співробітників. Ціль? Виглядати готовими, коли рине капітал.
Одна освітня НКО стала приховувати істину у вакансії: будувати відносини зі співробітниками Anthropic. Пріоритет номер один.
«Всі гнатимуться за цими фондами», — каже Крістіна Пітерсон. Вона є співзасновником Інституту Форсайт (Foresight Institute), групи, що розподіляє гранти за підтримки співробітників Anthropic. “Це буде дика поїздка”.
Усередині гонки за фінансування
Кар’єр із ForHumanity визнає, що намагається зосередитися на місії. Аудит ІІ. Забезпечення безпеки технологій. Але він знає, що неспроможна ігнорувати гроші.
“Мені просто потрібно потрапити до тієї кімнати”, – каже він. Тепер він подумує відвідати вечірки з нагоди IPO у Сан-Франциско. Розпач? Амбіції? Мабуть, і те, й інше.
Боян Лі, генеральний директор AI4ALL, йде ширшим шляхом. Вона відвідує заходи. Публікує більше досліджень. Просить члена ради директорів Фей-Фей Лі уявити її потрібним людям.
AI4ALL навчає молодих людей створення моделей ІІ. Їхня місія — диверсифікація технологічної робочої сили. Чи поставила «амбітні» цілі зі збирання коштів. Вона вірить, що гроші прийдуть. Зустрічі для знайомства? Вони ще не відбулися.
Не всі вважають, що індивідуальні пожертвування – це відповідь.
Бак Шлегеріс керує Redwood Research, берклієвою НКО, зосередженою на безпеці ІІ. Він стверджує, що цільове охоплення окремих донорів неефективне.
Натомість Redwood покладається на посередників, що розподіляють гранти, таких як Coefficient Giving та Фонд Виживання та Розквіту (Survival and Flourishing Fund). Ці групи об’єднують гроші від ефективних альтруїстів та розподіляють їх серед невеликих організацій. Очікується, що нові засоби спочатку ринуть до цих вузлів, а потім перетічуть вниз за течією.
Redwood готується до розширення. Вони навчають співробітників управляти великими бюджетами та братися за «шалено дорогі проекти». Наприклад, автоматизувати дослідження в галузі безпеки або навчати власні моделі Redwood запобігати події рівня вимирання людства.
Шлегеріс побоюється, що цей ризик є реальним. “Дуже високий шанс”, – говорить він.
Потім йде біобезпека.
Частина безпеки ІІ сфокусована на запобіганні створенню біологічної зброї. Венчурний капіталіст Джефф Ралстон нещодавно допомагав розробити план збору 2,5 мільярда доларів протягом п’яти років для вирішення проблем біобезпеки ІІ.
“Люди з лабораторій передового краю найкраще розуміють вектори загроз”, – говорить Ралстон. Він планує просити у них грошей.
Будівництво порту
Тривога стосується не лише отримання грошей. Йдеться про їхню обробку.
Декілька впливових фондів у сфері ефективного альтруїзму допомагають новим НКО оновити свою адміністративну «кісткову систему». Бухгалтерія. HR. Юридичні питання.
“Ми намагаємося побудувати порт до прибуття кораблів”, – говорить Штієн ван дер Плег. Вона є виконавчим директором Animal Charity Evaluators. За останній рік ця організація направила близько 15 мільйонів доларів групам, які борються із жорстокістю до сільськогосподарських тварин.
Coefficient робить аналогічну роботу. Цього місяця їхні найбільші донори – співзасновник Facebook Дастін Московіц та його дружина Карі Туна – пообіцяли 1 мільярд доларів на глобальну охорону здоров’я.
Це «разовий сплеск». Майже у шість разів більше запланованого. Ціль? Створити можливості, що «масштабуються», які зможуть поглинути масове майбутнє фінансування.
GiveDirectly також готується. Ця НКО спрямовує безумовні кошти людям у злиднях. Вони таємно збирали кошти для автоматизації фінансових та кадрових систем. Вони будують партнерства задля прискорення ліквідації наслідків стихійних лих. Вони навіть вивчають можливість створення «глобального дивіденду від багатства ІІ» для боротьби з екстремальною бідністю.
Генеральний директор Нік Аллардес називає невизначеність навколо IPO «річчю, яку слід сприймати дуже серйозно».
Ті, хто залишиться за бортом?
Ось у чому каверза.
Не кожна НКО вписується у форму ефективного альтруїзму.
Деякі організації працюють над безпекою дітей. Політичною дезінформацією. Правами людини. Ці групи бояться, що їх проігнорують донори, зосереджені на екзистенційних ризиках ІІ або біобезпеки.
Існує глибока тривога, що гроші переповнять одну ємність, залишивши інші сухими. Групи, що борються з масовим surveillance (спостереженням) або онлайн-загрозами, можуть отримати набагато менше фінансування, ніж ті, хто запобігає вимиранню людства.
Марлена Вишняк добре знає страх. Вона керує цифровою стратегією Європейського центру некомерційного права. Вона працює над політикою ІІ, особливо для груп із Глобального Півдня, які часто залишаються непоміченими західними донорами.
Цього місяця вона мала успіх. Друг з Anthropic пожертвував 100 тисяч доларів однієї з таких груп.
Тепер вона намагається переконати контакти з OpenAI і Anthropic поділитися з нею списком організацій з прав людини, що заслуговують на увагу. Вона також навчає ці НКО використовувати мову еліти: “теорія змін”, “науково обґрунтовані рішення”. Слова, які резонують із ефективними альтруїстами.
Але деякі групи відмовляються.
Model Evaluation and Threat Research вирішує не вимагати кошти у співробітників OpenAI або Anthropic. Чому? Незалежність. Прийняття їх може поставити під загрозу здатність об’єктивно критикувати їх.
Інші побоюються самого ярлика «ефективний альтруїзм». Критики називають рух замкнутим і хибним. Деякі НКО турбуються, що ця асоціація злякає інших партнерів.
Радник кількох груп, вирівняних за ефективним альтруїзмом, заперечив проти цього. Вони стверджують, що побоювання репутації перебільшені. Рух продовжує розширювати своє фінансування, таланти та реальний вплив.
Ціна легких грошей
Ветерани НКО закликають до обережності.
Не викривляйте свою місію, щоб вона вписалася у нову форму грошей. Не нехтуйте основною роботою тільки тому, що оплата краща в іншому місці.
І пам’ятайте, звідки ці гроші беруться.
Це побічний продукт створення інструментів, які можуть ускладнювати саме ті проблеми, які ці НКО намагаються виправити.
«Сьогоднішній ризик у тому, що це індустріалізоване багатство… може не слугувати благу людства в ретроспективі», — попереджає Лі з AI4ALL. «Ми повинні уникнути спокуси простих грошей лише заради того, щоб догодити пріорітизації багатих».
Сплеск уже почав надавати ефекти.
Зарплати зростають. Оскільки фінансування концентрується у галузях з обмеженим пулом талантів, шкали оплати підстрибують.
Resolution, некомерційна організація у сфері безпеки ІІ, нещодавно оголосила про грант у 160 мільйонів доларів. Це найбільша винагорода Coefficient за всю історію. У поєднанні з очікуваним надходженням коштів від IPO, Resolution заявила, що може платити «значно вище норм для некомерційних та академічних структур».
Це працює. На даний момент.
Але як довго триватиме бум? І хто залишиться з порожніми руками, коли хайп затихне?
Порт збудований. Корабель йде.
Чи принесе він порятунок, чи лише велику проблему — покаже час.
