Будущее казалось мрачным для Райана Каррьера.
Десять лет назад бывший управляющий хедж-фондом наблюдал, как системы искусственного интеллекта скатываются в хаос. Алгоритмы Facebook вмешивались в выборы. Чат-бот от Microsoft утверждал, что Холокоста не существовало. Система Autopilot от Tesla стала причиной смертельной аварии. Ни governance (управления), ни надзора. Только лезвие на острие прогресса, режущее путь к пропасти.
Для Каррьера мир, в котором предстояло жить его детям, был темным.
Поэтому он основал организацию ForHumanity. Его цель? Создать инструменты для аудита систем ИИ. Он занимается этим с 2016 года.
Но деньги приходили медленно. Организация оставалась незначительным игроком, сводя концы с концами, собирая сотни тысяч долларов финансирования.
Эта динамика вот-вот резко изменится.
ForHumanity теперь борется за долю в той волне филантропии, которая может стать самой масштабной за последние десятилетия. Триггер? Цунами богатства, которое хлынет от предстоящих IPO (первичных публичных предложений акций) в крупнейших лабораториях ИИ Кремниевой долины.
OpenAI и Anthropic — два почти триллионных гиганта готовятся выйти на биржу. Когда это произойдет, сотни нынешних и бывших сотрудников почти мгновенно станут ультраразбогатыми. И значительная часть этого населения придерживается конкретной философии: эффективного альтруизма.
Это не просто про благотворительность. Это про максимизацию влияния. Быстро.
Вопрос на 15 миллиардов долларов
Кто принесет эти деньги?
Семь основателей Anthropic пообещали передать 80% своего состояния на благотворительность. Компания даже предлагает программу сопоставления пожертвований: за каждую акцию, которую сотрудник обязуется пожертвовать, Anthropic вносит в дар одну или три дополнительные акции (в пределах установленного лимита).
Технические инсайдеры уже считают деньги. По их оценкам, IPO Anthropic — которое, возможно, состоится в сентябре — может генерировать только на ежегодную благотворительную деятельность 15 миллиардов долларов.
Подумайте об этом масштабе.
Эта одна лишь цифра может увеличить общий объем благотворительных взносов в США на 2,5% ежегодно. На практике? Это равносильно тому, как будто каждый год в мировой пул щедрости добавляется щедрость четырех Биллов Гейтсов.
Anthropic отказалась комментировать конкретные суммы пожертвований или имена благополучателей. Но давление ощущается на физическом уровне.
Не все эти деньги материализуются. IPO могут задержать. Рынки могут рухнуть. Сотрудники могут испугаться и удержать свои акции. Или, что более вероятно, они столкнутся с «параличом выбора». Когда так много «заслуживающих внимания» причин конкурируют за внимание, многие могут решить, что хранение денег безопаснее.
Тем не менее, конкуренция за эти кошельки доноров уже ожесточенная.
Джек Леуарс, консультант, обслуживающий 13 самых богатых работников в сфере технологий и финансов, сообщает, что сотрудники ведущих лабораторий ИИ получают до 20 не запрошенных писем с просьбами о пожертвованиях каждую неделю.
WIRED общался с 18 некоммерческими организациями. Были предложены контакты еще десяткам.
Отправляли ли они холодные письма? Никто не признавался публично. Как отмечает Леуарс в своем блоге The Funding Anthropalypse, эти холодные письма «имеют ничтожные шансы на успех».
Вместо этого эти организации готовятся к войне. Они нанимают персонал быстрее. Автоматизируют процессы. Обучают сотрудников. Цель? Выглядеть готовыми, когда хлынет капитал.
Одна образовательная НКО не стала скрывать истину в вакансии: строить отношения с сотрудниками Anthropic. Приоритет номер один.
«Все будут гнаться за этими фондами», — говорит Кристина Питерсон. Она является соучредителем Института Форсайт (Foresight Institute), группы, распределяющей гранты при поддержке сотрудников Anthropic. «Это будет дикая поездка».
Внутри гонки за финансирование
Каррьер из ForHumanity признает, что пытается сосредоточиться на миссии. Аудит ИИ. Обеспечение безопасности технологий. Но он знает, что не может игнорировать деньги.
«Мне просто нужно попасть в ту комнату», — говорит он. Теперь он подумывает посетить вечеринки по случаю IPO в Сан-Франциско. Отчаяние? Амбиции? Вероятно, и то, и другое.
Боян Ли, генеральный директор AI4ALL, идет более широким путем. Она посещает мероприятия. Публикует больше исследований. Просит члена совета директоров Фэй-фэй Ли представить ее нужным людям.
AI4ALL обучает молодых людей созданию моделей ИИ. Их миссия — диверсификация технологической рабочей силы. Ли поставила «амбициозные» цели по сбору средств. Она верит, что деньги придут. Встречи для знакомства? Они еще не состоялись.
Не все считают, что индивидуальные пожертвования — это ответ.
Бак Шлегерис руководит Redwood Research, берклиевой НКО, сосредоточенной на безопасности ИИ. Он утверждает, что целевой охват отдельных доноров неэффективен.
Вместо этого Redwood полагается на посредников, распределяющих гранты, таких как Coefficient Giving и Фонд Выживания и Расцвета (Survival and Flourishing Fund). Эти группы объединяют деньги от эффективных альтруистов и распределяют их среди небольших организаций. Ожидается, что новые средства сначала хлынут к этим узлам, а затем перетекут вниз по течению.
Redwood готовится к расширению. Они обучают сотрудников управлять большими бюджетами и браться за «безумно дорогие проекты». Например, автоматизировать исследования в области безопасности или обучать собственные модели Redwood предотвращать события уровня вымирания человечества.
Шлегерис опасается, что этот риск реален. «Очень высокий шанс», — говорит он.
Затем идет биобезопасность.
Часть безопасности ИИ сфокусирована на предотвращении создания биологического оружия. Венчурный капиталист Джефф Ралстон недавно помогал разработать план по сбору 2,5 миллиарда долларов в течение пяти лет для решения проблем биобезопасности ИИ.
«Люди из лабораторий передового края лучше всех понимают векторы угроз», — говорит Ралстон. Он планирует просить у них денег.
Строительство порта
Тревога касается не только получения денег. Речь идет об их обработке.
Несколько влиятельных фондов в сфере эффективного альтруизма помогают новым НКО обновить свою административную «костную систему». Бухгалтерия. HR. Юридические вопросы.
«Мы пытаемся построить порт до прибытия кораблей», — говорит Штиен ван дер Плег. Она является исполнительным директором Animal Charity Evaluators. За последний год эта организация направила около 15 миллионов долларов группам, борющимся с жестокостью к сельскохозяйственным животным.
Coefficient делает аналогичную работу. В этом месяце их крупнейшие доноры — соучредитель Facebook Дастин Московиц и его жена Кари Туна — пообещали 1 миллиард долларов на глобальное здравоохранение.
Это «разовый всплеск». Почти в шесть раз больше запланированного. Цель? Создать «масштабируемые возможности», которые смогут поглотить массовое будущее финансирование.
GiveDirectly также готовится. Эта НКО направляет безусловные денежные средства людям в нищете. Они тайно собирали средства для автоматизации финансовых и кадровых систем. Они строят партнерства для ускорения ликвидации последствий стихийных бедствий. Они даже изучают возможность создания «глобального дивиденда от богатства ИИ» для борьбы с экстремальной бедностью.
Генеральный директор Ник Аллардес называет неопределенность вокруг IPO «вещью, которую следует воспринимать очень серьезно».
Те, кто останется за бортом?
Вот в чем подвох.
Не каждая НКО вписывается в форму эффективного альтруизма.
Некоторые организации работают над безопасностью детей. Политической дезинформацией. Правами человека. Эти группы боятся, что их проигнорируют доноры, сосредоточенные на экзистенциальных рисках ИИ или биобезопасности.
Существует глубокая тревога, что деньги переполнят одну емкость, оставив другие сухими. Группы, борющиеся с массовым surveillance (наблюдением) или онлайн-угрозами, могут получить гораздо меньше финансирования, чем те, кто предотвращает вымирание человечества.
Марлена Вишняк хорошо знает этот страх. Она руководит цифровой стратегией Европейского центра некоммерческого права. Она работает над политикой ИИ, особенно для групп из Глобального Юга, которые часто остаются незамеченными западными донорами.
В этом месяце у нее был успех. Друг из Anthropic пожертвовал 100 тысяч долларов одной из таких групп.
Теперь она пытается убедить контакты из OpenAI и Anthropic поделиться с ней списком заслуживающих внимания организаций по правам человека. Она также обучает эти НКО использовать язык элиты: «теория изменений», «научно обоснованные решения». Слова, которые резонируют с эффективными альтруистами.
Но некоторые группы отказываются.
Model Evaluation and Threat Research решает не запрашивать средства у сотрудников OpenAI или Anthropic. Почему? Независимость. Принятие их денег может поставить под угрозу способность объективно критиковать их.
Другие опасаются самого ярлыка «эффективный альтруизм». Критики называют движение замкнутым и заблуждающимся. Некоторые НКО беспокоятся, что эта ассоциация отпугнет других партнеров.
Советник нескольких групп, выровненных по эффективному альтруизму, возразил против этого. Они утверждают, что опасения репутации преувеличены. Движение продолжает расширять свое финансирование, таланты и реальное влияние.
Цена легких денег
Ветераны НКО призывают к осторожности.
Не искривляйте свою миссию, чтобы она вписалась в новую форму денег. Не пренебрегайте основной работой только потому, что оплата лучше в другом месте.
И помните, откуда берутся эти деньги.
Это побочный продукт создания инструментов, которые могут усугублять именно те проблемы, которые эти НКО пытаются исправить.
«Сегодняшний риск в том, что эта индустриализованная богатство… может не служить благу человечества в ретроспективе», — предупреждает Ли из AI4ALL. «Мы должны избежать соблазна простых денег только ради того, чтобы угодить приоритизации богатых».
Всплеск уже начал оказывать эффекты.
Зарплаты растут. Поскольку финансирование концентрируется в областях с ограниченным пулом талантов, шкалы оплаты подпрыгивают.
Resolution, некоммерческая организация в сфере безопасности ИИ, недавно объявила о гранте в 160 миллионов долларов. Это крупнейшее вознаграждение Coefficient за всю историю. В сочетании с ожидаемым притоком средств от IPO, Resolution заявила, что может платить «значительно выше норм для некоммерческих и академических структур».
Это работает. На данный момент.
Но как долго продлится бум? И кто останется с пустыми руками, когда хайп утихнет?
Порт построен. Корабль идет.
Принесет ли он спасение или лишь большую проблему — покажет время.
