Przyszłość rysowała się ponuro dla Ryana Curriera.
Dziesięć lat temu były menadżer funduszu hedgingowego obserwował, jak systemy sztucznej inteligencji pogrążają się w chaosie. Algorytmy Facebooka ingerowały w wybory. Chatbot Microsoftu twierdził, że Holokaust nie istniał. System Autopilota Tesli spowodował śmiertelną katastrofę. Żadnego zarządzania, żadnego nadzoru. Tylko ostrze na krawędzi postępu, przecinające drogę do otchłani.
Dla Carriere’a świat, w którym miały żyć jego dzieci, był mroczny.
Założył więc organizację ForHumanity. Jego cel? Twórz narzędzia do audytowania systemów AI. Robi to od 2016 roku.
Ale pieniądze przychodziły powoli. Organizacja pozostała niewielkim graczem, wiążąc koniec z końcem, zbierając fundusze w wysokości setek tysięcy dolarów.
Ta dynamika wkrótce ulegnie radykalnej zmianie.
ForHumanity rywalizuje obecnie o udział w największej fali filantropii od dziesięcioleci. Spust? Tsunami bogactwa, które popłynie w związku ze zbliżającymi się IPO (pierwszymi ofertami publicznymi) w największych laboratoriach AI w Dolinie Krzemowej.
OpenAI i Anthropic – dwóch gigantów wartych prawie bilion dolarów przygotowuje się do wejścia na giełdę. Kiedy to nastąpi, setki obecnych i byłych pracowników niemal z dnia na dzień staną się niezwykle bogaci. A znaczna część tej populacji wyznaje określoną filozofię: efektywny altruizm.
Tu nie chodzi tylko o działalność charytatywną. Chodzi o maksymalizację wpływu. Szybko.
Pytanie za 15 miliardów dolarów
Kto przyniesie te pieniądze?
Siedmiu założycieli Anthropic zobowiązało się przekazać 80% swojego majątku na cele charytatywne. Firma oferuje nawet program łączenia datków: za każdą akcję, którą pracownik zobowiąże się przekazać, Anthropic przekaże jedną lub trzy dodatkowe akcje (do ustalonego limitu).
Znawcy technologii już liczą pieniądze. Szacują, że pierwsza oferta publiczna Anthropic – prawdopodobnie planowana we wrześniu – może wygenerować 15 miliardów dolarów samej rocznej działalności filantropijnej.
Pomyśl o tej skali.
Już sama ta liczba mogłaby zwiększyć łączne datki na cele charytatywne w Stanach Zjednoczonych o 2,5% rocznie. W rzeczywistości? To jakby co roku dodawać hojność czterech Billów Gatesów do światowej puli hojności.
Firma Anthropic odmówiła komentarza na temat konkretnych kwot darowizn ani nazwisk beneficjentów. Presja jest jednak odczuwalna na poziomie fizycznym.
Nie wszystkie te pieniądze zostaną zrealizowane. IPO może się opóźnić. Rynki mogą się załamać. Pracownicy mogą zostać zastraszeni i zatrzymać swoje akcje. Lub, co bardziej prawdopodobne, doświadczą „paraliżu wyboru”. Przy tak wielu „godnych” sprawach konkurujących o uwagę, wiele osób może zdecydować, że trzymanie pieniędzy jest bezpieczniejsze.
Jednak konkurencja o te portfele dawców jest już zacięta.
Jack Lewars, konsultant obsługujący 13 najbogatszych pracowników technologii i finansów, podaje, że pracownicy wiodących laboratoriów AI otrzymują co tydzień do 20 niechcianych e-maili z prośbą o datki.
WIRED rozmawiał z 18 organizacjami non-profit. Kilkunastu innym zaoferowano kontakty.
Czy wysyłali zimne e-maile? Nikt nie przyznał się publicznie. Jak zauważa Lewars na swoim blogu The Funding Anthropalypse, te zimne e-maile „mają niewielkie szanse powodzenia”.
Zamiast tego organizacje te przygotowują się do wojny. Szybciej zatrudniają pracowników. Automatyzuj procesy. Szkoluj pracowników. Cel? Bądź gotowy, gdy napłynie kapitał.
Jedna z organizacji pozarządowych zajmujących się edukacją nie kryła prawdy w wakacie: buduj relacje z pracownikami Anthropic. Priorytet numer jeden.
„Wszyscy będą gonić za tymi funduszami” – mówi Christina Peterson. Jest współzałożycielką Instytutu Foresight, grupy grantowej wspieranej przez pracowników Anthropic. „To będzie szalona przejażdżka”.
Wewnątrz wyścigu o fundusze
Currier z ForHumanity przyznaje, że stara się skupić na misji. Audyt AI. Zapewnienie bezpieczeństwa technologii. Ale wie, że nie może ignorować pieniędzy.
„Muszę tylko dostać się do tego pokoju” – mówi. Teraz myśli o uczestnictwie w imprezach IPO w San Francisco. Rozpacz? Ambicja? Prawdopodobnie oba.
Boyang Li, dyrektor generalny AI4ALL, wybiera szerszą drogę. Ona uczestniczy w wydarzeniach. Publikuje więcej badań. Prosi członka zarządu Fei-fei Li, aby przedstawił ją właściwym osobom.
AI4ALL szkoli młodych ludzi w zakresie tworzenia modeli sztucznej inteligencji. Ich misją jest dywersyfikacja personelu technologicznego. Lee wyznaczył „ambitne” cele w zakresie zbierania funduszy. Wierzy, że pieniądze przyjdą. Spotkania w celu zapoznania się? Jeszcze się nie odbyły.
Nie wszyscy uważają, że rozwiązaniem jest indywidualne dawanie.
Buck Shlegeris prowadzi Redwood Research, organizację non-profit z Berkeley zajmującą się bezpieczeństwem sztucznej inteligencji. Jego zdaniem docieranie do indywidualnych dawców jest nieskuteczne.
Zamiast tego Redwood polega na pośrednikach zajmujących się dystrybucją dotacji, takich jak Cooperative Giving oraz Survival and Flourishing Fund. Grupy te gromadzą pieniądze od skutecznych altruistów i rozdzielają je pomiędzy mniejsze organizacje. Oczekuje się, że nowe środki będą płynąć najpierw do tych węzłów, a następnie spływać w dół rzeki.
Redwood przygotowuje się do rozbudowy. Szkolą pracowników w zakresie zarządzania dużymi budżetami i podejmują się „szalenie drogich projektów”. Na przykład automatyzacja badań nad bezpieczeństwem lub szkolenie własnych modeli Redwooda w celu zapobiegania zdarzeniom prowadzącym do wyginięcia.
Shlegeris obawia się, że ryzyko jest realne. „Bardzo duże prawdopodobieństwo” – mówi.
Następnie przychodzi bezpieczeństwo biologiczne.
Część bezpieczeństwa AI koncentruje się na zapobieganiu tworzeniu broni biologicznej. Inwestor kapitału wysokiego ryzyka Jeff Ralston pomógł niedawno opracować plan zebrania 2,5 miliarda dolarów w ciągu pięciu lat na rozwiązanie problemów związanych z bezpieczeństwem biologicznym sztucznej inteligencji.
„Ludzie pracujący w laboratoriach pierwszej linii najlepiej rozumieją wektory zagrożeń” – mówi Ralston. Zamierza poprosić ich o pieniądze.
Budowa portu
Lęk nie dotyczy tylko zdobycia pieniędzy. Chodzi o ich przetworzenie.
Kilka wpływowych fundacji zajmujących się efektywnym altruizmem pomaga nowym organizacjom non-profit aktualizować ich „szkielety administracyjne”. Księgowość. HR. Kwestie prawne.
„Próbujemy zbudować port przed przybyciem statków” – mówi Stien van der Pleg. Jest dyrektorem wykonawczym Animal Charity Evaluators. W ciągu ostatniego roku organizacja przekazała prawie 15 milionów dolarów grupom walczącym z okrucieństwem wobec zwierząt hodowlanych.
Współczynnik spełnia podobną funkcję. W tym miesiącu ich najwięksi darczyńcy, współzałożyciel Facebooka Dustin Moskowitz i jego żona Kari Tuna, przekazali 1 miliard dolarów na rzecz zdrowia na świecie.
To „jednorazowy wybuch”. Prawie sześciokrotnie więcej niż planowano. Cel? Twórz „skalowalne możliwości”, które mogą wchłonąć ogromne przyszłe fundusze.
GiveDirectly również się przygotowuje. Ta organizacja pozarządowa zapewnia bezwarunkową gotówkę osobom żyjącym w ubóstwie. Potajemnie zbierali fundusze na automatyzację systemów finansowych i kadrowych. Budują partnerstwa, aby przyspieszyć reakcję na katastrofy. Badają nawet możliwość stworzenia „globalnej dywidendy z bogactwa sztucznej inteligencji” w celu zwalczania skrajnego ubóstwa.
Dyrektor generalny Nick Allardes nazywa niepewność związaną z pierwszą ofertą publiczną „kwestią, którą należy potraktować bardzo poważnie”.
Ci, którzy zostaną pozostawieni w tyle?
Oto haczyk.
Nie każda organizacja non-profit pasuje do formy efektywnego altruizmu.
Niektóre organizacje pracują nad bezpieczeństwem dzieci. Dezinformacja polityczna. Prawa człowieka. Grupy te obawiają się, że zostaną zignorowane przez darczyńców skupionych na egzystencjalnych zagrożeniach związanych ze sztuczną inteligencją lub bezpieczeństwem biologicznym.
Istnieje głęboka obawa, że pieniądze przepełnią jeden pojemnik, a inne pozostaną suche. Grupy walczące z masową inwigilacją lub zagrożeniami w Internecie mogą otrzymać znacznie mniejsze fundusze niż grupy działające na rzecz zapobiegania wyginięciu ludzkości.
Marlena Vishniac doskonale zna ten strach. Kieruje strategią cyfrową Europejskiego Centrum Prawa Non-Profit. Pracuje nad polityką dotyczącą sztucznej inteligencji, szczególnie dla grup z Globalnego Południa, które często są pomijane przez zachodnich darczyńców.
W tym miesiącu odniosła sukces. Przyjaciel z Anthropic przekazał jednej z tych grup 100 000 dolarów.
Teraz próbuje przekonać kontakty w OpenAI i Anthropic, aby udostępniły jej listę godnych uwagi organizacji praw człowieka. Szkoli także te organizacje pozarządowe, jak używać języka elity: „teorii zmiany”, „rozwiązań opartych na nauce”. Słowa, które rezonują ze skutecznymi altruistami.
Ale niektóre grupy odmawiają.
Model Evaluation and Threat Research postanawia nie pozyskiwać funduszy od pracowników OpenAI lub Anthropic. Dlaczego? Niezależność. Przyjęcie ich pieniędzy może zagrozić możliwości obiektywnej krytyki.
Inni nieufnie odnoszą się do samego określenia „efektywny altruizm”. Krytycy nazywają ten ruch wyspiarskim i wprowadzonym w błąd. Niektóre organizacje pozarządowe obawiają się, że stowarzyszenie odstraszy innych partnerów.
Sprzeciwił się temu doradca kilku grup skupionych wokół efektywnego altruizmu. Twierdzą, że obawy dotyczące reputacji są przesadzone. Ruch w dalszym ciągu zwiększa swoje fundusze, talent i rzeczywisty wpływ.
Cena łatwych pieniędzy
Weterani organizacji pozarządowych apelują o ostrożność.
Nie naginaj swojej misji, aby dopasować ją do nowej formy pieniądza. Nie zaniedbuj swojej codziennej pracy tylko dlatego, że gdzie indziej płaca jest lepsza.
I pamiętajcie, skąd pochodzą te pieniądze.
Jest to produkt uboczny tworzenia narzędzi, które mogą zaostrzyć problemy, które te organizacje non-profit próbują rozwiązać.
„Dzisiejsze ryzyko polega na tym, że to uprzemysłowione bogactwo… z perspektywy czasu może nie służyć ludzkości” – ostrzega Lee z AI4ALL. „Musimy unikać pokusy prostych pieniędzy, aby zapewnić priorytet bogatym”.
Fala już zaczęła przynosić efekty.
Wynagrodzenia rosną. Ponieważ finansowanie koncentruje się w obszarach o ograniczonej puli talentów, skala wynagrodzeń rośnie.
Revolution, organizacja non-profit zajmująca się bezpieczeństwem sztucznej inteligencji, ogłosiła niedawno przyznanie dotacji w wysokości 160 milionów dolarów. To największa nagroda w historii Cooperative. W połączeniu z oczekiwanym napływem środków z pierwszej oferty publicznej, uchwała stwierdziła, że może zapłacić „znacznie powyżej normy dla podmiotów non-profit i podmiotów akademickich”.
To działa. Na razie.
Ale jak długo będzie trwał boom? A kto zostanie z pustymi rękami, gdy szum ucichnie?
Port został zbudowany. Statek nadchodzi.
Czy przyniesie to wybawienie, czy tylko duży problem – czas pokaże.
