Budoucnost vypadala pro Ryana Curriera chmurně.
Před deseti lety bývalý manažer hedgeového fondu sledoval, jak se systémy umělé inteligence propadají do chaosu. Algoritmy Facebooku zasahovaly do voleb. Chatbot Microsoftu tvrdil, že holocaust neexistuje. Systém autopilota Tesly způsobil smrtelnou havárii. Žádné řízení, žádný dohled. Pouze čepel na ostří postupu, prořezávající cestu k propasti.
Pro Carriere byl svět, ve kterém měly žít jeho děti, temný.
Založil tedy organizaci ForHumanity. Jeho cíl? Vytvořte nástroje pro audit systémů AI. Dělá to od roku 2016.
Ale peníze přicházely pomalu. Organizace zůstala menším hráčem a vydělávala si finančními prostředky ve výši statisíců dolarů.
Tato dynamika se dramaticky změní.
ForHumanity nyní soutěží o podíl na tom, co by mohlo být největší vlnou filantropie za poslední desetiletí. Spoušť? Tsunami bohatství, které poplyne z nadcházejících IPO (počátečních veřejných nabídek) v největších laboratořích umělé inteligence v Silicon Valley.
OpenAI a Anthropic – dva giganti za téměř bilion dolarů se chystají vstoupit na burzu. Když k tomu dojde, stovky současných i bývalých zaměstnanců se téměř přes noc stanou ultrabohatými. A značná část této populace se drží specifické filozofie: efektivního altruismu.
Nejde jen o charitu. Jde o maximalizaci vlivu. Rychle.
Otázka za 15 miliard dolarů
Kdo tyto peníze přinese?
Sedm zakladatelů Anthropic se zavázalo věnovat 80 % svého majetku na charitu. Společnost dokonce nabízí program pro párování darů: za každou akcii, kterou se zaměstnanec zaváže darovat, Antropic daruje jednu nebo tři další akcie (až do stanoveného limitu).
Techničtí zasvěcenci už počítají peníze. Odhadují, že IPO společnosti Anthropic – pravděpodobně splatné v září – by mohlo vygenerovat 15 miliard $ jen v roční filantropické činnosti.
Přemýšlejte o tom měřítku.
Toto číslo samo o sobě by mohlo zvýšit celkové charitativní dary ve Spojených státech o 2,5 % ročně. V praxi? Je to jako přidat každý rok štědrost čtyř Billa Gatese do světového fondu štědrosti.
Společnost Antropic odmítla komentovat konkrétní částky darů ani jména příjemců. Ale tlak je cítit na fyzické úrovni.
Ne všechny tyto peníze se zhmotní. IPO může být zpožděno. Trhy se mohou zhroutit. Zaměstnanci se mohou zastrašit a držet své akcie. Nebo spíše zažijí „paralýzu volby“. S tolika „hodnými“ příčinami soutěžícími o pozornost se mnozí mohou rozhodnout, že držení jejich peněz je bezpečnější.
Konkurence o tyto dárcovské peněženky je však již velká.
Jack Lewars, konzultant sloužící 13 nejbohatším pracovníkům v oblasti technologií a financí, uvádí, že zaměstnanci předních laboratoří umělé inteligence dostávají každý týden až 20 nevyžádaných e-mailů s žádostí o dary.
WIRED hovořil s 18 neziskovými organizacemi. Dalším desítkám byly nabídnuty kontakty.
Posílali chladné e-maily? Nikdo se veřejně nepřiznal. Jak poznamenává Lewars na svém blogu The Funding Anthropalypse, tyto chladné e-maily „mají mizivou šanci na úspěch“.
Místo toho se tyto organizace připravují na válku. Rychleji najímají zaměstnance. Automatizujte procesy. Vyškolte zaměstnance. Cíl? Vypadejte připraveni, až se nahrne kapitál.
Jedna vzdělávací nevládní organizace se netajila pravdou na volném místě: budujte vztahy se zaměstnanci společnosti Anthropic. Priorita číslo jedna.
“Všichni budou tyto prostředky honit,” říká Christina Peterson. Je spoluzakladatelkou Foresight Institute, grantové skupiny podporované zaměstnanci Anthropic. “Bude to divoká jízda.”
Uvnitř závodu o financování
Currier z ForHumanity přiznává, že se snaží zůstat soustředěný na misi. Audit AI. Zajištění bezpečnosti technologií. Ale ví, že peníze nemůže ignorovat.
“Jen se potřebuji dostat do té místnosti,” řekl. Nyní přemýšlí o účasti na IPO večírcích v San Franciscu. Zoufalství? Ctižádost? Pravděpodobně obojí.
Boyang Li, generální ředitel AI4ALL, jde širší cestou. Navštěvuje akce. Publikuje další výzkum. Požádá člena představenstva Fei-fei Li, aby ji představil správným lidem.
AI4ALL trénuje mladé lidi, aby vytvářeli modely umělé inteligence. Jejich posláním je diverzifikovat technologickou pracovní sílu. Lee si stanovil „ambiciózní“ fundraisingové cíle. Věří, že peníze přijdou. Schůzky k seznámení? Zatím se nekonaly.
Ne každý si myslí, že individuální dávání je řešením.
Buck Shlegeris provozuje Redwood Research, neziskovou organizaci z Berkeley zaměřenou na bezpečnost AI. Tvrdí, že cílení na individuální dárce je neúčinné.
Místo toho se Redwood spoléhá na zprostředkovatele rozdělující granty, jako je Coefficient Giving a Survival and Flourishing Fund. Tyto skupiny shromažďují peníze od efektivních altruistů a rozdělují je menším organizacím. Očekává se, že nové prostředky potečou nejprve do těchto uzlů a poté potečou po proudu.
Redwood se připravuje na expanzi. Školí zaměstnance, aby spravovali velké rozpočty a pouštěli se do „šíleně drahých projektů“. Například automatizace bezpečnostního výzkumu nebo školení vlastních modelů Redwood, aby se zabránilo událostem na úrovni vyhynutí.
Shlegeris se obává, že riziko je reálné. “Velmi vysoká šance,” říká.
Následuje biologická bezpečnost.
Část bezpečnosti AI je zaměřena na prevenci vzniku biologických zbraní. Rizikový kapitalista Jeff Ralston nedávno pomohl vytvořit plán na získání 2,5 miliardy dolarů během pěti let na řešení problémů biologické bezpečnosti AI.
“Lidé v předních laboratořích nejlépe rozumí vektorům hrozeb,” říká Ralston. Plánuje je požádat o peníze.
Výstavba přístavu
Úzkost není jen o získání peněz. Jde o jejich zpracování.
Několik vlivných nadací v oblasti efektivního altruismu pomáhá novým neziskovým organizacím aktualizovat jejich administrativní „kostry“. Účetnictví. HR. Právní otázky.
„Snažíme se vybudovat přístav, než přijedou lodě,“ říká Stien van der Pleg. Je výkonnou ředitelkou organizace Animal Charity Evaluators. Za poslední rok organizace věnovala téměř 15 milionů dolarů skupinám bojujícím proti týrání hospodářských zvířat.
Koeficient dělá podobnou práci. Tento měsíc jejich největší dárci, spoluzakladatel Facebooku Dustin Moskowitz a jeho manželka Kari Tuna, přislíbili 1 miliardu dolarů na globální zdraví.
Jedná se o „jednorázovou dávku“. Téměř šestkrát více, než bylo plánováno. Cíl? Vytvořte „škálovatelné schopnosti“, které mohou absorbovat masivní budoucí financování.
Připravuje se také GiveDirectly. Tato nevládní organizace poskytuje lidem v chudobě bezpodmínečnou hotovost. Tajně sháněli prostředky na automatizaci finančních a personálních systémů. Budují partnerství, aby urychlili reakci na katastrofy. Dokonce zkoumají možnost vytvoření „globální dividendy bohatství AI“ v boji proti extrémní chudobě.
Generální ředitel Nick Allardes nazývá nejistotu kolem IPO „věc, kterou je třeba brát velmi vážně“.
Ti, kteří zůstanou pozadu?
Tady je háček.
Ne každá nezisková organizace zapadá do formy efektivního altruismu.
Některé organizace pracují na bezpečnosti dětí. Politické dezinformace. Lidská práva. Tyto skupiny se obávají, že budou ignorovány dárci zaměřenými na existenční rizika AI nebo biologickou bezpečnost.
Existuje hluboká obava, že peníze přetečou jednu nádobu a ostatní zůstanou suché. Skupiny bojující proti hromadnému sledování nebo online hrozbám mohou dostávat mnohem méně finančních prostředků než ty, které se snaží zabránit vyhynutí lidí.
Marlena Vishniac tento strach dobře zná. Vede digitální strategii Evropského centra pro neziskové právo. Pracuje na politice AI, zejména pro skupiny na globálním Jihu, které jsou západními dárci často přehlíženy.
Tento měsíc měla úspěch. Kamarád z Anthropic daroval 100 000 dolarů jedné z těchto skupin.
Nyní se snaží přesvědčit kontakty z OpenAI a Anthropic, aby se s ní podělili o seznam pozoruhodných organizací pro lidská práva. Také školí tyto nevládní organizace, aby používaly jazyk elit: „teorie změny“, „řešení založená na vědě“. Slova, která rezonují s efektivními altruisty.
Některé skupiny to ale odmítají.
Model Evaluation and Threat Research se rozhodl nevyžadovat finanční prostředky od zaměstnanců OpenAI nebo Anthropic. Proč? Nezávislost. Přijetí jejich peněz může ohrozit schopnost je objektivně kritizovat.
Jiní jsou opatrní vůči samotnému označení „efektivní altruismus“. Kritici toto hnutí nazývají izolovaným a zavádějícím. Některé nevládní organizace se obávají, že sdružení odstraší další partnery.
Proti tomu protestoval poradce několika skupin zapojených do efektivního altruismu. Tvrdí, že obavy o dobrou pověst jsou přehnané. Hnutí nadále rozšiřuje své financování, talent a skutečný dopad.
Cena snadno vydělaných peněz
Veteráni nevládních organizací nabádají k opatrnosti.
Neohýbejte své poslání tak, aby vyhovovalo nové formě peněz. Nezanedbávejte svou denní práci jen proto, že jinde je plat lepší.
A pamatujte, odkud tyto peníze pocházejí.
Jedná se o vedlejší produkt vytváření nástrojů, které mohou zhoršit samotné problémy, které se tyto neziskové organizace snaží opravit.
“Rizikem dneška je, že toto industrializované bohatství… nemusí zpětně sloužit lidstvu,” varuje Lee z AI4ALL. “Musíme se vyhnout pokušení prostých peněz jen proto, abychom uspokojili upřednostňování bohatých.”
Náraz už začal mít účinky.
Platy rostou. Vzhledem k tomu, že se financování soustřeďuje v oblastech s omezeným potenciálem talentů, platové stupnice poskakují.
Resolution, nezisková organizace zabývající se bezpečností umělé inteligence, nedávno oznámila grant ve výši 160 milionů dolarů. Toto je vůbec největší odměna Coefficient. V kombinaci s očekávaným přílivem finančních prostředků z IPO Resolution uvedla, že by mohla platit „výrazně nad rámec normy pro neziskové a akademické subjekty“.
Funguje to. Zatím.
Ale jak dlouho ten boom potrvá? A kdo zůstane s prázdnou, když humbuk utichne?
Přístav byl postaven. Loď připlouvá.
Zda to přinese spásu nebo jen velký problém – ukáže čas.
