De toekomst zag er somber uit voor Ryan Carrier.
Tien jaar geleden zag de voormalige hedgefondsmanager hoe AI-systemen in chaos terechtkwamen. De algoritmen van Facebook bemoeiden zich met verkiezingen. Een Microsoft-chatbot beweerde dat de Holocaust niet bestond. Tesla’s Autopilot veroorzaakte een fatale crash. Er was geen bestuur. Geen toezicht. Gewoon een bloedend randje dat in de richting van een klif snijdt.
Voor Carrier was de wereld die op zijn kinderen wachtte donker.
Daarom richtte hij ForHumanity op. Zijn doel? Bouw tools om AI-systemen te auditen. Hij is er sinds 2016 mee bezig.
Maar het geld kwam traag op gang. De organisatie bleef een kleine speler en kwam rond met honderdduizenden aan financiering.
Die dynamiek staat op het punt gewelddadig te veranderen.
ForHumanity vecht nu voor een stukje van wat wel eens de grootste golf van filantropie zou kunnen zijn die de wereld in decennia heeft gezien. De trigger? Een vloedgolf van rijkdom die voortvloeit uit aanstaande beursintroducties in de grootste AI-laboratoria van Silicon Valley.
Open AI. Antropisch. Twee giganten met een waarde van bijna een biljoen dollar bereiden zich voor om naar de beurs te gaan. Als ze dat doen, zullen honderden huidige en voormalige werknemers vrijwel van de ene op de andere dag ultrarijk worden. En een aanzienlijk deel van die bevolking volgt een specifieke filosofie: effectief altruïsme.
Dit gaat niet alleen over geven. Het gaat om het maximaliseren van de impact. Snel.
De vraag van $15 miljard
Wie brengt het geld?
De zeven oprichters van Anthropic hebben 80% van hun vermogen aan goede doelen geschonken. Het bedrijf biedt zelfs een bijpassend geschenkprogramma: voor elk aandeel dat een medewerker wil doneren, draagt Anthropic één of drie extra aandelen bij, met een maximum aan een specifieke limiet.
Tech-insiders zijn al bezig met het analyseren van cijfers. Ze schatten dat de beursintroductie van Anthropic – die in september zou kunnen dalen – alleen al jaarlijks 15 miljard dollar aan liefdadigheidsdonaties zou kunnen opleveren.
Denk eens aan die schaal.
Dat ene cijfer zou de totale liefdadigheidsgiften in de VS jaarlijks met 2,5% kunnen verhogen. In praktische termen? Dat is hetzelfde als elk jaar de vrijgevigheid van vier Bill Gates aan de mondiale pool toevoegen.
Anthropic weigerde commentaar te geven op specifieke donatietotalen of begunstigde organisaties. Maar de druk is voelbaar.
Niet al dit geld zal werkelijkheid worden. IPO’s worden uitgesteld. Markttank. Werknemers kunnen in paniek raken en hun aandelen vasthouden. Of, misschien nog wel waarschijnlijker, ze zullen te maken krijgen met keuzeverlamming. Nu er zoveel ‘waardige’ doelen zijn die om aandacht strijden, kunnen velen besluiten het geld te houden, omdat het veiliger voelt.
Toch is de concurrentie om die donorportefeuilles al hevig.
Jack Lewars, een consultant die 13 van de rijkste technologie- en financiële werknemers adviseert, meldt dat werknemers van top-AI-laboratoria elke week tot wel 20 ongevraagde donatie-e-mails ontvangen.
WIRED sprak met 18 non-profitorganisaties. Er werden nog tientallen anderen benaderd.
Heeft iemand koude pitches gestuurd? Niet publiekelijk toegegeven. Zoals Lewars opmerkt op zijn blog, The Funding Anthropalypse, hebben die koude e-mails ‘bijna geen enkele kans van slagen’.
In plaats daarvan bereiden deze organisaties zich voor op oorlog. Ze nemen sneller mensen aan. Meer automatiseren. Opleiding personeel. Het doel? Om er klaar uit te zien als de hoofdstad toeslaat.
Eén non-profitorganisatie in het onderwijs nam geen blad voor de mond in een vacature: bouw relaties op bij Anthropic. Prioriteit één.
“Iedereen gaat achter deze fondsen aan”, zegt Christine Peterson. Ze is medeoprichter van het Foresight Institute, een subsidiegroep die wordt ondersteund door medewerkers van Anthropic. “Het wordt een wilde rit.”
Binnen de race om financiering
ForHumanity’s Carrier geeft toe dat hij zich probeert te concentreren op de missie. AI controleren. De technologie veilig houden. Maar hij weet dat hij het geld niet kan negeren.
‘Ik moet gewoon die kamer in,’ zegt hij. Hij denkt er nu aan om de beursintroductiefeesten van San Francisco bij te wonen. Wanhoop? Ambitie? Waarschijnlijk allebei.
Bo Young Lee, CEO van AI4ALL, kiest voor een bredere aanpak. Ze bezoekt evenementen. Meer onderzoek publiceren. Ik vraag bestuurslid Fei-Fei Li om een introductie te doen.
AI4ALL traint jongvolwassenen om AI-modellen te bouwen. Hun missie is het diversifiëren van het technische personeelsbestand. Lee heeft “ambitieuze” fondsenwervende doelen gesteld. Ze gelooft dat het geld zal komen. De kennismakingsgesprekken? Ze zijn nog niet gebeurd.
Niet iedereen denkt dat individuele donaties de oplossing zijn.
Buck Shlegeris leidt Redwood Research, een in Berkeley gevestigde non-profitorganisatie die zich richt op AI-veiligheid. Hij stelt dat het inefficiënt is om zich op individuele donoren te richten.
In plaats daarvan vertrouwt Redwood op subsidieverstrekkers zoals Coefficient Giving en het Survival and Flourishing Fund. Deze groepen bundelen geld van effectieve altruïsten en verdelen het onder kleinere organisaties. Shlegeris verwacht dat het nieuwe geld eerst naar deze hubs zal stromen en dan naar beneden zal druppelen.
Redwood bereidt zich voor op uitbreiding. Ze trainen stafmedewerkers om grotere budgetten te beheren en ‘krankzinnige dure projecten’ aan te pakken. Zoals het automatiseren van veiligheidsonderzoek. Of het trainen van Redwood’s eigen modellen om gebeurtenissen op uitstervingsniveau te voorkomen.
Shlegeris vreest dat dit risico reëel is. “Echt een grote kans”, zegt hij.
Dan is er de bioveiligheid.
Een subset van AI-veiligheid richt zich op het voorkomen van biowapens. Geoff Ralston, een durfkapitalist, heeft onlangs geholpen bij het opstellen van een plan om in vijf jaar tijd 2,5 miljard dollar op te halen om de bioveiligheid van AI aan te pakken.
“De mensen van grenslaboratoria begrijpen de bedreigingsvectoren beter dan wie dan ook”, zegt Ralston. Hij is van plan hen om geld te vragen.
Het bouwen van de haven
De angst gaat niet alleen over het krijgen van geld. Het gaat om de omgang ermee.
Verschillende invloedrijke subsidiegevers op het gebied van effectief altruïsme helpen nieuwere non-profitorganisaties hun administratieve botten te verbeteren. Boekhouding. HR. Legaal.
“We proberen de haven te bouwen voordat het schip arriveert”, zegt Stien van der Ploeg. Zij is uitvoerend directeur bij Animal Charity Evaluators. Het afgelopen jaar heeft die organisatie ongeveer 15 miljoen dollar besteed aan groepen die strijden tegen wreedheid op boerderijen.
Coëfficiënt doet soortgelijk werk. Deze maand hebben hun grootste donoren – Facebook-medeoprichter Dustin Moskovitz en vrouw Cari Tuna – 1 miljard dollar gedoneerd aan de mondiale gezondheidszorg.
Dat is een ‘eenmalige stijging’. Bijna zes keer groter dan gepland. Het doel? Creëer ‘schaalbare kansen’ die enorme toekomstige giften kunnen absorberen.
GiveDirectly is ook bezig met de voorbereidingen. De non-profitorganisatie stuurt onvoorwaardelijk geld naar mensen in armoede. Ze zamelden stilletjes geld in om financiële en HR-systemen te automatiseren. Ze bouwen partnerschappen op voor snellere rampenhulp. Ze onderzoeken zelfs een ‘wereldwijd AI-rijkdomsdividend’ voor extreme armoede.
CEO Nick Allardice noemt de onzekerheid over de beursgang ‘de moeite waard om zeer serieus te nemen’.
De achterblijvers?
Hier is de vangst.
Niet elke non-profitorganisatie voldoet aan het effectieve altruïstische model.
Sommige organisaties werken aan de veiligheid van kinderen. Politieke desinformatie. Mensenrechten. Deze groepen zijn bang dat ze genegeerd zullen worden door donoren die zich richten op existentiële AI-risico’s of bioveiligheid.
Er bestaat een diepe angst dat het geld de ene emmer zal overstromen, terwijl de andere droog blijft. Groepen die massaal toezicht of online schade bestrijden, krijgen mogelijk veel minder financiering dan groepen die het uitsterven van de mensheid voorkomen.
Marlena Wisniak kent deze angst goed. Ze leidt de digitale strategie bij het European Centre for Not-For-Profit Law. Ze werkt aan AI-beleid, vooral voor groepen in het Zuiden die vaak over het hoofd worden gezien door westerse donoren.
Deze maand had ze een overwinning. Een vriend bij Anthropic doneerde $100.000 aan zo’n groep.
Nu probeert ze OpenAI- en Anthropic-contacten ervan te overtuigen haar lijst van waardevolle mensenrechtenorganisaties te delen. Ze leert deze non-profitorganisaties ook de taal van de elite te gebruiken: ‘theorie van verandering’. “Door bewijs ondersteund.” Woorden die resoneren met effectieve altruïsten.
Maar sommige groepen lopen weg.
Modelevaluatie en dreigingsonderzoek besluit niet om geld te werven bij medewerkers van OpenAI of Anthropic. Waarom? Onafhankelijkheid. Het afpakken van hun geld zou hun vermogen om hen objectief te bekritiseren in gevaar kunnen brengen.
Anderen zijn bang voor het etiket ‘effectief altruïsme’ zelf. Critici noemen de beweging geïsoleerd en misleidend. Sommige non-profitorganisaties zijn bang dat deze vereniging andere partners zal afschrikken.
Een adviseur van verschillende bij de EA aangesloten groepen duwde zich terug. Ze beweren dat de reputatieangst overdreven is. De beweging blijft haar financiering, talent en daadwerkelijke impact vergroten.
De kosten van gemakkelijk geld
Ervaren non-profitorganisaties dringen aan op voorzichtigheid.
Verdraai uw missie niet alleen maar om in de nieuwe geldvorm te passen. Verwaarloos het kernwerk niet, want het loon is elders beter.
En onthoud waar dit geld vandaan komt.
Het is een bijproduct van het bouwen van tools die juist de problemen die deze non-profitorganisaties proberen op te lossen, kunnen verergeren.
“Het risico van vandaag is dat deze geïndustrialiseerde rijkdom… achteraf gezien misschien niet het welzijn van de mens dient”, waarschuwt Lee van AI4ALL. “We moeten de aantrekkingskracht van eenvoudig geld vermijden, simpelweg om de prioriteitstelling van de rijken te sussen.”
De golf begint al effecten te vertonen.
De salarissen stijgen. Omdat de financiering zich concentreert op terreinen met beperkte talentenpools, stijgen de loonschalen.
Resolution, een non-profitorganisatie op het gebied van AI-veiligheid, heeft onlangs een subsidie van $160 miljoen aangekondigd. Het is de grootste onderscheiding voor Coëfficiënt ooit. Gecombineerd met de verwachte instroom van beursintroducties zegt Resolution dat ze “ruim boven de non-profit- en academische normen” kunnen betalen.
Het werkt. Voor nu.
Maar hoe lang duurt de bloei? En wie houdt de tas nog vast als de hype verdwijnt?
De haven is gebouwd. Het schip komt.
Of het redding brengt of slechts een groter probleem, valt nog te bezien.
