Il futuro sembrava cupo per Ryan Carrier.
Dieci anni fa, l’ex manager di hedge fund vide i sistemi di intelligenza artificiale precipitare nel caos. Gli algoritmi di Facebook si sono intromessi nelle elezioni. Un chatbot di Microsoft affermava che l’Olocausto non esisteva. Il pilota automatico di Tesla ha causato un incidente mortale. Non c’era governance. Nessuna supervisione. Solo un bordo sanguinante che taglia verso un dirupo.
Per Carrier, il mondo che attendeva i suoi figli era oscuro.
Così ha fondato ForHumanity. Il suo obiettivo? Costruisci strumenti per controllare i sistemi di intelligenza artificiale. Lo fa dal 2016.
Ma i soldi erano lenti. L’organizzazione è rimasta un attore minore, tirando avanti con centinaia di migliaia di finanziamenti.
Quella dinamica sta per cambiare violentemente.
ForHumanity sta ora lottando per una fetta di quella che potrebbe essere la più grande ondata di filantropia che il mondo abbia visto negli ultimi decenni. Il grilletto? Un’ondata di ricchezza derivante dalle prossime IPO nei più grandi laboratori di intelligenza artificiale della Silicon Valley.
OpenAI. Antropico. Due giganti da quasi trilioni di dollari si preparano a quotarsi in borsa. Quando lo faranno, centinaia di dipendenti attuali ed ex diventeranno ultraricchi quasi da un giorno all’altro. E una parte significativa di quella popolazione segue una filosofia specifica: l’altruismo efficace.
Non si tratta solo di dare. Si tratta di massimizzare l’impatto. Velocemente.
La domanda da 15 miliardi di dollari
Chi porta i soldi?
I sette fondatori di Anthropic hanno devoluto l’80% della loro ricchezza in beneficenza. L’azienda offre anche un programma di donazioni abbinate: per ogni azione che un dipendente si impegna a donare, Anthropic contribuisce con una o tre azioni aggiuntive, limitate a un limite specifico.
Gli addetti ai lavori stanno già elaborando numeri. Si stima che l’IPO di Anthropic, che potrebbe crollare a settembre, potrebbe generare 15 miliardi di dollari in sole donazioni filantropiche annuali.
Pensa a quella scala.
Questa singola cifra potrebbe aumentare il totale delle donazioni di beneficenza negli Stati Uniti del 2,5% annuo. In termini pratici? È come aggiungere ogni anno la generosità di quattro Bill Gates al pool globale.
Anthropic ha rifiutato di commentare i totali delle donazioni specifiche o le organizzazioni beneficiarie. Ma la pressione è palpabile.
Non tutto questo denaro si materializzerà. Le IPO subiscono ritardi. Carro armato dei mercati. I dipendenti potrebbero farsi prendere dal panico e trattenere le loro azioni. O, forse più probabilmente, dovranno affrontare la paralisi della scelta. Con così tante cause “degne” in lizza per l’attenzione, molti potrebbero decidere di mantenere il denaro per sentirsi più al sicuro.
Tuttavia, la concorrenza per i portafogli dei donatori è già feroce.
Jack Lewars, un consulente che fornisce consulenza a 13 tra i più ricchi lavoratori del settore tecnologico e finanziario, riferisce che i dipendenti dei migliori laboratori di intelligenza artificiale ricevono fino a 20 e-mail di donazioni non richieste ogni settimana.
WIRED ha parlato con 18 organizzazioni no-profit. Altre decine furono avvicinate.
Qualcuno ha inviato proposte fredde? Non ammesso pubblicamente. Come nota Lewars sul suo blog, The Funding Anthropalypse, quelle email fredde “non hanno quasi nessuna possibilità di funzionare”.
Invece, queste organizzazioni si stanno preparando alla guerra. Stanno assumendo più velocemente. Automatizzare di più. Personale addetto alla formazione. L’obiettivo? Per sembrare pronti quando arriverà la capitale.
Un’organizzazione no-profit nel campo dell’istruzione non ha usato mezzi termini in un annuncio di lavoro: costruire relazioni presso Anthropic. Priorità uno.
“Tutti cercheranno questi fondi”, afferma Christine Peterson. È cofondatrice del Foresight Institute, un gruppo di sovvenzioni sostenuto dai dipendenti di Anthropic. “Sarà una corsa sfrenata.”
Dentro la corsa ai finanziamenti
Il vettore di ForHumanity ammette che sta cercando di concentrarsi sulla missione. Controllo dell’intelligenza artificiale. Mantenere la tecnologia al sicuro. Ma sa che non può ignorare i soldi.
“Devo solo entrare in quella stanza”, dice. Ora sta pensando di partecipare alle feste IPO di San Francisco. Disperazione? Ambizione? Probabilmente entrambi.
Bo Young Lee, CEO di AI4ALL, sta adottando un approccio più ampio. Sta partecipando a eventi. Pubblicare ulteriori ricerche. Chiedo al membro del consiglio Fei-Fei Li di fare le presentazioni.
AI4ALL forma i giovani adulti a costruire modelli di intelligenza artificiale. La loro missione è diversificare la forza lavoro tecnologica. Lee ha fissato obiettivi di raccolta fondi “ambiziosi”. Crede che i soldi arriveranno. Gli incontri introduttivi? Non sono ancora accaduti.
Non tutti pensano che le donazioni individuali siano la risposta.
Buck Shlegeris gestisce Redwood Research, un’organizzazione no-profit con sede a Berkeley focalizzata sulla sicurezza dell’intelligenza artificiale. Sostiene che prendere di mira i singoli donatori sia inefficiente.
Invece, Redwood si affida a intermediari che concedono sovvenzioni come Coefficient Giving e Survival and Flourishing Fund. Questi gruppi raccolgono denaro da altruisti efficaci e lo distribuiscono a organizzazioni più piccole. Shlegeris si aspetta che il nuovo denaro affluisca prima a questi hub, per poi riversarsi verso il basso.
Redwood si sta preparando per l’espansione. Stanno formando il personale per gestire budget più grandi e affrontare “progetti folli e costosi”. Come automatizzare la ricerca sulla sicurezza. O addestrare i modelli di Redwood per prevenire eventi a livello di estinzione.
Shlegeris teme che questo rischio sia reale. “Probabilità davvero forte”, dice.
Poi c’è la biosicurezza.
Un sottoinsieme della sicurezza dell’IA si concentra sulla prevenzione delle armi biologiche. Geoff Ralston, un venture capitalist, ha recentemente contribuito alla stesura di un piano per raccogliere 2,5 miliardi di dollari in cinque anni per affrontare la biosicurezza dell’IA.
“Il personale dei laboratori di frontiera comprende i vettori delle minacce meglio di chiunque altro”, afferma Ralston. Ha intenzione di chiedere loro dei soldi.
Costruire il porto
L’ansia non riguarda solo il denaro. Si tratta di gestirlo.
Diversi finanziatori influenti nel campo dell’altruismo efficace stanno aiutando le nuove organizzazioni no-profit a migliorare le proprie strutture amministrative. Contabilità. risorse umane. Legale.
“Stiamo cercando di costruire il porto prima dell’arrivo delle navi”, afferma Stien van der Ploeg. È il direttore esecutivo di Animal Charity Evaluators. Nell’ultimo anno, l’organizzazione ha destinato circa 15 milioni di dollari a gruppi che combattono la crudeltà agricola.
Coefficient sta facendo un lavoro simile. Questo mese, i loro maggiori donatori, il cofondatore di Facebook Dustin Moskovitz e la moglie Cari Tuna, hanno impegnato 1 miliardo di dollari per la salute globale.
Si tratta di un “aumento una tantum”. Quasi sei volte più grande del previsto. L’obiettivo? Creare “opportunità scalabili” in grado di assorbire massicce donazioni future.
Anche GiveDirectly si sta preparando. L’organizzazione no-profit invia denaro incondizionato alle persone in povertà. Hanno raccolto silenziosamente fondi per automatizzare i sistemi finanziari e delle risorse umane. Stanno costruendo partenariati per soccorsi più rapidamente in caso di catastrofe. Stanno persino esplorando un “dividendo globale della ricchezza dell’intelligenza artificiale” per la povertà estrema.
Il CEO Nick Allardice definisce l’incertezza dell’IPO “che vale la pena prendere molto sul serio”.
Chi è rimasto indietro?
Ecco il problema.
Non tutte le organizzazioni non profit si adattano allo schema dell’altruismo efficace.
Alcune organizzazioni lavorano sulla sicurezza dei bambini. Disinformazione politica. Diritti umani. Questi gruppi temono di essere ignorati dai donatori concentrati sui rischi esistenziali dell’IA o sulla biosicurezza.
C’è una profonda ansia che il denaro trabocchi in un secchio lasciando gli altri a secco. I gruppi che combattono la sorveglianza di massa o i danni online potrebbero ricevere finanziamenti molto inferiori rispetto a quelli che combattono l’estinzione umana.
Marlena Wisniak conosce bene questa paura. Dirige la strategia digitale presso il Centro europeo per il diritto no-profit. Si occupa di politiche sull’intelligenza artificiale, in particolare per i gruppi del Sud del mondo, spesso trascurati dai donatori occidentali.
Questo mese ha vinto. Un amico di Anthropic ha donato $ 100.000 a uno di questi gruppi.
Ora sta cercando di convincere i contatti di OpenAI e Anthropic a condividere la sua lista di organizzazioni per i diritti umani meritevoli. Sta anche insegnando a queste organizzazioni no-profit a usare il linguaggio delle élite: la “teoria del cambiamento”. “Supportato da prove.” Parole che risuonano con altruisti efficaci.
Ma alcuni gruppi se ne stanno andando.
La valutazione dei modelli e la ricerca sulle minacce decidono di non richiedere fondi ai dipendenti di OpenAI o di Anthropic. Perché? Indipendenza. Prendere i loro soldi potrebbe mettere a repentaglio la loro capacità di criticarli in modo obiettivo.
Altri temono l’etichetta stessa di “altruismo efficace”. I critici definiscono il movimento insulare e fuorviante. Alcune organizzazioni no-profit temono che questa associazione possa spaventare gli altri partner.
Un consigliere di diversi gruppi allineati con EA si è opposto. Sostengono che i timori reputazionali siano eccessivi. Il movimento continua ad aumentare i suoi finanziamenti, il suo talento e il suo impatto reale.
Il costo del denaro facile
I veterani del settore no-profit invitano alla cautela.
Non distorcere la tua missione solo per adattarla al nuovo stampo monetario. Non trascurare il lavoro principale perché la paga è migliore altrove.
E ricorda da dove vengono questi soldi.
È un sottoprodotto della creazione di strumenti che potrebbero peggiorare gli stessi problemi che queste organizzazioni no-profit cercano di risolvere.
“Il rischio oggi è che questa ricchezza industrializzata… potrebbe non servire al bene umano col senno di poi”, avverte Lee di AI4ALL. “Dobbiamo evitare il fascino del semplice denaro semplicemente per placare la priorità data ai ricchi.”
L’impennata ha già iniziato a mostrare i suoi effetti.
Gli stipendi stanno aumentando. Poiché i finanziamenti si concentrano in settori con pool di talenti limitati, le scale retributive aumentano.
Risoluzione, un’organizzazione no-profit per la sicurezza dell’intelligenza artificiale, ha recentemente annunciato una sovvenzione di 160 milioni di dollari. È il più grande premio mai assegnato da Coefficient. In combinazione con il previsto afflusso di IPO, la Risoluzione ha affermato che possono pagare “ben al di sopra delle norme accademiche e non-profit”.
Funziona. Per ora.
Ma quanto dura il boom? E chi rimarrà a tenere la borsa quando l’hype svanirà?
Il porto è costruito. La nave sta arrivando.
Resta da vedere se porterà la salvezza o semplicemente un problema più grande.
