L’avenir s’annonçait sombre pour Ryan Carrier.
Il y a dix ans, l’ancien gestionnaire de hedge funds a vu les systèmes d’IA sombrer dans le chaos. Les algorithmes de Facebook se sont mêlés aux élections. Un chatbot de Microsoft a affirmé que l’Holocauste n’existait pas. Le pilote automatique de Tesla a provoqué un accident mortel. Il n’y avait pas de gouvernance. Aucun oubli. Juste une pointe saignante qui se dirige vers une falaise.
Pour Carrier, le monde qui attendait ses enfants était sombre.
Il a donc fondé ForHumanity. Son objectif ? Créez des outils pour auditer les systèmes d’IA. Il y travaille depuis 2016.
Mais l’argent tardait. L’organisation est restée un acteur mineur, se débrouillant avec des centaines de milliers de dollars de financement.
Cette dynamique est sur le point de changer violemment.
ForHumanity se bat désormais pour une part de ce qui pourrait être la plus grande vague de philanthropie que le monde ait connue depuis des décennies. Le déclencheur ? Un raz-de-marée de richesse découlant des prochaines introductions en bourse des plus grands laboratoires d’IA de la Silicon Valley.
OpenAI. Anthropique. Deux géants valant près de mille milliards de dollars se préparent à entrer en bourse. Lorsqu’ils le feront, des centaines d’employés actuels et anciens deviendront ultra-riches presque du jour au lendemain. Et une partie importante de cette population suit une philosophie spécifique : l’altruisme efficace.
Il ne s’agit pas seulement de donner. Il s’agit de maximiser l’impact. Rapidement.
La question à 15 milliards de dollars
Qui apporte l’argent ?
Les sept fondateurs d’Anthropic ont promis 80 % de leur richesse à des œuvres caritatives. L’entreprise propose même un programme de dons jumelés : pour chaque action qu’un salarié s’engage à donner, Anthropic apporte une ou trois actions supplémentaires, plafonnées à un plafond précis.
Les initiés de la technologie font déjà des calculs. Ils estiment que l’introduction en bourse d’Anthropic – qui pourrait chuter en septembre – pourrait générer à elle seule 15 milliards de dollars de dons philanthropiques annuels.
Pensez à cette échelle.
Ce seul chiffre pourrait augmenter le total des dons caritatifs aux États-Unis de 2,5 % par an. Concrètement ? C’est comme ajouter la générosité de quatre Bill Gates au pool mondial chaque année.
Anthropic a refusé de commenter le total des dons spécifiques ou les organisations bénéficiaires. Mais la pression est palpable.
Tout cet argent ne se concrétisera pas. Les introductions en bourse sont retardées. Réservoir de marchés. Les employés pourraient paniquer et conserver leurs actions. Ou, peut-être plus probablement, ils seront confrontés à une paralysie du choix. Avec autant de causes « méritoires » en lice pour attirer l’attention, nombreux sont ceux qui pourraient décider de conserver leur argent comme plus sûr.
Pourtant, la concurrence pour ces portefeuilles de donateurs est déjà féroce.
Jack Lewars, un consultant qui conseille 13 des travailleurs les plus riches de la technologie et de la finance, rapporte que les employés des principaux laboratoires d’IA reçoivent jusqu’à 20 e-mails de dons non sollicités chaque semaine.
WIRED s’est entretenu avec 18 organisations à but non lucratif. Des dizaines d’autres ont été approchés.
Certains ont-ils envoyé des pitchs froids ? Pas admis publiquement. Comme le note Lewars sur son blog, The Funding Anthropalypse, ces e-mails froids « n’ont pratiquement aucune chance de fonctionner ».
Au lieu de cela, ces organisations se préparent à la guerre. Ils embauchent plus vite. Automatiser davantage. Personnel de formation. Le but ? Pour avoir l’air prêt quand la capitale frappera.
Une organisation à but non lucratif dans le domaine de l’éducation n’a pas mâché ses mots dans une offre d’emploi : établir des relations chez Anthropic. Priorité une.
“Tout le monde va chercher ces fonds”, déclare Christine Peterson. Elle est cofondatrice du Foresight Institute, un groupe d’octroi de subventions soutenu par les employés d’Anthropic. “Ça va être une aventure folle.”
Dans la course au financement
Carrier de ForHumanity admet qu’il essaie de se concentrer sur la mission. Audit de l’IA. Garder la technologie en sécurité. Mais il sait qu’il ne peut pas ignorer l’argent.
“Je dois juste entrer dans cette pièce”, dit-il. Il envisage désormais d’assister aux soirées d’introduction en bourse de San Francisco. Désespoir? Ambition? Probablement les deux.
Bo Young Lee, PDG d’AI4ALL, adopte une approche plus large. Elle assiste à des événements. Publier davantage de recherches. Demander à Fei-Fei Li, membre du conseil d’administration, de faire les présentations.
AI4ALL forme de jeunes adultes à créer des modèles d’IA. Leur mission est de diversifier la main-d’œuvre technologique. Lee s’est fixé des objectifs de collecte de fonds « ambitieux ». Elle croit que l’argent viendra. Les rencontres introductives ? Ils ne se sont pas encore produits.
Tout le monde ne pense pas que les dons individuels soient la solution.
Buck Shlegeris dirige Redwood Research, une organisation à but non lucratif basée à Berkeley et axée sur la sécurité de l’IA. Il soutient que cibler les donateurs individuels est inefficace.
Au lieu de cela, Redwood s’appuie sur des intermédiaires d’octroi de subventions tels que Coefficient Giving et le Survival and Flourishing Fund. Ces groupes mettent en commun l’argent d’altruistes efficaces et le distribuent à des organisations plus petites. Shlegeris s’attend à ce que de l’argent frais afflue d’abord vers ces centres, puis retombe ensuite.
Redwood se prépare à son expansion. Ils forment leur personnel à gérer des budgets plus importants et à s’attaquer à des « projets extrêmement coûteux ». Comme automatiser la recherche sur la sécurité. Ou former les propres modèles de Redwood pour prévenir des événements pouvant atteindre l’extinction.
Shlegeris craint que ce risque soit réel. “De très fortes chances”, dit-il.
Ensuite, il y a la biosécurité.
Un sous-ensemble de la sécurité de l’IA se concentre sur la prévention des armes biologiques. Geoff Ralston, un investisseur en capital-risque, a récemment contribué à l’élaboration d’un plan visant à lever 2,5 milliards de dollars sur cinq ans pour lutter contre la biosécurité de l’IA.
“Les gens des laboratoires frontaliers comprennent les vecteurs de menace mieux que quiconque”, explique Ralston. Il envisage de leur demander de l’argent.
Construire le port
L’anxiété n’est pas seulement liée à l’argent. Il s’agit de le gérer.
Plusieurs bailleurs de fonds influents dans le domaine de l’altruisme efficace aident les nouvelles organisations à but non lucratif à améliorer leurs structures administratives. Comptabilité. HEURE. Légal.
“Nous essayons de construire le port avant l’arrivée des navires”, explique Stien van der Ploeg. Elle est directrice exécutive d’Animal Charity Evaluators. Au cours de la dernière année, cette organisation a alloué environ 15 millions de dollars à des groupes luttant contre la cruauté envers les agriculteurs.
Coefficient fait un travail similaire. Ce mois-ci, leurs plus grands donateurs – le cofondateur de Facebook Dustin Moskovitz et son épouse Cari Tuna – ont engagé 1 milliard de dollars pour la santé mondiale.
Il s’agit d’une « poussée ponctuelle ». Près de six fois plus grand que prévu. Le but ? Créez des « opportunités évolutives » capables d’absorber des dons futurs massifs.
GiveDirectly se prépare également. L’organisation à but non lucratif envoie de l’argent inconditionnel aux personnes en situation de pauvreté. Ils ont discrètement levé des fonds pour automatiser les systèmes financiers et RH. Ils établissent des partenariats pour accélérer les secours en cas de catastrophe. Ils étudient même un « dividende mondial de la richesse de l’IA » pour lutter contre l’extrême pauvreté.
Le PDG Nick Allardice estime que l’incertitude liée à l’introduction en bourse « mérite d’être prise très au sérieux ».
Les laissés pour compte ?
Voici le piège.
Toutes les organisations à but non lucratif ne correspondent pas au moule altruiste efficace.
Certaines organisations travaillent sur la sécurité des enfants. Désinformation politique. Droits de l’homme. Ces groupes craignent d’être ignorés par les donateurs axés sur les risques existentiels de l’IA ou sur la biosécurité.
Il existe une profonde anxiété à l’idée que l’argent déborde d’un seau tout en laissant les autres à sec. Les groupes qui luttent contre la surveillance de masse ou les méfaits en ligne pourraient recevoir beaucoup moins de financement que ceux qui empêchent l’extinction humaine.
Marlena Wisniak connaît bien cette peur. Elle dirige la stratégie numérique au Centre européen pour le droit à but non lucratif. Elle travaille sur la politique en matière d’IA, en particulier pour les groupes des pays du Sud, souvent négligés par les donateurs occidentaux.
Ce mois-ci, elle a remporté une victoire. Un ami d’Anthropic a fait don de 100 000 $ à l’un de ces groupes.
Elle essaie désormais de convaincre les contacts d’OpenAI et d’Anthropic de partager sa liste d’organisations de défense des droits humains dignes de ce nom. Elle apprend également à ces organisations à but non lucratif à utiliser le langage de l’élite : la « théorie du changement ». « Appuyé sur des preuves. » Des mots qui trouvent un écho auprès des altruistes efficaces.
Mais certains groupes s’en vont.
Model Evaluation and Threat Research décide de ne pas solliciter de fonds auprès des employés d’OpenAI ou d’Anthropic. Pourquoi? Indépendance. Prendre leur argent pourrait compromettre leur capacité à les critiquer objectivement.
D’autres craignent l’étiquette d’« altruisme efficace » elle-même. Les critiques qualifient le mouvement d’insulaire et de malavisé. Certaines organisations à but non lucratif craignent que cette association fasse fuir les autres partenaires.
Un conseiller de plusieurs groupes alignés sur EA a repoussé. Ils soutiennent que les craintes en matière de réputation sont exagérées. Le mouvement continue d’accroître son financement, ses talents et son impact réel.
Le coût de l’argent facile
Les vétérans des organisations à but non lucratif appellent à la prudence.
Ne déformez pas votre mission simplement pour vous adapter au nouveau moule financier. Ne négligez pas le travail de base car le salaire est meilleur ailleurs.
Et rappelez-vous d’où vient cet argent.
C’est un sous-produit de la création d’outils qui pourrait aggraver les problèmes mêmes que ces organisations à but non lucratif tentent de résoudre.
“Le risque aujourd’hui est que cette richesse industrialisée… pourrait ne pas servir le bien humain avec le recul”, prévient Lee d’AI4ALL. “Nous devons éviter l’attrait de l’argent simple simplement pour apaiser la priorité donnée aux riches.”
Cette vague a déjà commencé à montrer ses effets.
Les salaires augmentent. À mesure que le financement se concentre dans des domaines où les bassins de talents sont limités, les échelles salariales augmentent.
Resolution, une organisation à but non lucratif spécialisée dans la sécurité de l’IA, a récemment annoncé une subvention de 160 millions de dollars. Il s’agit de la plus grande récompense jamais décernée à Coefficient. Combiné avec l’afflux attendu d’introductions en bourse, Resolution a déclaré qu’ils pouvaient payer “bien au-dessus des normes académiques et à but non lucratif”.
Ça marche. Pour l’instant.
Mais combien de temps dure le boom ? Et qui reste à tenir le sac lorsque le battage médiatique s’estompe ?
Le port est construit. Le navire arrive.
Reste à savoir si cela apportera le salut ou simplement un problème plus grave.
