Die Zukunft sah für Ryan Carrier düster aus.
Vor einem Jahrzehnt beobachtete der ehemalige Hedgefonds-Manager, wie KI-Systeme ins Chaos gerieten. Die Algorithmen von Facebook haben sich in Wahlen eingemischt. Ein Microsoft-Chatbot behauptete, dass der Holocaust nicht existierte. Der Autopilot von Tesla verursachte einen tödlichen Absturz. Es gab keine Regierungsführung. Kein Versehen. Nur eine blutende Kante, die auf eine Klippe zuschneidet.
Für Carrier war die Welt, die auf seine Kinder wartete, dunkel.
Also gründete er ForHumanity. Sein Ziel? Erstellen Sie Tools zur Prüfung von KI-Systemen. Er ist seit 2016 dabei.
Aber das Geld war langsam. Die Organisation blieb ein kleiner Akteur und kam mit Hunderttausenden an Fördermitteln über die Runden.
Diese Dynamik wird sich gewaltsam verändern.
ForHumanity kämpft nun um einen Teil der möglicherweise größten Wohltätigkeitswelle, die die Welt seit Jahrzehnten erlebt hat. Der Auslöser? Eine Flutwelle an Reichtum, die durch die bevorstehenden Börsengänge in den größten KI-Laboren des Silicon Valley strömt.
OpenAI. Anthropisch. Zwei fast eine Billion Dollar schwere Giganten bereiten sich auf den Börsengang vor. Wenn sie das tun, werden Hunderte von aktuellen und ehemaligen Mitarbeitern fast über Nacht ultrareich. Und ein erheblicher Teil dieser Bevölkerung folgt einer bestimmten Philosophie: effektivem Altruismus.
Hier geht es nicht nur ums Geben. Es geht darum, die Wirkung zu maximieren. Schnell.
Die 15-Milliarden-Dollar-Frage
Wer bringt das Geld?
Die sieben Gründer von Anthropic haben 80 % ihres Vermögens für wohltätige Zwecke gespendet. Das Unternehmen bietet sogar ein passendes Geschenkprogramm an: Für jede Aktie, zu deren Spende sich ein Mitarbeiter verpflichtet, spendet Anthropic ein oder drei zusätzliche Aktien, begrenzt auf eine bestimmte Grenze.
Tech-Insider ermitteln bereits Zahlen. Sie schätzen, dass der Börsengang von Anthropic – der im September stattfinden könnte – allein 15 Milliarden US-Dollar an jährlichen Spenden für wohltätige Zwecke generieren könnte.
Denken Sie an diese Skala.
Diese einzelne Zahl könnte die gesamten Spenden für wohltätige Zwecke in den USA jährlich um 2,5 % steigern. In der Praxis? Das ist, als würde man jedes Jahr die Großzügigkeit von vier Bill Gates zum globalen Pool hinzufügen.
Anthropic lehnte es ab, sich zu bestimmten Spendensummen oder begünstigten Organisationen zu äußern. Aber der Druck ist spürbar.
Nicht das ganze Geld wird zustande kommen. Börsengänge verzögern sich. Markttank. Mitarbeiter geraten möglicherweise in Panik und behalten ihre Aktien. Oder, was vielleicht noch wahrscheinlicher ist, sie werden mit einer Entscheidungslähmung konfrontiert sein. Bei so vielen „würdigen“ Anliegen, die um Aufmerksamkeit wetteifern, entscheiden sich viele vielleicht für die Sicherheit, das Geld aufzubewahren.
Dennoch ist die Konkurrenz um diese Spendergeldbörsen bereits groß.
Jack Lewars, ein Berater, der 13 der reichsten Technologie- und Finanzmitarbeiter berät, berichtet, dass Mitarbeiter in führenden KI-Laboren jede Woche bis zu 20 unaufgeforderte Spenden-E-Mails erhalten.
WIRED sprach mit 18 gemeinnützigen Organisationen. Dutzende weitere wurden angesprochen.
Hat jemand kalte Pitches verschickt? Nicht öffentlich zugelassen. Wie Lewars in seinem Blog The Funding Anthropalypse feststellt, haben diese kalten E-Mails „so gut wie keine Chance zu funktionieren“.
Stattdessen bereiten sich diese Organisationen auf einen Krieg vor. Sie stellen schneller ein. Mehr automatisieren. Schulungspersonal. Das Ziel? Um bereit auszusehen, wenn die Hauptstadt kommt.
Eine gemeinnützige Bildungsorganisation nahm in ihrer Stellenausschreibung kein Blatt vor den Mund: Bauen Sie Beziehungen bei Anthropic auf. Priorität eins.
„Jeder wird hinter diesen Geldern her sein“, sagt Christine Peterson. Sie ist Mitbegründerin des Foresight Institute, einer Fördergruppe, die von Anthropic-Mitarbeitern unterstützt wird. „Es wird eine wilde Fahrt.“
Im Rennen um die Finanzierung
Carrier von ForHumanity gibt zu, dass er versucht, sich auf die Mission zu konzentrieren. Prüfung von KI. Die Sicherheit der Technik gewährleisten. Aber er weiß, dass er das Geld nicht ignorieren kann.
„Ich muss einfach in diesen Raum“, sagt er. Er denkt jetzt darüber nach, an den IPO-Partys in San Francisco teilzunehmen. Verzweiflung? Ehrgeiz? Wahrscheinlich beides.
Bo Young Lee, CEO von AI4ALL, verfolgt einen breiteren Ansatz. Sie nimmt an Veranstaltungen teil. Weitere Forschungsergebnisse veröffentlichen. Bitten Sie Vorstandsmitglied Fei-Fei Li, sich vorzustellen.
AI4ALL schult junge Erwachsene im Bau von KI-Modellen. Ihre Mission ist die Diversifizierung der Tech-Arbeitskräfte. Lee hat sich „ehrgeizige“ Spendenziele gesetzt. Sie glaubt, dass das Geld kommen wird. Die Einführungstreffen? Sie sind noch nicht passiert.
Nicht jeder glaubt, dass Einzelspenden die Lösung sind.
Buck Shlegeris leitet Redwood Research, eine in Berkeley ansässige gemeinnützige Organisation, die sich auf KI-Sicherheit konzentriert. Er argumentiert, dass es ineffizient sei, einzelne Spender anzusprechen.
Stattdessen verlässt sich Redwood auf Zuschussvermittler wie Coefficient Giving und den Survival and Flourishing Fund. Diese Gruppen bündeln das Geld effektiver Altruisten und verteilen es an kleinere Organisationen. Shlegeris geht davon aus, dass neues Geld zunächst zu diesen Knotenpunkten fließt und dann nach unten sickert.
Redwood bereitet sich auf die Expansion vor. Sie schulen ihre Mitarbeiter darin, größere Budgets zu verwalten und „wahnsinnig teure Projekte“ in Angriff zu nehmen. Wie die Automatisierung der Sicherheitsforschung. Oder trainieren Sie Redwoods eigene Modelle, um Ereignisse auf der Ebene des Aussterbens zu verhindern.
Shlegeris befürchtet, dass dieses Risiko real ist. „Wirklich große Chance“, sagt er.
Dann gibt es noch Biosicherheit.
Ein Teilbereich der KI-Sicherheit konzentriert sich auf die Verhinderung von Biowaffen. Geoff Ralston, ein Risikokapitalgeber, half kürzlich bei der Ausarbeitung eines Plans zur Beschaffung von 2,5 Milliarden US-Dollar über einen Zeitraum von fünf Jahren, um die KI-Biosicherheit anzugehen.
„Die Leute bei Frontier Labs verstehen die Bedrohungsvektoren besser als jeder andere“, sagt Ralston. Er plant, sie um Geld zu bitten.
Aufbau des Hafens
Die Angst besteht nicht nur darin, Geld zu bekommen. Es geht darum, damit umzugehen.
Mehrere einflussreiche Fördergeber im Bereich des effektiven Altruismus helfen neueren gemeinnützigen Organisationen, ihre Verwaltungsstruktur zu verbessern. Buchhaltung. Personalwesen. Legal.
„Wir versuchen, den Hafen vor der Ankunft der Schiffe zu bauen“, sagt Stien van der Ploeg. Sie ist Geschäftsführerin bei Animal Charity Evaluators. Im vergangenen Jahr hat diese Organisation etwa 15 Millionen US-Dollar an Gruppen gespendet, die gegen Grausamkeit auf dem Bauernhof kämpfen.
Coefficient leistet ähnliche Arbeit. Diesen Monat haben ihre größten Spender – Facebook-Mitbegründer Dustin Moskovitz und seine Frau Cari Tuna – 1 Milliarde US-Dollar für die globale Gesundheit gespendet.
Das sei ein „einmaliger Anstieg“. Fast sechsmal größer als geplant. Das Ziel? Schaffen Sie „skalierbare Möglichkeiten“, die künftig große Spenden aufnehmen können.
Auch GiveDirectly bereitet sich vor. Die gemeinnützige Organisation sendet bedingungsloses Bargeld an Menschen in Armut. Sie sammelten im Stillen Geld, um Finanz- und Personalsysteme zu automatisieren. Sie bauen Partnerschaften für eine schnellere Katastrophenhilfe auf. Sie erwägen sogar eine „globale KI-Vermögensdividende“ für extreme Armut.
CEO Nick Allardice nennt die Unsicherheit beim Börsengang „es lohnt sich, sehr ernst genommen zu werden“.
Die Zurückgelassenen?
Hier ist der Haken.
Nicht jede gemeinnützige Organisation passt in die Form des effektiven Altruismus.
Einige Organisationen arbeiten an der Sicherheit von Kindern. Politische Desinformation. Menschenrechte. Diese Gruppen befürchten, dass sie von Spendern ignoriert werden, die sich auf existenzielle KI-Risiken oder Biosicherheit konzentrieren.
Es besteht eine tiefe Angst, dass das Geld aus einem Eimer überläuft, während andere leer bleiben. Gruppen, die Massenüberwachung oder Online-Schäden bekämpfen, erhalten möglicherweise weitaus weniger Mittel als Gruppen, die das Aussterben der Menschheit verhindern.
Marlena Wisniak kennt diese Angst gut. Sie leitet die digitale Strategie beim Europäischen Zentrum für gemeinnütziges Recht. Sie beschäftigt sich mit KI-Politik, insbesondere für Gruppen im globalen Süden, die von westlichen Gebern oft übersehen werden.
Diesen Monat hatte sie einen Sieg. Ein Freund von Anthropic spendete 100.000 US-Dollar an eine solche Gruppe.
Jetzt versucht sie, OpenAI- und Anthropic-Kontakte davon zu überzeugen, ihre Liste würdiger Menschenrechtsorganisationen zu teilen. Sie bringt diesen gemeinnützigen Organisationen auch bei, die Sprache der Elite zu verwenden: „Theorie des Wandels“. „Beweisgestützt.“ Worte, die bei effektiven Altruisten Anklang finden.
Aber einige Gruppen gehen weg.
Model Evaluation and Threat Research beschließt, keine Gelder von OpenAI- oder Anthropic-Mitarbeitern zu erbitten. Warum? Unabhängigkeit. Ihr Geld zu nehmen könnte ihre Fähigkeit gefährden, sie objektiv zu kritisieren.
Andere haben Angst vor der Bezeichnung „effektiver Altruismus“. Kritiker bezeichnen die Bewegung als abgeschottet und fehlgeleitet. Einige gemeinnützige Organisationen befürchten, dass dieser Verein andere Partner abschrecken wird.
Ein Berater mehrerer EA-naher Gruppen lehnte ab. Sie argumentieren, die Reputationsängste seien übertrieben. Die Bewegung baut ihre Finanzierung, ihr Talent und ihre tatsächliche Wirkung weiter aus.
Die Kosten für leichtes Geld
Erfahrene gemeinnützige Mitarbeiter raten zur Vorsicht.
Verzerren Sie Ihre Mission nicht, nur um sie an die neue Geldform anzupassen. Vernachlässigen Sie die Kernarbeit nicht, weil die Bezahlung woanders besser ist.
Und denken Sie daran, woher dieses Geld kommt.
Es ist ein Nebenprodukt der Entwicklung von Tools, die möglicherweise genau die Probleme verschlimmern, die diese gemeinnützigen Organisationen zu beheben versuchen.
„Das heutige Risiko besteht darin, dass dieser industrialisierte Reichtum im Nachhinein möglicherweise nicht dem Wohl der Menschheit dient“, warnt Lee von AI4ALL. „Wir müssen den Reiz des einfachen Geldes vermeiden, nur um die Priorisierung der Reichen zu besänftigen.“
Der Anstieg hat bereits begonnen, Wirkung zu zeigen.
Die Gehälter steigen. Da sich die Finanzierung auf Bereiche mit begrenzten Talentpools konzentriert, steigen die Gehaltsskalen.
Resolution, eine gemeinnützige KI-Sicherheitsorganisation, hat kürzlich einen Zuschuss in Höhe von 160 Millionen US-Dollar angekündigt. Es ist die größte Auszeichnung von Coefficient aller Zeiten. In Kombination mit dem erwarteten IPO-Zustrom können sie laut Resolution „deutlich über den gemeinnützigen und akademischen Standards“ zahlen.
Es funktioniert. Zur Zeit.
Doch wie lange dauert der Boom? Und wer bleibt übrig, wenn der Hype nachlässt?
Der Hafen ist gebaut. Das Schiff kommt.
Ob es die Rettung bringt oder nur ein größeres Problem darstellt, bleibt abzuwarten.
