El futuro parecía sombrío para Ryan Carrier.
Hace una década, el ex administrador de fondos de cobertura vio cómo los sistemas de inteligencia artificial se convertían en caos. Los algoritmos de Facebook interfirieron en las elecciones. Un chatbot de Microsoft afirmó que el Holocausto no existió. El piloto automático de Tesla provocó un accidente mortal. No había gobernabilidad. Sin supervisión. Sólo un filo sangriento cortando hacia un acantilado.
Para Carrier, el mundo que esperaba a sus hijos era oscuro.
Entonces fundó ForHumanity. ¿Su objetivo? Cree herramientas para auditar sistemas de IA. Ha estado en esto desde 2016.
Pero el dinero tardó en llegar. La organización siguió siendo un actor menor, sobreviviendo con cientos de miles de dólares en financiación.
Esa dinámica está a punto de cambiar violentamente.
ForHumanity ahora está luchando por una porción de lo que podría ser la mayor ola de filantropía que el mundo haya visto en décadas. ¿El detonante? Una oleada de riqueza que fluye de las próximas OPI en los laboratorios de inteligencia artificial más grandes de Silicon Valley.
OpenAI. Antrópico. Dos gigantes de casi un billón de dólares se están preparando para salir a bolsa. Cuando lo hagan, cientos de empleados actuales y anteriores se volverán ultraricos casi de la noche a la mañana. Y una parte importante de esa población sigue una filosofía específica: el altruismo efectivo.
No se trata sólo de dar. Se trata de maximizar el impacto. Rápidamente.
La pregunta de los 15.000 millones de dólares
¿Quién trae el dinero en efectivo?
Los siete fundadores de Anthropic han prometido el 80% de su riqueza a organizaciones benéficas. La empresa incluso ofrece un programa de donaciones equivalentes: por cada acción que un empleado se compromete a donar, Anthropic aporta una o tres acciones adicionales, con un límite específico.
Los expertos en tecnología ya están haciendo cálculos. Estiman que la oferta pública inicial de Anthropic, que podría caer en septiembre, podría generar 15.000 millones de dólares sólo en donaciones filantrópicas anuales.
Piensa en esa escala.
Esa sola cifra podría aumentar el total de donaciones caritativas en Estados Unidos en un 2,5% anual. ¿En términos prácticos? Eso es como agregar la generosidad de cuatro Bill Gates al fondo global cada año.
Anthropic se negó a comentar sobre totales de donaciones específicas u organizaciones beneficiarias. Pero la presión es palpable.
No todo este dinero se materializará. Las OPI se retrasan. Tanque de mercados. Los empleados podrían entrar en pánico y conservar sus acciones. O, tal vez más probablemente, se enfrentarán a una parálisis de opciones. Con tantas causas “dignas” compitiendo por atención, muchos pueden decidir que quedarse con el dinero les resulta más seguro.
Aún así, la competencia por las billeteras de los donantes ya es feroz.
Jack Lewars, un consultor que asesora a 13 de los trabajadores tecnológicos y financieros más ricos, informa que los empleados de los principales laboratorios de inteligencia artificial reciben hasta 20 correos electrónicos de donaciones no solicitadas cada semana.
WIRED habló con 18 organizaciones sin fines de lucro. Se acercaron a decenas más.
¿Alguno envió lanzamientos fríos? No admitido públicamente. Como señala Lewars en su blog, The Funding Anthropalypse, esos fríos correos electrónicos “tienen prácticamente ninguna posibilidad de funcionar”.
En cambio, estas organizaciones se están preparando para la guerra. Están contratando más rápido. Automatizar más. Personal de formación. ¿El objetivo? Para parecer preparado cuando llegue la capital.
Una organización educativa sin fines de lucro no se anduvo con rodeos en una oferta de trabajo: construir relaciones en Anthropic. Prioridad uno.
“Todo el mundo va a buscar estos fondos”, dice Christine Peterson. Es cofundadora del Foresight Institute, un grupo que otorga subvenciones respaldado por empleados de Anthropic. “Va a ser un viaje salvaje”.
Dentro de la carrera por la financiación
Carrier de ForHumanity admite que está tratando de concentrarse en la misión. Auditoría de IA. Mantener la tecnología segura. Pero sabe que no puede ignorar el dinero.
“Sólo tengo que entrar en esa habitación”, dice. Ahora está pensando en asistir a las fiestas de IPO de San Francisco. ¿Desesperación? ¿Ambición? Probablemente ambas cosas.
Bo Young Lee, director ejecutivo de AI4ALL, está adoptando un enfoque más amplio. Ella asiste a eventos. Publicar más investigaciones. Pedirle al miembro de la junta Fei-Fei Li que haga presentaciones.
AI4ALL capacita a adultos jóvenes para construir modelos de IA. Su misión es diversificar la fuerza laboral tecnológica. Lee se ha fijado objetivos “ambiciosos” de recaudación de fondos. Ella cree que el dinero llegará. ¿Las reuniones introductorias? No han sucedido todavía.
No todo el mundo piensa que las donaciones individuales sean la respuesta.
Buck Shlegeris dirige Redwood Research, una organización sin fines de lucro con sede en Berkeley centrada en la seguridad de la IA. Sostiene que dirigirse a donantes individuales es ineficaz.
En cambio, Redwood depende de intermediarios que otorgan subvenciones como Coficient Giving y Survival and Flourishing Fund. Estos grupos reúnen dinero de altruistas eficaces y lo distribuyen a organizaciones más pequeñas. Shlegeris espera que el dinero nuevo fluya primero hacia estos centros y luego se filtre hacia abajo.
Redwood se está preparando para la expansión. Están capacitando a su personal para gestionar presupuestos más grandes y abordar “proyectos increíblemente caros”. Como automatizar la investigación de seguridad. O entrenar los propios modelos de Redwood para prevenir eventos a nivel de extinción.
Shlegeris teme que este riesgo sea real. “Es una posibilidad realmente fuerte”, afirma.
Luego está la bioseguridad.
Un subconjunto de la seguridad de la IA se centra en la prevención de armas biológicas. Geoff Ralston, un capitalista de riesgo, ayudó recientemente a redactar un plan para recaudar 2.500 millones de dólares en cinco años para abordar la bioseguridad de la IA.
“La gente de los laboratorios fronterizos comprende los vectores de amenazas mejor que nadie”, afirma Ralston. Planea pedirles dinero.
Construyendo el puerto
La ansiedad no se trata sólo de conseguir dinero. Se trata de manejarlo.
Varios donantes influyentes en el espacio del altruismo eficaz están ayudando a nuevas organizaciones sin fines de lucro a mejorar su estructura administrativa. Teneduría de libros. HORA. Legal.
“Intentamos construir el puerto antes de que lleguen los barcos”, afirma Stien van der Ploeg. Ella es la directora ejecutiva de Animal Charity Evaluators. Durante el año pasado, esa organización destinó alrededor de 15 millones de dólares a grupos que luchan contra la crueldad agrícola.
El coeficiente está haciendo un trabajo similar. Este mes, sus mayores donantes, el cofundador de Facebook, Dustin Moskovitz, y su esposa Cari Tuna, comprometieron mil millones de dólares para la salud mundial.
Se trata de un “aumento excepcional”. Casi seis veces más grande de lo previsto. ¿El objetivo? Crear “oportunidades escalables” que puedan absorber donaciones masivas en el futuro.
GiveDirectly también se está preparando. La organización sin fines de lucro envía dinero en efectivo incondicional a personas en situación de pobreza. Recaudaron silenciosamente fondos para automatizar los sistemas financieros y de recursos humanos. Están creando asociaciones para acelerar la ayuda en casos de desastre. Incluso están explorando un “dividendo de riqueza global de la IA” para la pobreza extrema.
El director ejecutivo, Nick Allardice, considera que la incertidumbre sobre la IPO “vale la pena tomarla muy en serio”.
¿Los dejados atrás?
Aquí está el truco.
No todas las organizaciones sin fines de lucro encajan en el molde altruista eficaz.
Algunas organizaciones trabajan en la seguridad infantil. Desinformación política. Derechos humanos. Estos grupos temen que los donantes centrados en los riesgos existenciales de la IA o la bioseguridad los ignoren.
Existe una profunda ansiedad de que el dinero se desborde de un cubo y deje secos a otros. Los grupos que luchan contra la vigilancia masiva o los daños en línea pueden recibir mucha menos financiación que aquellos que previenen la extinción humana.
Marlena Wisniak conoce bien este miedo. Dirige la estrategia digital en el Centro Europeo para el Derecho sin Fines de Lucro. Trabaja en políticas de IA, particularmente para grupos en el Sur Global que los donantes occidentales a menudo pasan por alto.
Este mes, obtuvo una victoria. Un amigo de Anthropic donó 100.000 dólares a uno de esos grupos.
Ahora está tratando de convencer a OpenAI y a los contactos de Anthropic para que compartan su lista de organizaciones de derechos humanos dignas. También está enseñando a estas organizaciones sin fines de lucro a utilizar el lenguaje de la élite: “teoría del cambio”. “Respaldado por evidencia”. Palabras que resuenan con altruistas eficaces.
Pero algunos grupos se están alejando.
Model Assessment and Threat Research decide no solicitar fondos de OpenAI o de los empleados de Anthropic. ¿Por qué? Independencia. Tomar su dinero podría poner en peligro su capacidad de criticarlos objetivamente.
Otros temen la propia etiqueta de “altruismo eficaz”. Los críticos califican el movimiento de insular y equivocado. Algunas organizaciones sin fines de lucro temen que esta asociación ahuyente a otros socios.
Un asesor de varios grupos alineados con EA respondió. Argumentan que los temores sobre la reputación son exagerados. El movimiento continúa aumentando su financiación, talento e impacto real.
El costo del dinero fácil
Los trabajadores veteranos de organizaciones sin fines de lucro piden precaución.
No retuerzas tu misión sólo para adaptarla al nuevo molde del dinero. No descuides el trabajo principal porque la paga es mejor en otros lugares.
Y recuerda de dónde viene este dinero.
Es un subproducto de la creación de herramientas que pueden estar empeorando los mismos problemas que estas organizaciones sin fines de lucro intentan solucionar.
“El riesgo actual es que esta riqueza industrializada… puede no servir al bien humano en retrospectiva”, advierte Lee de AI4ALL. “Tenemos que evitar el atractivo del dinero simple simplemente para apaciguar la priorización de los ricos”.
El aumento ya ha comenzado a mostrar efectos.
Los salarios están aumentando. A medida que la financiación se concentra en campos con reservas de talento limitadas, las escalas salariales aumentan.
Resolución, una organización sin fines de lucro para la seguridad de la IA, anunció recientemente una subvención de 160 millones de dólares. Es el premio más grande jamás otorgado por Coficiente. Combinado con la afluencia esperada de OPI, Resolución dijo que pueden pagar “muy por encima de las normas académicas y sin fines de lucro”.
Funciona. Por ahora.
¿Pero cuánto dura el boom? ¿Y quién se queda con la bolsa cuando el revuelo se desvanece?
El puerto está construido. El barco viene.
Queda por ver si traerá salvación o simplemente un problema mayor.
