O futuro parecia sombrio para Ryan Carrier.
Há uma década, o ex-gestor de fundos de hedge viu os sistemas de IA entrarem no caos. Os algoritmos do Facebook interferiram nas eleições. Um chatbot da Microsoft afirmou que o Holocausto não existiu. O piloto automático de Tesla causou um acidente fatal. Não havia governança. Sem supervisão. Apenas uma ponta sangrenta cortando em direção a um penhasco.
Para Carrier, o mundo que aguardava seus filhos era sombrio.
Então ele fundou a ForHumanity. Seu objetivo? Crie ferramentas para auditar sistemas de IA. Ele está nisso desde 2016.
Mas o dinheiro era lento. A organização continuou sendo um ator menor, sobrevivendo com centenas de milhares de financiamentos.
Essa dinâmica está prestes a mudar violentamente.
A ForHumanity está agora a lutar por uma fatia do que poderá ser a maior onda de filantropia que o mundo já viu em décadas. O gatilho? Uma onda gigantesca de riqueza fluindo dos próximos IPOs nos maiores laboratórios de IA do Vale do Silício.
OpenAI. Antrópico. Dois gigantes de quase trilhões de dólares estão se preparando para abrir o capital. Quando o fizerem, centenas de actuais e antigos funcionários tornar-se-ão ultra-ricos quase da noite para o dia. E uma parte significativa dessa população segue uma filosofia específica: o altruísmo eficaz.
Não se trata apenas de dar. Trata-se de maximizar o impacto. Rapidamente.
A pergunta de US$ 15 bilhões
Quem está trazendo o dinheiro?
Os sete fundadores da Anthropic doaram 80% de sua riqueza para instituições de caridade. A empresa ainda oferece um programa de doações equiparadas: para cada ação que um funcionário se compromete a doar, a Anthropic contribui com uma ou três ações adicionais, com limite específico.
Os especialistas em tecnologia já estão analisando números. Eles estimam que o IPO da Anthropic – que pode cair em setembro – poderia gerar US$ 15 bilhões apenas em doações filantrópicas anuais.
Pense nessa escala.
Esse número único poderia aumentar o total de doações de caridade nos EUA em 2,5% anualmente. Em termos práticos? É como adicionar a generosidade de quatro Bill Gates ao conjunto global todos os anos.
A Anthropic se recusou a comentar sobre totais de doações específicas ou organizações beneficiárias. Mas a pressão é palpável.
Nem todo esse dinheiro se materializará. IPOs atrasam. Tanque de mercados. Os funcionários podem entrar em pânico e manter suas ações. Ou, talvez mais provavelmente, enfrentarão paralisia de escolha. Com tantas causas “dignas” disputando atenção, muitos podem decidir que manter o dinheiro parece mais seguro.
Ainda assim, a competição pelas carteiras dos doadores já é acirrada.
Jack Lewars, um consultor que aconselha 13 dos mais ricos trabalhadores de tecnologia e finanças, relata que os funcionários dos principais laboratórios de IA recebem até 20 e-mails de doações não solicitadas todas as semanas.
WIRED conversou com 18 organizações sem fins lucrativos. Dezenas de outras pessoas foram abordadas.
Alguém enviou propostas frias? Não admitido publicamente. Como observa Lewars em seu blog, The Funding Anthropalypse, esses e-mails frios “quase não têm chance de funcionar”.
Em vez disso, estas organizações estão a preparar-se para a guerra. Eles estão contratando mais rápido. Automatizando mais. Equipe de treinamento. O objetivo? Para parecer pronto quando a capital chegar.
Uma organização sem fins lucrativos de educação não mediu palavras em um anúncio de emprego: construa relacionamentos na Anthropic. Prioridade um.
“Todo mundo irá atrás desses fundos”, diz Christine Peterson. Ela é cofundadora do Foresight Institute, um grupo de doações apoiado por funcionários da Anthropic. “Vai ser um passeio selvagem.”
Por dentro da corrida por financiamento
Carrier da ForHumanity admite que está tentando se concentrar na missão. Auditoria de IA. Mantendo a tecnologia segura. Mas ele sabe que não pode ignorar o dinheiro.
“Eu só preciso entrar naquela sala”, diz ele. Ele agora está pensando em participar das festas de IPO em São Francisco. Desespero? Ambição? Provavelmente ambos.
Bo Young Lee, CEO da AI4ALL, está adotando uma abordagem mais ampla. Ela está participando de eventos. Publicando mais pesquisas. Pedindo ao membro do conselho Fei-Fei Li para fazer apresentações.
AI4ALL treina jovens adultos para construir modelos de IA. Sua missão é diversificar a força de trabalho tecnológica. Lee estabeleceu metas “ambiciosas” de arrecadação de fundos. Ela acredita que o dinheiro virá. As reuniões introdutórias? Eles ainda não aconteceram.
Nem todo mundo pensa que as doações individuais são a resposta.
Buck Shlegeris dirige a Redwood Research, uma organização sem fins lucrativos com sede em Berkeley focada na segurança da IA. Ele argumenta que visar doadores individuais é ineficiente.
Em vez disso, Redwood depende de intermediários que concedem doações, como Coefficient Giving e Survival and Flourishing Fund. Estes grupos reúnem dinheiro de altruístas eficazes e distribuem-no a organizações mais pequenas. Shlegeris espera que o dinheiro novo flua primeiro para esses centros e depois desça.
Redwood está se preparando para expansão. Eles estão treinando funcionários para administrar orçamentos maiores e enfrentar “projetos absurdamente caros”. Como automatizar pesquisas de segurança. Ou treinar os próprios modelos de Redwood para prevenir eventos de nível de extinção.
Shlegeris teme que este risco seja real. “Uma chance muito forte”, diz ele.
Depois, há biossegurança.
Um subconjunto da segurança da IA concentra-se na prevenção de armas biológicas. Geoff Ralston, um capitalista de risco, ajudou recentemente a elaborar um plano para angariar 2,5 mil milhões de dólares ao longo de cinco anos para combater a biossegurança da IA.
“O pessoal dos laboratórios de fronteira entende os vetores de ameaça melhor do que ninguém”, diz Ralston. Ele planeja pedir-lhes dinheiro.
Construindo o Porto
A ansiedade não é apenas conseguir dinheiro. Trata-se de lidar com isso.
Vários financiadores influentes no espaço do altruísmo eficaz estão a ajudar organizações sem fins lucrativos mais recentes a melhorar a sua estrutura administrativa. Escrituração contábil. RH. Jurídico.
“Estamos tentando construir o porto antes da chegada dos navios”, diz Stien van der Ploeg. Ela é a diretora executiva da Animal Charity Evaluators. Durante o ano passado, essa organização direcionou cerca de US$ 15 milhões para grupos que lutam contra a crueldade agrícola.
O coeficiente está fazendo um trabalho semelhante. Este mês, os seus maiores doadores – o cofundador do Facebook Dustin Moskovitz e a esposa Cari Tuna – comprometeram mil milhões de dólares para a saúde global.
Esse é um “aumento único”. Quase seis vezes maior que o planejado. O objetivo? Criar “oportunidades escaláveis” que possam absorver enormes doações futuras.
A GiveDirectly também está se preparando. A organização sem fins lucrativos envia dinheiro incondicional para pessoas em situação de pobreza. Eles discretamente levantaram fundos para automatizar os sistemas financeiros e de RH. Eles estão construindo parcerias para um alívio mais rápido em desastres. Estão até a explorar um “dividendo de riqueza global da IA” para a pobreza extrema.
O CEO Nick Allardice chama a incerteza do IPO de “que vale a pena levar muito a sério”.
Os deixados para trás?
Aqui está o problema.
Nem toda organização sem fins lucrativos se enquadra no molde altruísta eficaz.
Algumas organizações trabalham na segurança infantil. Desinformação política. Direitos humanos. Estes grupos temem ser ignorados pelos doadores focados nos riscos existenciais da IA ou na biossegurança.
Há uma profunda ansiedade de que o dinheiro transborde de um balde e deixe outros secos. Os grupos que lutam contra a vigilância em massa ou os danos online podem receber muito menos financiamento do que aqueles que previnem a extinção humana.
Marlena Wisniak conhece bem esse medo. Ela dirige a estratégia digital no Centro Europeu de Direito Sem Fins Lucrativos. Ela trabalha em políticas de IA, especialmente para grupos no Sul Global, muitas vezes ignorados pelos doadores ocidentais.
Este mês, ela teve uma vitória. Um amigo da Anthropic doou US$ 100 mil para um desses grupos.
Agora ela está tentando convencer os contatos da OpenAI e da Anthropic a compartilhar sua lista de organizações dignas de direitos humanos. Ela também está ensinando essas organizações sem fins lucrativos a usar a linguagem da elite: “teoria da mudança”. “Apoiado em evidências.” Palavras que ressoam com altruístas eficazes.
Mas alguns grupos estão indo embora.
A Model Evaluation and Threat Research decide não solicitar fundos de funcionários da OpenAI ou da Anthropic. Por que? Independência. Pegar o seu dinheiro poderia comprometer a sua capacidade de criticá-los objectivamente.
Outros temem o próprio rótulo de “altruísmo eficaz”. Os críticos chamam o movimento de insular e equivocado. Algumas organizações sem fins lucrativos temem que esta associação afaste outros parceiros.
Um conselheiro de vários grupos alinhados à AE recuou. Eles argumentam que os temores em relação à reputação são exagerados. O movimento continua a aumentar seu financiamento, talento e impacto real.
O custo do dinheiro fácil
Trabalhadores veteranos de organizações sem fins lucrativos pedem cautela.
Não distorça sua missão apenas para se ajustar ao novo molde do dinheiro. Não negligencie o trabalho principal porque o salário é melhor em outros lugares.
E lembre-se de onde vem esse dinheiro.
É um subproduto da construção de ferramentas que pode estar agravando os mesmos problemas que essas organizações sem fins lucrativos tentam resolver.
“O risco hoje é que esta riqueza industrializada… possa não servir o bem humano em retrospectiva”, adverte Lee da AI4ALL. “Temos que evitar o fascínio do dinheiro simples simplesmente para apaziguar a priorização dos ricos.”
O aumento já começou a mostrar efeitos.
Os salários estão aumentando. À medida que o financiamento se concentra em áreas com reservas de talentos limitadas, as escalas salariais aumentam.
A Resolução, uma organização sem fins lucrativos de segurança de IA, anunciou recentemente uma doação de US$ 160 milhões. É o maior prêmio da Coeficiente de todos os tempos. Combinado com o influxo esperado de IPOs, a Resolução disse que eles podem pagar “bem acima das normas acadêmicas e sem fins lucrativos”.
Funciona. Por agora.
Mas quanto tempo dura o boom? E quem fica segurando o saco quando o hype acaba?
O porto está construído. O navio está chegando.
Ainda não se sabe se isso traz a salvação ou apenas um problema maior.
