Masa depan tampak suram bagi Ryan Carrier.
Satu dekade lalu, mantan manajer hedge fund menyaksikan sistem AI mengalami kekacauan. Algoritme Facebook ikut campur dalam pemilu. Chatbot Microsoft mengklaim Holocaust tidak ada. Autopilot Tesla menyebabkan kecelakaan fatal. Tidak ada pemerintahan. Tidak ada pengawasan. Hanya tepian berdarah yang memotong ke arah tebing.
Bagi Carrier, dunia yang menunggu anak-anaknya gelap.
Jadi dia mendirikan ForHumanity. Tujuannya? Bangun alat untuk mengaudit sistem AI. Dia sudah melakukannya sejak 2016.
Tapi uangnya lambat. Organisasi ini tetap menjadi pemain kecil, mendapatkan dana ratusan ribu.
Dinamika itu akan berubah secara drastis.
ForHumanity kini berjuang untuk mendapatkan gelombang filantropi terbesar di dunia dalam beberapa dekade terakhir. Pemicunya? Gelombang besar kekayaan mengalir dari IPO mendatang di laboratorium AI terbesar di Silicon Valley.
OpenAI. Antropis. Dua perusahaan raksasa bernilai hampir triliun dolar sedang bersiap untuk go public. Jika hal ini terjadi, ratusan karyawan saat ini dan mantan karyawan akan menjadi sangat kaya dalam sekejap. Dan sebagian besar dari populasi tersebut menganut filosofi tertentu: altruisme yang efektif.
Ini bukan hanya tentang memberi. Ini tentang memaksimalkan dampak. Dengan cepat.
Pertanyaan $15 Miliar
Siapa yang membawa uang tunai?
Tujuh pendiri Anthropic telah menyumbangkan 80% kekayaannya untuk amal. Perusahaan bahkan menawarkan program hadiah yang serasi: untuk setiap bagian yang disumbangkan oleh karyawan, Anthropic menyumbangkan satu atau tiga bagian tambahan, dengan batasan tertentu.
Orang dalam bidang teknologi sudah menghitung angka-angka. Mereka memperkirakan IPO Anthropic—yang mungkin akan dibatalkan pada bulan September—dapat menghasilkan $15 miliar dalam bentuk sumbangan filantropi tahunan saja.
Pikirkan tentang skala itu.
Angka tersebut dapat meningkatkan total sumbangan amal AS sebesar 2,5% per tahun. Secara praktis? Hal ini seperti menambahkan kemurahan hati empat Bill Gates ke dalam kelompok global setiap tahunnya.
Anthropic menolak berkomentar mengenai total donasi spesifik atau organisasi penerima. Namun tekanannya sangat terasa.
Tidak semua uang ini akan terwujud. IPO tertunda. Tangki pasar. Karyawan mungkin panik dan menahan sahamnya. Atau, mungkin lebih mungkin, mereka akan menghadapi kelumpuhan dalam memilih. Dengan banyaknya hal-hal yang “layak” yang berlomba-lomba untuk mendapatkan perhatian, banyak orang mungkin memutuskan untuk menyimpan uang mereka terasa lebih aman.
Namun, persaingan untuk mendapatkan dompet donor tersebut sudah sangat ketat.
Jack Lewars, seorang konsultan yang memberi nasihat kepada 13 pekerja teknologi dan keuangan terkaya, melaporkan bahwa karyawan di laboratorium AI terkemuka menerima hingga 20 email donasi yang tidak diminta setiap minggu.
WIRED berbicara dengan 18 organisasi nirlaba. Puluhan orang lainnya didekati.
Apakah ada yang mengirimkan penawaran dingin? Tidak diakui secara publik. Seperti yang dicatat Lewars di blognya, The Funding Anthropalypse, email-email dingin itu “hampir tidak ada peluang untuk berhasil”.
Sebaliknya, organisasi-organisasi ini sedang mempersiapkan perang. Mereka merekrut lebih cepat. Mengotomatiskan lebih banyak. Staf pelatihan. Tujuannya? Agar terlihat siap ketika ibu kota tiba.
Salah satu organisasi nirlaba pendidikan tidak berbasa-basi dalam lowongan pekerjaan: membangun hubungan di Anthropic. Prioritas satu.
“Semua orang akan mengincar dana ini,” kata Christine Peterson. Dia adalah salah satu pendiri Foresight Institute, sebuah kelompok pemberi hibah yang didukung oleh karyawan Anthropic. “Ini akan menjadi perjalanan yang liar.”
Dalam Perlombaan untuk Pendanaan
Carrier ForHumanity mengakui dia berusaha fokus pada misinya. Mengaudit AI. Menjaga teknologi tetap aman. Tapi dia tahu dia tidak bisa mengabaikan uang itu.
“Aku hanya harus masuk ke ruangan itu,” katanya. Dia sekarang berpikir untuk menghadiri pesta IPO di San Francisco. Keputusasaan? Ambisi? Mungkin keduanya.
Bo Young Lee, CEO AI4ALL, mengambil pendekatan yang lebih luas. Dia menghadiri acara. Menerbitkan lebih banyak penelitian. Meminta anggota dewan Fei-Fei Li untuk melakukan perkenalan.
AI4ALL melatih generasi muda untuk membuat model AI. Misi mereka adalah mendiversifikasi tenaga kerja teknologi. Lee telah menetapkan tujuan penggalangan dana yang “ambisius”. Dia yakin uangnya akan datang. Pertemuan perkenalan? Itu belum terjadi.
Tidak semua orang menganggap sumbangan individu adalah jawabannya.
Buck Shlegeris menjalankan Redwood Research, sebuah organisasi nirlaba berbasis di Berkeley yang berfokus pada keamanan AI. Ia berpendapat bahwa menargetkan donor perorangan tidaklah efisien.
Sebaliknya, Redwood bergantung pada perantara pemberi hibah seperti Coefisien Giving dan Survival and Flourishing Fund. Kelompok-kelompok ini mengumpulkan uang dari para altruis yang efektif dan mendistribusikannya ke organisasi-organisasi yang lebih kecil. Shlegeris mengharapkan uang baru mengalir ke pusat-pusat ini terlebih dahulu, kemudian mengalir ke bawah.
Redwood sedang bersiap untuk ekspansi. Mereka melatih staf untuk mengelola anggaran yang lebih besar dan menangani “proyek-proyek yang sangat mahal”. Seperti mengotomatiskan penelitian keselamatan. Atau melatih model Redwood sendiri untuk mencegah peristiwa tingkat kepunahan.
Shlegeris khawatir risiko ini nyata. “Peluang yang sangat kuat,” katanya.
Lalu ada biosekuriti.
Bagian dari keamanan AI berfokus pada pencegahan senjata biologis. Geoff Ralston, seorang pemodal ventura, baru-baru ini membantu menyusun rencana untuk mengumpulkan $2,5 miliar selama lima tahun guna mengatasi biosekuriti AI.
“Orang-orang di laboratorium perbatasan memahami vektor ancaman lebih baik daripada siapa pun,” kata Ralston. Dia berencana meminta uang kepada mereka.
Membangun Pelabuhan
Kecemasannya bukan hanya soal mendapatkan uang. Ini tentang penanganannya.
Beberapa pemberi hibah berpengaruh di bidang altruisme yang efektif membantu organisasi nirlaba baru meningkatkan kekuatan administratif mereka. Pembukuan. SDM. Legal.
“Kami mencoba membangun pelabuhan sebelum kapal tiba,” kata Stien van der Ploeg. Dia adalah direktur eksekutif di Animal Charity Evaluators. Selama setahun terakhir, organisasi tersebut menyalurkan sekitar $15 juta kepada kelompok-kelompok yang memerangi kekejaman terhadap pertanian.
Koefisien melakukan pekerjaan serupa. Bulan ini, donatur terbesar mereka—salah satu pendiri Facebook Dustin Moskovitz dan istrinya Cari Tuna—mendonasikan $1 miliar untuk kesehatan global.
Itu adalah “lonjakan satu kali”. Hampir enam kali lebih besar dari yang direncanakan. Tujuannya? Ciptakan “peluang terukur” yang dapat menyerap sumbangan besar-besaran di masa depan.
GiveDirectly juga sedang bersiap. Organisasi nirlaba mengirimkan uang tunai tanpa syarat kepada orang-orang yang berada dalam kemiskinan. Mereka diam-diam mengumpulkan dana untuk mengotomatisasi sistem keuangan dan SDM. Mereka membangun kemitraan untuk bantuan bencana yang lebih cepat. Mereka bahkan menjajaki “dividen kekayaan AI global” untuk kemiskinan ekstrem.
CEO Nick Allardice menyebut ketidakpastian IPO “sebaiknya ditanggapi dengan sangat serius”.
Yang Tertinggal?
Inilah hasil tangkapannya.
Tidak semua organisasi nirlaba cocok dengan pola altruis yang efektif.
Beberapa organisasi bekerja untuk keselamatan anak. Disinformasi politik. Hak asasi Manusia. Kelompok-kelompok ini khawatir mereka akan diabaikan oleh donor yang berfokus pada risiko eksistensial AI atau biosekuriti.
Ada kekhawatiran yang mendalam bahwa uang akan meluap di satu ember dan membiarkan ember lainnya kering. Kelompok-kelompok yang memerangi pengawasan massal atau kejahatan online mungkin mendapatkan dana yang jauh lebih sedikit dibandingkan kelompok-kelompok yang mencegah kepunahan manusia.
Marlena Wisniak mengetahui betul ketakutan tersebut. Dia menjalankan strategi digital di Pusat Hukum Nirlaba Eropa. Dia bekerja pada kebijakan AI, khususnya untuk kelompok-kelompok di negara-negara Selatan yang sering diabaikan oleh donor Barat.
Bulan ini, dia menang. Seorang teman di Anthropic menyumbangkan $100k ke salah satu kelompok tersebut.
Sekarang dia mencoba meyakinkan kontak OpenAI dan Anthropic untuk membagikan daftar organisasi hak asasi manusianya yang layak. Dia juga mengajari organisasi nirlaba ini untuk menggunakan bahasa elit: “teori perubahan”. “Didukung bukti.” Kata-kata yang sesuai dengan altruis yang efektif.
Namun beberapa kelompok menjauh.
Evaluasi Model dan Riset Ancaman memutuskan tidak untuk meminta dana dari karyawan OpenAI atau Anthropic. Mengapa? Kemerdekaan. Mengambil uang dapat membahayakan kemampuan mereka untuk mengkritik secara objektif.
Yang lain takut dengan label “altruisme efektif” itu sendiri. Kritikus menyebut gerakan ini picik dan salah arah. Beberapa organisasi nirlaba khawatir asosiasi ini akan menakuti mitra lainnya.
Seorang penasihat beberapa kelompok yang selaras dengan EA menolak hal tersebut. Mereka berargumentasi bahwa ketakutan terhadap reputasi tersebut terlalu berlebihan. Gerakan ini terus mengembangkan pendanaan, bakat, dan dampak nyata.
Biaya Uang Mudah
Pekerja nirlaba veteran mendesak agar berhati-hati.
Jangan memutarbalikkan misi Anda hanya agar sesuai dengan cetakan uang yang baru. Jangan mengabaikan pekerjaan inti karena bayarannya lebih baik di tempat lain.
Dan ingat dari mana uang ini berasal.
Ini adalah produk sampingan dari alat-alat pembangunan yang mungkin memperburuk masalah yang coba diperbaiki oleh organisasi nirlaba ini.
“Risikonya saat ini adalah kekayaan industri… mungkin tidak memberikan manfaat bagi umat manusia jika dipikir-pikir,” Lee dari AI4ALL memperingatkan. “Kita harus menghindari daya tarik uang sederhana hanya untuk memenuhi prioritas orang kaya.”
Lonjakan ini sudah mulai menunjukkan dampaknya.
Gaji meningkat. Karena pendanaan terkonsentrasi pada bidang-bidang dengan sumber daya manusia yang terbatas, skala gaji pun melonjak.
Resolusi, sebuah organisasi nirlaba keamanan AI, baru-baru ini mengumumkan hibah sebesar $160 juta. Ini adalah penghargaan Koefisien terbesar yang pernah ada. Dikombinasikan dengan perkiraan masuknya IPO, Resolusi mengatakan mereka dapat membayar “jauh di atas norma-norma nirlaba dan akademis.”
Ini berhasil. Untuk saat ini.
Tapi berapa lama booming ini akan bertahan? Dan siapa yang tetap memegang kendali ketika hype tersebut memudar?
Pelabuhan sudah dibangun. Kapal itu datang.
Apakah hal ini membawa keselamatan atau justru menimbulkan masalah yang lebih besar masih harus dilihat.
