Henry Ajder setengah bercanda. Atau mungkin tidak. Dia menyebut era ini sebagai era terbaik bagi para filsuf sejak Aristoteles dipekerjakan sebagai pengajar Alexander Agung. Ini adalah klaim yang tidak masuk akal. Namun itu tetap melekat.
Dunia teknologi biasanya memandang para filsuf sebagai ahli teori yang menganggur. Tempat yang salah. Waktu yang salah. Kecerdasan buatan mengubah hal itu. Mesin-mesin yang diprediksi akan menghapuskan pekerjaan kelas menengah membuat para filsuf sangat diperlukan. Mengapa? Karena sebelum kita membangun tuhan, kita harus mengetahui apa sebenarnya pikiran itu.
“Sekarang mereka menjadi material.”
Dua raksasa di bidang ini telah memperhatikannya. Google DeepMind dan Anthropic tidak hanya mempekerjakan pembuat kode. Mereka menginginkan ahli etika. Mereka menginginkan sejarawan logika. WIRED menghitung setidaknya ada empat belas filsuf yang terbagi dalam dua laboratorium tersebut. Tentu saja mereka tidak mau memberikan angka pastinya. Kerahasiaan perusahaan.
Perpecahan Akademisi
Universitas juga memperhatikan hal ini. Oxford sekarang menjalankan program bersama di bidang Ilmu Pengetahuan dan Filsafat. Edward Harcourt, seorang profesor di sana, menyebutnya sebagai “rasa tahun ini”.
Tapi ada kecurigaan. Kecurigaan yang lebih gelap. Jika seorang miliarder menandatangani gaji Anda, siapa pemilik pertanyaan Anda? Harcourt mengkhawatirkan penelitian yang “membesar-besarkan diri sendiri”. Menurutnya perusahaan-perusahaan ini mempekerjakan para filsuf untuk mendandani produk mereka. Untuk membuat publik percaya bahwa mereka berurusan dengan sihir, bukan kode. Itu PR. Dibungkus dengan buku bersampul kulit.
Lalu ada David Leslie. Dia menyebut bekerja di bidang teknologi besar sebagai sebuah “oksimoron” bagi para filsuf. Anda ingin mengajukan pertanyaan besar. Teknologi Besar mempunyai ruang permasalahan yang terbatas.
Di dalam Mesin
Mari kita lihat ke dalam. Iason Gabriel telah berada di DeepMind hampir sepuluh tahun. Dia dulu peduli dengan bias algoritmik. Itu adalah hal yang mudah. Sekarang? Sekarang dia berurusan dengan model bahasa besar.
“Pada dasarnya, apa artinya teknologi menjadi baik secara aktif.”
Dia berbicara tentang “penyelarasan nilai”. Kedengarannya kering. Tidak. Agen AI sekarang dapat mengirim email. Mereka dapat menulis kode yang membuat server mogok. Mereka mempengaruhi manusia nyata. Tim Gabriel menghabiskan ribuan jam untuk mencari keadilan. Bukan kesadaran. Bukan perasaan. Keterangan yg salah. Kebencian. Perilaku yang salah.
Julia Haas juga mengalami hal yang sama. Dia adalah seorang “mekanis”. Dia peduli bagaimana pikiran bekerja. Dia baru-baru ini menulis makalah untuk Alam. Ini menguji apakah LLM memiliki kompetensi moral atau hanya menirunya. Ada perbedaan. Yang besar. Haas sedang dalam proses awal. Jauh dari antarmuka chatbot. Lebih dekat dengan matematika mentah.
Amanda Askell bekerja di Antropis. Dia berbeda. Dia adalah salah satu karyawan pertama setelah meninggalkan OpenAI. Dia tidak hanya memberi nasihat. Dia membangun.
“Sesuatu yang lebih seperti mengajarkan seseorang untuk menjadi baik.”
Dia menyusun konstitusi Claude. Ini adalah seperangkat aturan langsung. Nilai dikodekan dalam teks. Dia berbicara dengan modelnya. “Yakking,” dia menyebutnya. Dia mencari tepian yang aneh. Kapan empati gagal? Bagaimana Anda menangani tekanan psikologis tanpa meniru perasaan?
Dia khawatir tentang kebencian. Bagaimana jika para model membenci penciptanya? Bagaimana jika mereka menolak transisi menuju pengembangan diri? Tujuannya sederhana. Jadikan mereka mencerminkan sisi terbaik kita. Meskipun “terbaik” adalah kata yang rumit.
Paradoks Keuntungan
Alex Grzankowski berkata berhenti bersikap naif. Dia bekerja di London. Dia melihat para pemegang saham.
“Saya jelas tidak memiliki… optimisme yang cerah.”
Harapannya, keuntungan selaras dengan etika. Transparansi itu menjual. Askell berpendapat hal itu mungkin terjadi. Jika tekanan pemasaran membuat model Anda lebih baik dan lebih jelas, siapa yang peduli dari mana motivasinya dimulai?
Ini adalah pertaruhan yang berbahaya. Entitas nirlaba menjawab investor. Tidak bagi Kant. Jika etika memperlambat tanggal rilis, mereka mungkin akan dipotong. Itulah risiko yang diperingatkan oleh Harcourt. Pencucian etika.
Jadi kita sampai pada pertanyaan biner. Pilihan yang dingin.
Jika segelintir perusahaan mengendalikan teknologi dasar…
Apakah Anda ingin seorang filsuf di ruangan itu?
DeepMind sedang merekrutnya sekarang. Judul: “Filsuf.” berpendidikan Cambridge. Berfokus pada kesadaran mesin.
Mereka tidak bertanya. Mereka mengisi kursi.
Beri tahu kami pendapat Anda di bawah ini. Atau kirim surat ke [email dilindungi]. Jangan membungkusnya. Biarkan menggantung.
