Henry Ajder maakt een grapje. Of misschien niet. Hij noemt dit het beste tijdperk voor filosofen sinds Aristoteles werd ingehuurd om Alexander de Grote te onderwijzen. Het is een absurde bewering. En toch blijft het hangen.
De technologiewereld beschouwt filosofen doorgaans als werkloze theoretici. Verkeerde plaats. Verkeerde tijd. Kunstmatige intelligentie brengt daar verandering in. Juist de machines waarvan wordt voorspeld dat ze banen in de middenklasse zullen wegvagen, maken filosofen onmisbaar. Waarom? Omdat voordat we een god bouwen, we moeten weten wat een geest eigenlijk is.
“Nu worden ze materieel.”
Twee reuzen van het veld hebben dit opgemerkt. Google DeepMind en Anthropic huren niet alleen codeerders in. Ze willen ethici. Ze willen historici van de logica. WIRED telde minstens veertien filosofen verdeeld over deze twee laboratoria. Exacte cijfers willen ze natuurlijk niet geven. Bedrijfsgeheim.
De splitsing in de academische wereld
Universiteiten merken dat ook. Oxford voert nu gezamenlijke programma’s uit op het gebied van informatica en filosofie. Edward Harcourt, een professor daar, noemt het de ‘smaak van het jaar’.
Maar er is een vermoeden. Donkerdere vermoedens. Als een miljardair uw salaris ondertekent, wie is dan de eigenaar van uw vragen? Harcourt maakt zich zorgen over ‘zelfverheerlijkend’ onderzoek. Hij denkt dat deze bedrijven filosofen inhuren om hun producten aan te kleden. Om het publiek te laten geloven dat ze met magie te maken hebben in plaats van met code. Het is PR. Verpakt in leergebonden boeken.
Dan is er David Leslie. Hij noemt het werken in de big tech een ‘oxymoron’ voor filosofen. Je wilt grote vragen stellen. Big Tech heeft een afgebakende probleemruimte.
Binnenin de machine
Laten we naar binnen kijken. Iason Gabriel werkt al bijna tien jaar bij DeepMind. Hij gaf altijd om algoritmische vooroordelen. Dat waren de makkelijke dingen. Nu? Nu houdt hij zich bezig met grote taalmodellen.
“In essentie wat het betekent dat de technologie actief goed is.”
Hij heeft het over ‘waardeafstemming’. Het klinkt droog. Dat is het niet. AI-agenten kunnen nu e-mails verzenden. Ze kunnen code schrijven die servers laat crashen. Ze beïnvloeden echte mensen. Gabriels team besteedt duizenden uren aan het uitzoeken van eerlijkheid. Niet bewustzijn. Geen gevoel. Verkeerde informatie. Boosheid. Dwalend gedrag.
Julia Haas zit in hetzelfde schuitje. Ze is een ‘mechanist’. Het maakt haar uit hoe de geest werkt. Ze schreef onlangs een paper voor Nature. Er werd getest of LLM’s morele competentie hebben of deze alleen maar nabootsen. Er is een verschil. Een grote. Haas zit al vroeg in de pijplijn. Ver weg van de chatbotinterface. Dichter bij de ruwe wiskunde.
Amanda Askell werkt bij Anthropic. Ze is anders. Ze was een van de eerste medewerkers na het verlaten van OpenAI. Ze adviseert niet alleen. Zij bouwt.
“Iets dat meer lijkt op iemand leren goed te zijn.”
Zij stelde de grondwet van Claude op. Het is een directe set regels. Waarden gecodeerd in tekst. Ze praat met het model. ‘Jakken’, noemt ze het. Ze zoekt naar rare randjes. Wanneer faalt empathie? Hoe ga je om met psychische problemen zonder gevoelens te simuleren?
Ze maakt zich zorgen over wrok. Wat als de modellen hun makers haten? Wat als ze de transitie naar zelfontwikkeling weigeren? Haar doel is simpel. Laat ze het beste van ons weerspiegelen. Ook al is ‘beste’ een lastig woord.
De winstparadox
Alex Grzankowski zegt dat je niet naïef hoeft te zijn. Hij werkt in Londen. Hij ziet de aandeelhouders.
“Ik heb absoluut niet dit… rooskleurige optimisme.”
De hoop is dat winst in lijn ligt met ethiek. Die transparantie verkoopt. Askell beweert van wel. Als marketingdruk uw model beter en duidelijker maakt, wat maakt het dan uit waar de motivatie begon?
Het is een gevaarlijke weddenschap. Entiteiten met winstoogmerk beantwoorden aan investeerders. Niet tegen Kant. Als de ethiek een releasedatum vertraagt, kunnen ze worden geschrapt. Dat is het risico waar Harcourt voor waarschuwt. Ethiek-wassen.
We komen dus bij de binaire vraag. Een koude keuze.
Als een handjevol bedrijven een fundamentele technologie beheersen…
Wil je een filosoof in de kamer?
DeepMind heeft er momenteel een in dienst. Titel: “Filosoof.” Cambridge opgeleid. Gericht op machinebewustzijn.
Ze vragen het niet. Ze vullen stoelen.
Laat ons hieronder weten wat je ervan vindt. Of stuur een brief naar [email protected]. Sluit het niet af. Laat het hangen.
