Henry Ajder plaisante à moitié. Ou peut-être pas. Il considère que c’est la meilleure époque pour les philosophes depuis qu’Aristote a été embauché pour enseigner à Alexandre le Grand. C’est une affirmation absurde. Et pourtant, ça colle.
Le monde de la technologie considère généralement les philosophes comme des théoriciens au chômage. Mauvais endroit. Mauvais moment. L’intelligence artificielle est en train de changer cela. Les machines mêmes qui devraient anéantir les emplois de la classe moyenne rendent les philosophes indispensables. Pourquoi? Parce qu’avant de construire un dieu, nous devons savoir ce qu’est réellement un esprit.
“Maintenant, ils deviennent matériels.”
Deux géants du domaine l’ont remarqué. Google DeepMind et Anthropic ne se contentent pas d’embaucher des codeurs. Ils veulent des éthiciens. Ils veulent des historiens de la logique. WIRED a dénombré au moins quatorze philosophes répartis entre ces deux laboratoires. Bien entendu, ils ne veulent pas donner de chiffres exacts. Secret d’entreprise.
La scission du monde universitaire
Les universités le remarquent également. Oxford propose désormais des programmes conjoints en informatique et en philosophie. Edward Harcourt, professeur là-bas, l’appelle « la saveur de l’année ».
Mais il y a des soupçons. Des soupçons plus sombres. Si un milliardaire signe votre chèque de paie, à qui appartiennent vos questions ? Harcourt s’inquiète de la recherche « auto-agrandissante ». Il pense que ces entreprises engagent des philosophes pour habiller leurs produits. Faire croire au public qu’il s’agit de magie plutôt que de code. C’est des relations publiques. Emballé dans des livres reliés en cuir.
Ensuite, il y a David Leslie. Il qualifie le travail au sein des grandes technologies d’« oxymore » pour les philosophes. Vous voulez poser de grandes questions. Big Tech a un espace de problèmes délimité.
À l’intérieur de la machine
Regardons à l’intérieur. Iason Gabriel travaille chez DeepMind depuis près de dix ans. Il se souciait des biais algorithmiques. C’était la chose la plus facile. Maintenant? Il s’occupe désormais de grands modèles de langage.
“Essentiellement, ce que signifie pour la technologie d’être activement bonne.”
Il parle d’« alignement des valeurs ». Cela semble sec. Ce n’est pas le cas. Les agents IA peuvent désormais envoyer des e-mails. Ils peuvent écrire du code qui fait planter les serveurs. Ils affectent de vrais humains. L’équipe de Gabriel consacre des milliers d’heures à déterminer l’équité. Pas la conscience. Pas de sensibilité. Désinformation. Malice. Comportement errant.
Julia Haas est dans le même bateau. Elle est « mécaniste ». Elle se soucie de la façon dont les esprits fonctionnent. Elle a récemment écrit un article pour Nature. Il a testé si les LLM avaient une compétence morale ou s’ils l’imitaient simplement. Il y a une différence. Un gros. Haas est au début du processus. Loin de l’interface chatbot. Plus proche des mathématiques brutes.
Amanda Askell travaille chez Anthropic. Elle est différente. Elle a été l’une des premières recrues après avoir quitté OpenAI. Elle ne se contente pas de conseiller. Elle construit.
“Quelque chose qui ressemble plus à apprendre à une personne à être bonne.”
Elle a rédigé la constitution de Claude. Il s’agit d’un ensemble direct de règles. Valeurs codées dans le texte. Elle parle au modèle. “Yakking”, dit-elle. Elle recherche des bords étranges. Quand l’empathie échoue-t-elle ? Comment gérer la détresse psychologique sans simuler des sentiments ?
Elle s’inquiète du ressentiment. Et si les mannequins détestaient leurs créateurs ? Et s’ils refusent la transition vers le développement personnel ? Son objectif est simple. Faites-les refléter le meilleur de nous. Même si « meilleur » est un mot délicat.
Le paradoxe du profit
Alex Grzankowski dit d’arrêter d’être naïf. Il travaille à Londres. Il voit les actionnaires.
“Je n’ai définitivement pas cet… optimisme rose.”
L’espoir est que le profit soit conforme à l’éthique. Cette transparence fait vendre. Askell soutient que c’est possible. Si la pression marketing rend votre modèle meilleur et plus clair, peu importe où la motivation a commencé ?
C’est un pari dangereux. Les entités à but lucratif répondent aux investisseurs. Pas à Kant. Si l’éthique retarde une date de sortie, elle pourrait être supprimée. C’est le risque contre lequel Harcourt met en garde. Lavage éthique.
On arrive donc à la question binaire. Un choix froid.
Si une poignée d’entreprises contrôlent une technologie fondamentale…
Voulez-vous un philosophe dans la pièce ?
DeepMind en embauche un en ce moment. Titre : « Philosophe ». Cambridge a fait ses études. Axé sur la conscience de la machine.
Ils ne demandent pas. Ils remplissent les sièges.
Faites-nous savoir ce que vous pensez ci-dessous. Ou envoyez une lettre à [email protected]. Ne terminez pas. Laissez-le pendre.
