Henry Ajder está medio en broma. O tal vez no. Él llama a esta la mejor era para los filósofos desde que contrataron a Aristóteles como tutor de Alejandro Magno. Es una afirmación absurda. Y, sin embargo, se mantiene.
El mundo tecnológico suele ver a los filósofos como teóricos desempleados. Lugar equivocado. Mal momento. La inteligencia artificial está cambiando eso. Las mismas máquinas que se predice que acabarán con los empleos de la clase media están haciendo que los filósofos sean indispensables. ¿Por qué? Porque antes de construir un dios, tenemos que saber qué es realmente una mente.
“Ahora se están volviendo materiales”.
Dos gigantes del sector se han dado cuenta. Google DeepMind y Anthropic no se limitan a contratar programadores. Quieren especialistas en ética. Quieren historiadores de la lógica. WIRED contó al menos catorce filósofos divididos entre esos dos laboratorios. Por supuesto, no quieren dar cifras exactas. Secreto corporativo.
La división académica
Las universidades también lo están notando. Oxford ahora ejecuta programas conjuntos en informática y filosofía. Edward Harcourt, profesor allí, lo llama “el sabor del año”.
Pero hay sospechas. Sospechas más oscuras. Si un multimillonario firma tu cheque de pago, ¿a quién pertenecen tus preguntas? A Harcourt le preocupa la investigación que “se engrandece a sí misma”. Cree que estas empresas contratan filósofos para adornar sus productos. Hacer creer al público que se trata de magia y no de código. Son relaciones públicas. Envuelto en libros encuadernados en piel.
Luego está David Leslie. Califica el trabajo dentro de las grandes empresas tecnológicas como un “oxímoron” para los filósofos. Quieres hacer grandes preguntas. Las grandes tecnológicas tienen un espacio problemático delimitado.
Dentro de la máquina
Miremos adentro. Iason Gabriel lleva casi diez años en DeepMind. Solía preocuparse por el sesgo algorítmico. Eso fue lo fácil. ¿Ahora? Ahora se ocupa de grandes modelos lingüísticos.
“Esencialmente, lo que significa para la tecnología ser activamente buena”.
Habla de “alineación de valores”. Suena seco. No lo es. Los agentes de IA ahora pueden enviar correos electrónicos. Pueden escribir código que haga fallar los servidores. Afectan a humanos reales. El equipo de Gabriel dedica miles de horas a descubrir la justicia. No la conciencia. No sensibilidad. Desinformación. Malicia. Comportamiento errante.
Julia Haas está en el mismo barco. Ella es una “mecanicista”. A ella le importa cómo funcionan las mentes. Recientemente escribió un artículo para Nature. Probó si los LLM tienen competencia moral o simplemente la imitan. Hay una diferencia. Uno grande. Haas se encuentra en una fase temprana del proceso. Lejos de la interfaz del chatbot. Más cerca de las matemáticas crudas.
Amanda Askell trabaja en Anthropic. Ella es diferente. Fue una de las primeras contratadas después de dejar OpenAI. Ella no sólo aconseja. Ella construye.
“Algo que se parece más a enseñar a una Persona a ser buena.”
Ella redactó la constitución de Claude. Es un conjunto directo de reglas. Valores codificados en texto. Ella habla con la modelo. “Yakking”, lo llama ella. Ella busca bordes extraños. ¿Cuándo falla la empatía? ¿Cómo se maneja el malestar psicológico sin simular sentimientos?
A ella le preocupa el resentimiento. ¿Qué pasa si las modelos odian a sus creadores? ¿Qué pasa si rechazan la transición al autodesarrollo? Su objetivo es simple. Haz que reflejen lo mejor de nosotros. Incluso si “mejor” es una palabra engañosa.
La paradoja de las ganancias
Alex Grzankowski dice que dejen de ser ingenuos. Trabaja en Londres. Él ve a los accionistas.
“Definitivamente no tengo este… optimismo color de rosa.”
La esperanza es que las ganancias se alineen con la ética. Esa transparencia vende. Askell sostiene que podría ser así. Si la presión del marketing hace que su modelo sea mejor y más claro, ¿a quién le importa dónde empezó la motivación?
Es una apuesta peligrosa. Las entidades con fines de lucro responden ante los inversores. A Kant no. Si la ética retrasa la fecha de lanzamiento, es posible que se eliminen. Ése es el riesgo sobre el que advierte Harcourt. Lavado de ética.
Llegamos entonces a la cuestión binaria. Una elección fría.
Si un puñado de corporaciones controlan una tecnología fundamental…
¿Quieres un filósofo en la habitación?
DeepMind está contratando uno ahora mismo. Título: “Filósofo”. Educado en Cambridge. Centrado en la conciencia de la máquina.
No preguntan. Están llenando asientos.
Háganos saber lo que piensa a continuación. O envíe una carta a [email protected]. No lo cierres. Déjalo colgado.
