La atención sobre la ética de la IA de Google DeepMind no se centra solo en las relaciones públicas corporativas. Se trata de quién controla sus datos de salud y quién decide qué pueden hacer los sistemas autónomos.

Hay un malestar creciente. No porque la tecnología sea mala, sino porque se mueve más rápido que las reglas.

El problema de los datos sanitarios

¿El mayor punto de fricción? Cuidado de la salud.

DeepMind se asoció con proveedores de salud. Los grandes. Del tipo que maneja millones de registros de pacientes. El trato: utilizar esos datos para entrenar modelos de IA. El objetivo: mejores diagnósticos y predicciones de tratamiento más rápidas. Suena bien sobre el papel.

Pero aquí está el truco. Los pacientes no se registraron explícitamente para que sus datos anonimizados fueran introducidos en la red neuronal de un gigante tecnológico. La confianza se erosionó. Rápidamente.

“El uso de datos personales en asociaciones como aquellas con proveedores de atención médica” generó un temor legítimo.

No fue un truco. Fue una brecha política. La pregunta no es si pueden hacerlo. La pregunta es ¿deberían hacerlo? Y sin marcos de consentimiento claros, la respuesta se inclina hacia el no.

Sistemas autónomos y gobernanza

Luego está el ángulo autónomo.

Todavía no estamos hablando de coches autónomos. Estamos hablando de sistemas altamente autónomos. Sistemas que toman decisiones sin intervención humana. En medicina. En logística. En infraestructura.

¿Quién los gobierna?

Si un algoritmo impulsado por DeepMind recomienda un tratamiento que falla, ¿quién es responsable? ¿El médico? ¿El hospital? ¿Google?

La falta de claridad es el riesgo real. La gobernanza de la IA es actualmente un mosaico de directrices, no de leyes. Esto crea una zona gris donde la innovación supera a la responsabilidad.

Cómo está respondiendo DeepMind

DeepMind sabe que la óptica es complicada.

No se han quedado quietos. La organización ha cambiado su enfoque hacia la seguridad de la IA y el desarrollo responsable. Esto significa:

  • Más transparencia en el uso de datos.
  • Juntas de ética internas con dientes reales.
  • Compromisos públicos de “la seguridad es lo primero” en entornos de alto riesgo.

Es una reacción. Uno necesario. ¿Pero es suficiente?

Por qué esto te afecta

No es necesario trabajar en tecnología para que le importe.

Sus registros médicos son puntos de datos. Sus interacciones con los servicios inteligentes son puntos de datos. La forma en que se gobiernan estos sistemas afecta su privacidad, su seguridad y sus derechos.

La compensación es clara. Las mejores herramientas de IA conllevan una mayor exposición de los datos. La pregunta es si las salvaguardias actuales son lo suficientemente fuertes como para mantener la situación.

Por ahora, la respuesta es incierta. Y esa incertidumbre es la parte más cara del trato.