I riflettori sull’etica dell’intelligenza artificiale di Google DeepMind non riguardano solo le pubbliche relazioni aziendali. Riguarda chi controlla i tuoi dati sanitari e chi decide cosa è consentito fare ai sistemi autonomi.

C’è un disagio crescente. Non perché la tecnologia sia pessima, ma perché si muove più velocemente delle regole.

Il problema dei dati sanitari

Il più grande punto di attrito? Assistenza sanitaria.

DeepMind ha collaborato con operatori sanitari. Quelli grandi. Del tipo che gestisce milioni di cartelle cliniche. L’accordo: utilizzare tali dati per addestrare modelli di intelligenza artificiale. L’obiettivo: una migliore diagnostica, previsioni di trattamento più rapide. Sembra buono sulla carta.

Ma ecco il problema. I pazienti non si sono registrati esplicitamente affinché i loro dati resi anonimi venissero inseriti nella rete neurale di un gigante della tecnologia. Fiducia erosa. Velocemente.

“L’uso dei dati personali in partenariati come quelli con gli operatori sanitari” ha suscitato timori legittimi.

Non è stato un trucco. Era una lacuna politica. La domanda non è: possono farlo? La domanda è: dovrebbero farlo? E senza chiari quadri di consenso, la risposta tende a essere no.

Sistemi autonomi e governance

Poi c’è l’angolo autonomo.

Non stiamo ancora parlando di auto a guida autonoma. Stiamo parlando di sistemi altamente autonomi. Sistemi che prendono decisioni senza intervento umano. In medicina. Nella logistica. Nelle infrastrutture.

Chi li governa?

Se un algoritmo basato su DeepMind consiglia un trattamento che fallisce, chi è responsabile? Il dottore? L’ospedale? Google?

La mancanza di chiarezza è il vero rischio. La governance dell’IA è attualmente un mosaico di linee guida, non di leggi. Ciò crea una zona grigia in cui l’innovazione supera la responsabilità.

Come sta rispondendo DeepMind

DeepMind sa che l’ottica è complicata.

Non sono rimasti fermi. L’organizzazione ha spostato l’attenzione verso la sicurezza dell’IA e lo sviluppo responsabile. Ciò significa:

  • Maggiore trasparenza nell’utilizzo dei dati.
  • Comitati etici interni dotati di concretezza.
  • Impegni pubblici a “la sicurezza prima di tutto” negli ambienti ad alto rischio.

È una reazione. Necessario. Ma è abbastanza?

Perché questo ti riguarda

Non devi lavorare nella tecnologia per preoccuparti.

Le tue cartelle cliniche sono punti dati. Le tue interazioni con i servizi intelligenti sono punti dati. Il modo in cui questi sistemi sono governati influisce sulla tua privacy, sulla tua sicurezza e sui tuoi diritti.

Il compromesso è chiaro. Migliori strumenti di intelligenza artificiale comportano una maggiore esposizione dei dati. La domanda è se le attuali garanzie sono abbastanza forti da mantenere la linea.

Per ora la risposta è incerta. E questa incertezza è la parte più costosa dell’accordo.