Etika umělé inteligence Google DeepMind je v centru pozornosti – a nejde jen o firemní PR kampaně. Jde o to, kdo kontroluje vaše zdravotní údaje a kdo rozhoduje o tom, co smí autonomní systémy dělat.

Obavy rostou. Ne proto, že by technologie byla špatná, ale proto, že se vyvíjí rychleji než pravidla.

Problém lékařských dat

Hlavní bod tření? Zdravotnictví.

DeepMind uzavřel partnerství s poskytovateli zdravotní péče. Velké. Ty, které zpracovávají miliony lékařských záznamů pacientů. Dohoda: použijte tato data k trénování modelů umělé inteligence. Cíl: zlepšení diagnózy, přesnější prognóza léčby. Na papíře to zní skvěle.

Ale tady je ten háček. Pacienti výslovně nesouhlasili s přenosem svých anonymizovaných dat do neuronových sítí technologického giganta. Důvěra byla narušena. Rychle.

„Používání osobních údajů v partnerstvích, jako jsou smlouvy s poskytovateli zdravotní péče“, vyvolalo oprávněné obavy.

Nebyl to hack. To byla mezera v politice. Otázkou není, zda to dokážou. Otázkou je, zda by měli. A bez jasného rámce dohody bývá odpověď „ne“.

Autonomní systémy a řízení

Pak je tu aspekt autonomie.

To se zatím nebavíme o samořídících autech. Hovoříme o vysoce autonomních systémech. Systémy, které rozhodují bez lidského zásahu. V lékařství. V logistice. V infrastruktuře.

Kdo je ovládá?

Pokud algoritmus vyvinutý společností DeepMind doporučí léčbu, která se ukáže jako neúčinná, kdo je zodpovědný? Lékař? NEMOCNICE? Google?

Nejasnost je skutečným rizikem. Řízení umělé inteligence je v současnosti spíše soubor pokynů než zákony. To vytváří šedou zónu, kde inovace předčí odpovědnost.

Jak DeepMind reaguje

DeepMind chápe, že situace vypadá nejednoznačně.

Neseděli nečinně. Organizace přesunula své zaměření na bezpečnost AI a odpovědný vývoj. To znamená:

  • větší transparentnost při používání údajů;
  • vnitřní etické komise se skutečnými pravomocemi;
  • veřejné závazky dát „bezpečnost na prvním místě“ ve vysoce rizikových prostředích.

Toto je reakce. Nezbytné. Ale stačí to?

Proč se vás to týká

Nemusíte pracovat v technice, abyste se o to starali.

Vaše lékařské záznamy jsou datové body. Vaše interakce s chytrými službami jsou datové body. Způsob správy těchto systémů ovlivňuje vaše soukromí, bezpečnost a práva.

Kompromis je zřejmý. Pokročilejší nástroje AI jdou ruku v ruce s větší otevřeností dat. Otázkou je, zda je současná obrana dostatečně silná, aby udržela situaci pod kontrolou.

V tuto chvíli je odpověď nejistá. A tato nejistota je nejdražší částí obchodu.