У центрі уваги етика ІІ Google DeepMind — і справа тут не лише у корпоративних піар-кампаніях. Йдеться про те, хто контролює ваші медичні дані та хто вирішує, що дозволено робити автономним системам.

Спостерігається зростаючий занепокоєння. Не тому, що технології погані, а тому, що вони розвиваються швидше за правила.

Проблема медичних даних

Головна точка тертя? Охорона здоров’я.

DeepMind уклала партнерські угоди із постачальниками медичних послуг. Великі. Такими, що обробляють мільйони медичних карт пацієнтів. Суть угоди: використовувати ці дані навчання моделей ІІ. Мета: покращена діагностика, точніші прогнози лікування. На папері звучить чудово.

Але ось у чому каверза. Пацієнти не давали явної згоди на передачу своїх знеособлених даних нейронні мережі технологічного гіганта. Довіра підірвалася. Швидко.

«Використання персональних даних у партнерствах, таких як угоди з постачальниками медичних послуг» викликало обґрунтовані побоювання.

Це не було злому. Це була прогалина у політиці. Питання не в тому, чи вони можуть це робити. Питання в тому, чи мають вони. І без чітких рамок згоди відповідь схиляється до «ні».

Автономні системи та управління

Потім є аспект автономності.

Ми поки що не говоримо про безпілотні автомобілі. Ми говоримо про високоавтономні системи. Системи, які приймають рішення без втручання людини. У медицині. У логістиці. В інфраструктурі.

Хто ними керує?

Якщо алгоритм, розроблений DeepMind, рекомендує лікування, яке виявляється неефективним, хто відповідає? Лікар? Лікарня? Google?

Відсутність ясності – це реальний ризик. Управління ІІ нині є набір керівних принципів, а чи не законів. Це створює сіру зону, де інновації випереджають підзвітність.

Як реагує DeepMind

DeepMind розуміє, що ситуація має неоднозначний вигляд.

Вони не сиділи склавши руки. Організація змістила фокус на безпеку ІІ та відповідальний розвиток. Це означає:

  • більшу прозорість у використанні даних;
  • Внутрішні етичні комітети з реальними повноваженнями;
  • громадські зобов’язання ставити «безпеку перше місце» за умов високих рисков.

Це реакція. Потрібна. Але чи достатня вона?

Чому це стосується вас

Вам не обов’язково працювати у сфері технологій, щоб хвилюватись про це.

Ваші медичні записи – це точки даних. Ваші взаємодії з розумними сервісами це точки даних. Те, як керуються ці системи, впливає на вашу конфіденційність, безпеку та права.

Компроміс очевидний. Більш досконалі інструменти ІІ йдуть пліч-о-пліч з більшою відкритістю даних. Питання в тому, чи сильні поточні заходи захисту, щоб утримати ситуацію під контролем.

На даний момент відповідь невизначена. І ця невизначеність — найдорожча частина правочину.