В центре внимания этика ИИ Google DeepMind — и дело здесь не только в корпоративных пиар-кампаниях. Речь идет о том, кто контролирует ваши медицинские данные и кто решает, что разрешено делать автономным системам.

Наблюдается растущее беспокойство. Не потому, что технологии плохи, а потому, что они развиваются быстрее, чем правила.

Проблема медицинских данных

Главная точка трения? Здравоохранение.

DeepMind заключила партнерские соглашения с поставщиками медицинских услуг. Крупными. Таковыми, которые обрабатывают миллионы медицинских карт пациентов. Суть сделки: использовать эти данные для обучения моделей ИИ. Цель: улучшенная диагностика, более точные прогнозы лечения. На бумаге звучит отлично.

Но вот в чем подвох. Пациенты не давали явного согласия на передачу своих обезличенных данных в нейронные сети технологического гиганта. Доверие подорвалось. Быстро.

«Использование персональных данных в партнерствах, таких как соглашения с поставщиками медицинских услуг», вызвало обоснованные опасения.

Это не было взломом. Это был пробел в политике. Вопрос не в том, могут ли они это делать. Вопрос в том, должны ли они. И без четких рамок согласия ответ склоняется к «нет».

Автономные системы и управление

Затем есть аспект автономности.

Мы пока не говорим о беспилотных автомобилях. Мы говорим о высокоавтономных системах. Системах, которые принимают решения без вмешательства человека. В медицине. В логистике. В инфраструктуре.

Кто ими управляет?

Если алгоритм, разработанный DeepMind, рекомендует лечение, которое оказывается неэффективным, кто несет ответственность? Врач? Больница? Google?

Отсутствие ясности — это реальный риск. Управление ИИ в настоящее время представляет собой набор руководящих принципов, а не законов. Это создает серую зону, где инновации опережают подотчетность.

Как реагирует DeepMind

DeepMind понимает, что ситуация выглядит неоднозначно.

Они не сидели сложа руки. Организация сместила фокус на безопасность ИИ и ответственное развитие. Это означает:

  • большую прозрачность в использовании данных;
  • внутренние этические комитеты с реальными полномочиями;
  • публичные обязательства ставить «безопасность на первое место» в условиях высоких рисков.

Это реакция. Необходимая. Но достаточная ли она?

Почему это касается вас

Вам не обязательно работать в сфере технологий, чтобы волноваться об этом.

Ваши медицинские записи — это точки данных. Ваши взаимодействия с умными сервисами — это точки данных. То, как управляются эти системы, влияет на вашу конфиденциальность, безопасность и права.

Компромисс очевиден. Более совершенные инструменты ИИ идут рука об руку с большей открытостью данных. Вопрос в том, достаточно ли сильны текущие меры защиты, чтобы удержать ситуацию под контролем.

На данный момент ответ неопределен. И эта неопределенность — самая дорогая часть сделки.