Дискриминация по возрасту: как системы ИИ воспроизводят предрассудки врачей Дискриминация по возрасту: как системы ИИ воспроизводят предрассудки врачей

Дискриминация по возрасту: как системы ИИ воспроизводят предрассудки врачей

фото: Creative_hat / Freepik

ВОЗ подготовила аналитическую записку о влиянии эйджизма на использование ИИ в здравоохранении

В аналитической записке ВОЗ отмечается, что ИИ способен изменить к лучшему здравоохранение и медицинскую практику и принести пожилым людям значительную пользу в двух направлениях здравоохранения: долгосрочный уход с помощью удаленного мониторинга и разработка лекарственных препаратов для лечения заболеваний, связанных со старением.

Однако для того, чтобы в полной мере воспользоваться преимуществами, которые предлагает ИИ, медицинским работникам нужно обратить внимание на этические проблемы, связанные с этой технологией. Самая опасная из них — это предвзятость, стереотипы, которые свойственны людям и которые повторяют ИИ-системы. 

В аналитической записке рассматриваются ситуации, в которых ИИ может усугубить предвзятость по отношению к пожилым людям или спровоцировать появление новых этических рисков, а также предлагаются рекомендации, которые помогут этого избежать.


Этические риски, связанные с эйджизмом


Эйджизм — это дискриминация людей по признаку возраста. В первую очередь такая дискриминация касается пожилых людей. Эйджизм может стать причиной ухудшения их физического и ментального здоровья, снижения качества жизни и сокращения ее продолжительности. Эйджизм также негативно влияет на жизнь общества, в том числе на здравоохранение и социальную поддержку.

1. Перекос в данных
Датасеты, на которых обучаются системы ИИ, часто не включают данные пожилых людей, несмотря на то что во многих странах это самая большая группа людей, получающих услуги здравоохранения.

2. Цифровое неравенство
Цифровое неравенство между молодыми и пожилыми людьми отчасти связано с эйджизмом. Кроме того, пожилые люди гораздо хуже осведомлены о том, как работают алгоритмы, а значит, редко участвуют в работе ИИ.

3. Эксклюзия при проектировании
Эйджизм может влиять на проектирование продукта. Например, считается, что пожилые люди не заинтересованы в использовании цифровой и дистанционной медицины или не имеют навыков для этого. Такое представление может привести к эксклюзии людей старшего возраста как части целевой аудитории. 

Есть и другая опасная тенденция — эксклюзия пожилых как участников разработки, проектирование «от имени» пожилых людей, а не с их участием.

4. Сокращение контактов между поколениями
ИИ позволяет врачам не отвлекаться на простые, повторяющиеся задачи и уделить время срочным или более сложным случаям. Но когда речь идет о долгосрочном уходе, передача большинства функций ИИ-системе ограничит социальные взаимодействия пожилого человека, в частности взаимодействия с медицинским персоналом.

5. Проблемы управления
У пожилых людей могут возникнуть проблемы с тем, чтобы активно участвовать в управлении ИИ-системами. Если пожилые люди не осведомлены о том, что ИИ-системы активно используются для принятия решений в сфере здравоохранения, они не смогут осознать, что проблемы, связанные с применением таких систем, нужно решать коллективно.

Способы снижения рисков


  • Партисипативное проектирование ИИ-систем при участии пожилых людей: в рабочие группы должны входить люди разных поколений; участникам команд следует пройти специальные образовательные программы, которые помогут распознавать стереотипы и избегать их при решении задач.
  • Формирование разновозрастных команд дата-сайентистов.
  • Инклюзивный сбор данных: если данных о пожилых людях в датасете недостаточно, разработчики должны вносить необходимые корректировки.
  • Инвестиции в цифровую инфраструктуру и в обеспечение цифровой грамотности пожилых людей и специалистов здравоохранения.
  • Предоставление пожилым людям права давать разрешение на применение в уходе и лечении ИИ-систем и права оспаривать принятые системой решения.
  • НПА и фреймворки, которые позволяют государству, НКО и международным организациям работать вместе с пожилыми людьми над этичностью и прозрачностью ИИ.
  • Активное изучение влияния эйджизма на применение ИИ-систем в здравоохранении.
  • Внедрение процедур оценки, которые позволят определить этические риски и потенциальные последствия применения ИИ.