«Этика слежки». Конспект «Этика слежки». Конспект

«Этика слежки». Конспект

Какие этические ограничения необходимы при использовании правоохранительными органами технологий распознавания лиц?

Польза, которую биометрические системы могут принести во многих сферах общественной жизни, очевидна. Однако использование таких систем правоохранительными органами для «общего блага» должно быть рассмотрено в свете этических ограничений. Сотрудники Института этики искусственного интеллекта при Техническом институте Мюнхена подготовили аналитическую записку «Этика слежки: использование технологии распознавания лиц правоохранительными органами в общественных пространствах». Основные тезисы их исследования перечислены ниже.

• Полиция интересуется двумя типами распознавания лиц: сопоставлением изображений (facial matching) и распознаванием лиц в реальном времени (live facial recognition, LFR). Технология сопоставления изображений использует только исторические данные. LFR же работает на основе ИИ-систем, которые оценивают вероятность совпадения изображений, полученных в реальном времени, с изображениями, сохраненными в базе данных.

• Поскольку в технологии LFR используется ИИ, основные этические проблемы связаны именно с регуляцией искусственного интеллекта.

• Использование технологии распознавания лиц связано с тремя принципами регуляции ИИ:

1) передача правоохранительным органам прав человека на приватность должна осуществляться только с его согласия;
2) принудить человека делать что-то против его воли можно только при одном условии — если необходимо предотвратить нанесение вреда;
3) применяемое противодействие должно быть пропорционально угрозе.

• Использование LFR органами правопорядка неразрывно связано с принципом доверия. Успешное и этичное внедрение такой технологии как инструмента общественной безопасности невозможно без одобрения технологии обществом и согласия граждан пойти на компромисс ради обеспечения безопасности. Человек должен иметь право отказаться давать такое согласие.

• При внедрении системы LFR в деятельность правоохранительных органов необходимо провести тщательный анализ соотношения риска и пользы:
1)  проанализировать соотношение масштаба принятых мер и серьезности угрозы (нанесения вреда или преступления);
2)  объяснить гражданам, как и почему предполагаемые меры позволят достичь поставленных целей; оценить возможную степень вторжения в частную жизнь граждан — она должна быть минимальной;
3)  проверить, не нарушают ли эти предполагаемые меры действующее законодательство;
4)  проверить, существуют ли альтернативные методы получения нужной информации;
5)  проанализировать меры, которые предполагалось внедрить, но которые в итоге не были внедрены; понять, почему это произошло.


Институт этики ИИ занимается междисциплинарными исследованиями на стыке техники и социальных наук. Институт также разрабатывает практические инструменты — фреймворки по этике ИИ.