Как обеспечить подотчетность алгоритмов? Проанализирован опыт применения технологий ИИ в госуправлении Как обеспечить подотчетность алгоритмов? Проанализирован опыт применения технологий ИИ в госуправлении

Как обеспечить подотчетность алгоритмов? Проанализирован опыт применения технологий ИИ в госуправлении

В ходе первой волны масштабного исследования были обобщены способы контроля за решениями в госсекторе, которые принимаются с опорой на алгоритмы

Правительства разных стран при предоставлении госуслуг все чаще принимают решения с опорой на алгоритмы; при этом очевидно, что внедрение систем ИИ происходит недостаточно прозрачно, а сами решения могут причинить вред. Эксперты внутри и вне государственных институтов разрабатывают регуляторные и иные инструменты, которые должны усилить подотчетность при принятии таких решений. Институт Ады Лавлейс (Ada), Институт «Искусственный интеллект сегодня» (AI Now) и Партнерство «Открытое правительство» (Open Government Partnership, OGP) объединились, чтобы изучить и систематизировать множество разных способов, которые используются в разных странах: кодексы и руководящие принципы, рекомендации, наблюдательные советы, регулярный аудит, законодательные инициативы и др. Новые практики рассматривались с позиции тех, кто принимает и внедряет решения; в основном учитывался опыт стран Европы и Северной Америки, другие регионы представлены хуже.

Результаты первой волны исследования были представлены в августе 2021 года в докладе «Подотчетность алгоритмов в государственном секторе». Предложена типология разных способов регулирования, рекомендации по итогам проделанной работы для лиц, принимающих решения, и для исследовательского сообщества и, собственно, несколько основных выводов. В частности, отмечается важная роль законодательных и институциональных рамок в обеспечении подотчетности алгоритмов, необходимость четко определить и описать объект регулирования, потребность в единой терминологии для разных государственных структур. Также успеху будет способствовать прозрачность механизмов регулирования и их соответствие общественным запросам и потребностям; обеспечение общественной поддержки принимаемых мер.