Искусственный интеллект и вызовы искусственной социальности Искусственный интеллект и вызовы искусственной социальности

Искусственный интеллект и вызовы искусственной социальности

Эксперты и исследователи обсудили риски использования ИИ-технологий для развития гражданского общества

На международной Грушинской социологической конференции в конце мая 2022 года состоялась секция «Искусственный интеллект и искусственная социальность». Социологи и философы обсудили сущностные изменения в обществе, связанные с цифровизацией и внедрением ИИ. 

Профессор департамента философии Учебно-научного центра гуманитарных и социальных наук МФТИ Виталий Зотов проанализировал риски принятия решений системами ИИ в сфере госуправления. Исследователь обозначил тренд — переход социального взаимодействия на цифровые сетевые платформы («Госуслуги», Сбер, «Яндекс») — и поставил вопрос о соотношении влияния двух коллективных субъектов, электронного правительства и электронной демократии, на процессы принятия решений по общественно значимым проблемам. 

Успехи цифровизации, по словам Виталия Зотова, смещают равновесие между электронным правительством и электронной демократией в сторону электронного правительства. Оно, однако, изначально ориентировано на рассмотрение граждан как клиентов государства, поэтому новые механизмы цифровой бюрократии на основе систем ИИ должны быть человекоцентричными и в обозримом будущем перейти к проактивной модели предложения госуслуг. 

Процесс оказания проактивных услуг пока происходит на основе цифрового профиля, но в дальнейшем, вполне возможно, будет включать анализ цифровых следов. Так происходит замена старой бюрократии, которая была связана с человеком, на новые бюрократические механизмы, связанные с системами ИИ. 

Всероссийский опрос, проведенный авторским коллективом под руководством Виталия Зотова, показал два параметра, из-за которых больше половины людей готовы изменить свое отношение к цифровым платформам в негативную сторону, — это ошибочное принятие решений цифровым сервисом и предвзятое отношение сервиса к запросам человека. Социолог сделал вывод: на смену прошлым негативным проявлениям бюрократии — затягиванию процедур, коррупции и т. д. — приходят риски принятия решений на цифровых платформах. 

В докладе «Права и свободы человека в ситуации злоупотребления при использовании технологий ИИ: как получилось, что ИИ стал угрозой гражданскому обществу?» руководитель департамента издательских программ ВЦИОМ Анна Кулешова обозначила опасности бесконтрольного и неэтичного использования решений на основе ИИ:

  • манипуляция общественным мнением людей через соцсети (боты, фейковые аккаунты и т. д.),
  • неограниченный сбор данных о человеке,
  • симуляция человека (соцсети, научные статьи, дипфейки и пр.),
  • новые возможности цензуры и модерации контента, формирование цифрового тоталитаризма (цифровой надзор).

Один из самых ярких и негативных рисков, по словам Анны Кулешовой, — это радикализация взглядов и отсутствие диалога. Алгоритмизированное формирование информационных пузырей создает иллюзию, что мы живем только среди тех людей, которых видим в соцсетях. 

Ключевая проблематика использования ИИ лежит в двух плоскостях: кто является собственником и оператором данных, которые используются алгоритмами ИИ, и есть ли юридическое или этическое ограничение на целеполагание подобных алгоритмов. 

Анна Кулешова подчеркнула несовершенство и непрозрачность процедур принятия решений системами алгоритмического управления: «Вместе с плохо отлаженным механизмом гуманитарных экспертиз мы видим неразборчивый механизм репрессий. Когда люди говорят: „Я не понял, почему одному человеку за такой пост ничего не прилетело, а другому что-то прилетело, и он получил реальные сроки“. Как раз потому, что это плохо работает и не вполне адекватно используется». 

Осенью 2021 года в России был принят Национальный кодекс этики ИИ, однако за этим не последовало каких-либо ограничений на использование технологий ИИ. Анна Кулешова напомнила, что эти технологии используются и в военной сфере и задала вопрос — будет ли там работать Национальный кодекс этики ИИ?

 
 


Руководитель Международной исследовательской лаборатории ТАНДЕМ Андрей Резаев и исследователь из Санкт-Петербургского государственного университета Наталья Трегубова обсудили вопрос: должны ли в обществе быть области, свободные от искусственного интеллекта? Такие области позволили бы снизить уровень стресса и ощущение тотального контроля и незначимости человека в круговороте социальной жизни. Наталья Трегубова предложила введение трех типов табу для применения технологий ИИ:

  • запрет на получение той или иной компанией монополии в области ИИ;
  • запрет на исключение посредников из цепочек взаимодействия человека и ИИ (как бы хорош ИИ ни был, всегда должна быть возможность обратиться к человеку-арбитру, который оспорит его решение);
  • табу в тех сферах, которые уникальным образом отличают человека от ИИ, — рождения, смерти, полового воспроизводства, религии (например, ИИ может быть использован как оружие, но ИИ не должен иметь возможности принимать решение о том, чтобы убивать). 

Исследователи из МГУ имени М. В. Ломоносова Татьяна Мартыненко и Дарья Добринская проанализировали проблемы использования технологий ИИ с позиций проявления новых форм социального неравенства. Применение ИИ-систем может усиливать цифровое неравенство, —  например, в процессе веб-майнинга, при алгоритмическом ранжировании пользователей или в случае, когда возникают ограничения доступа к информации высокого качества из-за необходимости платить за такой доступ.

Преодоление возможных угроз гражданскому обществу и свободам человека при использовании ИИ просматривается в создании консорциумов, которые объединят разработчиков, ведомства, представителей науки и потенциальных потребителей сервисов на основе ИИ.

XII международная Грушинская социологическая конференция проходила в Москве на базе ВЦИОМ в партнерстве с РАНХиГС с 23 по 27 мая 2022 года.