Искусственный, доверенный, объяснимый Искусственный, доверенный, объяснимый

Искусственный, доверенный, объяснимый

Вышел в свет второй том руководства «ИИ в здравоохранении», в котором обсуждаются роботы-соцработники и другие предвестники персонализированной медицины

Содержание за 30 секунд 


Авторы из разных стран объединились, чтобы описать перспективы применения технологий ИИ в медицине и взаимодействия людей с системами ИИ. Разделы руководства затрагивают несколько важных тем: от мониторинга состояния онкобольных до необходимых в здравоохранении будущего регуляторных документов. Исследователи предлагают инструменты, модели и решения, которые будут подспорьем для врачей при анализе большого объема данных.


Основные тезисы


Сразу несколько включенных в книгу исследований посвящено проблемам и методам обучения систем ИИ, их адаптации для нужд различных пользователей (см., например, статью о валидации результатов работы ИИ-систем в здравоохранении).

Наибольший интерес у авторов вызывают вопросы этики, например, влияние эмоций на предвзятость ИИ-систем; потенциальные риски для отношений врача и пациента при применении ИИ. Касаются авторы и проблем информационной безопасности при сборе и хранении биометрических данных.

В разделе о продуктивном взаимодействии «человек — робот» для улучшения состояния пожилых людей анализируются возможности использования гуманоидных роботов в уходе за людьми «серебряного возраста». Авторы онлайн-программы для родителей детей с расстройствами аутистического спектра предлагают родителям с помощью приложения заниматься с детьми дома и развивать их навыки коммуникации.

Российские авторы написали для второго тома книги раздел о развитии технологий ИИ в здравоохранении в РФ. «Научные исследования и разработки в сфере ИИ в России ведутся уже несколько десятков лет, — рассказывает один из авторов этого раздела, Александр Гусев. — За последний год на уровне правительства РФ, Министерства здравоохранения и Росздравнадзора внесено множество точечных изменений в действующее законодательство, направленных на возможность государственной регистрации программных продуктов на основе ИИ-технологий и их вывода на рынок».


Цитата


«…Непрозрачный характер работы систем ИИ вызывает вопросы о доверии, законности и ответственности. Поэтому объяснимый ИИ [Explainable AI, XAI] приобретает все большее значение и призван помочь пользователям понять решения, принятые ИИ-системой, или сформированные ей прогнозы».


Зачем мне читать эту книгу?


Прямо сейчас в медицинскую практику активно внедряются технологии, связанные с ИИ, для постановки более точных диагнозов, анализа больших объемов медицинских данных, прогнозирования и мониторинга. Однако пока искусственный интеллект не может объяснить свои действия и выводы. Руководство наглядно показывает очертания новой медицины — как ее прорывы, так и проблемы, у которых пока нет решения.

Handbook of Artificial Intelligence in Healthcare. Vol. 2: Practicalities and Prospects = ИИ в здравоохранении. Т. 2: Практика и перспективы. Springer, 2022. (Intelligent Systems Reference Library).