Опубликованы стандарты, регулирующие разработку систем искусственного интеллекта для медицины Опубликованы стандарты, регулирующие разработку систем искусственного интеллекта для медицины

Опубликованы стандарты, регулирующие разработку систем искусственного интеллекта для медицины

Принятые стандарты устанавливают требования к наборам данных и испытаниям систем ИИ


Комитет по стандартизации № 164 «Искусственный интеллект» — рабочая группа по сотрудничеству между профильными компаниями и государственными органами — опубликовал стандарты, регулирующие использование ИИ в клинической медицине. Сейчас на сайте комитета доступны документы:

• ГОСТ Р «Системы искусственного интеллекта. Системы искусственного интеллекта в клинической медицине. Часть 1. Клинические испытания»;
• ГОСТ Р «Системы искусственного интеллекта. Системы искусственного интеллекта в клинической медицине. Часть 4. Оценка и контроль эксплуатационных параметров»;
• ГОСТ Р «Системы искусственного интеллекта. Системы искусственного интеллекта в клинической медицине. Часть 5. Требования к структуре и порядку применения набора данных для обучения и тестирования алгоритмов».

Принятые стандарты устанавливают порядок разработки и испытаний систем искусственного интеллекта. ГОСТы объясняют разработчикам ИИ условия, которым должен соответствовать готовый продукт; демонстрируют, как он должен тестироваться и перепроверяться. По сути, это комплект требований со стороны экспертов: единые требования к системам ИИ с точки зрения доверия к их подготовке и выводу на рынок.

В чем роль опубликованных документов? Использование ИИ в медицине — сложный вопрос как с технической, так и с этической точек зрения. Базой для развития ИИ выступают обезличенные данные пациентов, в том числе собранные в результате научных исследований и даже реальной клинической практики. Эти данные используются как для машинного обучения, так и для тестирования и валидации ИИ-продуктов. 

Для того чтобы получить одобрение для выпуска таких продуктов на рынок, нужно создавать и использовать наборы данных по единым правилам, а также проводить технические и клинические испытания систем для последующей государственной регистрации в качестве программного медицинского изделия. Таких единых технических «правил игры» не было, что создавало сложность как для разработчиков, так и для экспертов, участвующих в испытаниях и исследованиях ИИ-систем. Разработчики по своему усмотрению тестируют и испытывают продукты, а сотрудники надзора могут предъявлять жесткие, порой даже необоснованные требования. 

Разработка и выпуск ГОСТов по теме систем искусственного интеллекта для клинической медицины — важный шаг для того, чтобы сохранить ценность информации для ИИ, но при этом страховать риски пациентов и в целом наладить диалог между сторонами. Подкомитет № 1 «Искусственный интеллект в здравоохранении» ТК-164 под руководством Сергея Морозова больше года работал над этими документами.

Работа была очень сложной: состав участников и экспертов, которые высказывали разные суждения и предложения, был большой и разношерстный, порой звучали явные противоречия по отдельным пунктам. Приходилось дискутировать и договариваться. Поэтому мы, конечно, искренне рады, что все удалось: разработанные документы были согласованы со всеми заинтересованными сторонами рынка, включая регулятора.

Роль документов огромна: мы вводим гибкое и современное техническое регулирование ИИ для медицины, которое, с одной стороны, устанавливает единые правила и методики, а с другой — не препятствует новым продуктам и идеям. Найденный баланс текстов ГОСТов — отличный пример конструктивной общей работы разных представителей профессионального сообщества.
Александр Гусев