logo
 
logo
21 октября 2019

Проблемы регистрации в качестве медицинских изделий программного обеспечения и изделий с искусственным интеллектом

logo
Автор:
  • 1571
  • 0
Проблемы регистрации в качестве медицинских изделий программного обеспечения и изделий с искусственным интеллектом
Данная статья опубликована в дополнение к докладу Габай Полины Георгиевны на Московском международном форуме инновационного развития «Открытые инновации-2019». Так как время выступления в рамках юридической секции на форуме было ограничено, мы решили поделиться с нашими читателями более подробным мнением по вопросам и проблемам, которые были озвучены в докладе.

Корень всех проблем, связанных с регистрацией программного обеспечения (далее – ПО), пророс в тот момент, когда «нематериальное» вдруг стало «материальным».

В ст. 38 от 21.11.2011 № 323-ФЗ Федерального закона «Об основах охраны здоровья граждан в Российской Федерации» (далее – ФЗ № 323) к медицинским изделиям относятся (дословно) «любые инструменты, аппараты, приборы, оборудование, материалы и прочие изделия, применяемые в медицинских целях отдельно или в сочетании между собой, а также вместе с другими принадлежностями, необходимыми для применения указанных изделий по назначению, включая специальное программное обеспечение».

На основании этого в Письме от 30.12.2015 № 01И-2358/15 Росздравнадзор пришел к выводу, что программное обеспечение может являться медицинским изделием.

Сам по себе данный вывод уже является абсурдным. В толковом словаре Ожегова под изделием понимается «выделка, производства, вещь, товар». Другими словами, изделие – это что-то материальное.

В свою очередь, программное обеспечение, согласно различным словарям – это:

  • комплекс компьютерных программ, обеспечивающий обработку или передачу данных (Райзберг Б.А., Лозовский Л.Ш., Стародубцева Е.Б. «Современный экономический словарь. - 6-е изд., перераб. и доп. - М.» (ИНФРА-М, 2011)).
  • совокупность программ системы обработки данных и программных документов, необходимых для реализации программ на электронной вычислительной машине (ЭВМ) (Современная энциклопедия).

Можно привести ряд других определений из словарей, но все они сводятся к одному – программное обеспечение нематериально. Его нельзя приравнивать к вещи, а значит оно не может быть изделием.

Гражданский кодекс (ст. 1261) также гласит, что программой для ЭВМ является представленная в объективной форме совокупность данных и команд, предназначенных для функционирования ЭВМ и других компьютерных устройств в целях получения определенного результата, включая подготовительные материалы, полученные в ходе разработки программы для ЭВМ, и порождаемые ею аудиовизуальные отображения. В свою очередь, в ст. 1225 ГК РФ компьютерные программы приравнены к результатам интеллектуальной деятельности.

Право на использование программы для ЭВМ относится к нематериальным активам (пп. 2 п. 3 ст. 257 Налогового Кодекса РФ). На ПО и медицинские изделия (МИ) также установлены различные налоговые ставки (ст. 149 НК РФ).

В номенклатуре медицинских изделий программное обеспечение также не выделено отдельным кодом, за исключением программного обеспечения для диагностики in vitro (№ 5.3). На практике ПО классифицируют по соответствующему профилю деятельности, в рамках которой оно применяется:

Регистрация программного обеспечения как медицинского изделия

Таким образом, рядом нормативных правовых актов и логикой МИ и ПО разделены. Они существуют в правовом поле как абсолютно разные объекты. Почему же их объединяет Росздравнадзор? Очевидно, из-за неверного понимания определения, которое дано в ст. 38 ФЗ № 323. Скорее всего, орган трактует его следующим образом:

  • Медицинские изделия – это любые инструменты, аппараты, приборы, оборудование, материалы и прочие изделия, <…>, включая специальное программное обеспечение.

Однако такая трактовка является неверной. Текст, который пропущен выше, имеет очень важно значение. Правильнее трактовать определение следующим образом:

  • Медицинские изделия – это любые инструменты, аппараты, приборы, оборудование, материалы и прочие изделия, <…> вместе с другими принадлежностями, <…>, включая специальное программное обеспечение.

То есть, в определении программное обеспечение является принадлежностью к медицинскому изделию. При этом самостоятельно оно не позиционируется как МИ.

Хотя и это определение законодателя не совсем верно, так как к принадлежностям МИ относятся «предметы, самостоятельно не являющиеся МИ и по целевому назначению применяемые совместно с МИ либо в их составе для того, чтобы МИ могло быть использовано в соответствии с целевым назначением» (ГОСТ Р 56849-2015/ISO/TR 17791:2013 «Национальный стандарт Российской Федерации. Информатизация здоровья. Руководство по стандартам безопасности медицинского программного обеспечения»). В свою очередь, согласно тому же словарю Ожегова, предметом является «всякое материальное явление, вещь».

Таким образом, выходит, что ПО:

  • Не является МИ
  • По назначению совпадает с принадлежностями к МИ
  • По форме не является принадлежностью к МИ

Отсюда неясный правовой статус ПО и как следствие его ошибочное отнесение к медицинским изделиям.

Тем не менее, де-факто контролирующие органы исходят из того, что медицинское ПО должно регистрироваться как МИ. Это опять же следует из Письма Росздравнадзора от 30.12.2015 № 01И-2358/15, согласно которому ПО может быть отнесено к МИ, если оно предназначено для:

  • Управления работой оборудования и мониторинга за его функционированием;
  • Получения от оборудования диагностических данных, их накопления и расчета в автоматическом режиме;
  • Мониторинга функций организма человека и передачи полученных данных (в том числе посредством беспроводных технологий);
  • Расчета параметров подбора дозы (облучения, лекарственного средства, рентгеноконтрастного вещества и т.д.);
  • Для обработки данных, полученных с диагностического медицинского оборудования, передачи их на системы планирования и терапии;
  • Обработки медицинских изображений (включая изменение его качества, цветового разрешения и т.д.);
  • Для 3D-моделирования;
  • Связи диагностического и лечебного оборудования;
  • Для обработки цифровых изображений (в том числе с получением данных от диагностического оборудования в неизменном виде).

К слову, данный перечень также вызывает определенные сомнения. Например, согласно перечню, к МИ относится ПО, которое используется для обработки медицинских изображений. Однако, фотошоп тоже может использоваться для этих целей. В таком случае фотошоп необходимо считать медизделием? Очевидно, что это абсурд, так как обработка изображений в фотошопе не соответствует целям, которые указаны в ст. 38 ФЗ № 323: профилактика, диагностика, лечение и медицинская реабилитация заболеваний, мониторинг состояния организма человека, проведение медицинских исследований, восстановление, замещение, изменение анатомической структуры или физиологических функций организма, предотвращение или прерывание беременности.

Поэтому, мы считаем, что правильнее ориентироваться именно на эти цели, а не на перечень Росздравнадзора, который содержится в письме. Однако и здесь нельзя всех «грести под одну гребёнку».

Например, сейчас активно обсуждается необходимость регистрации в качестве МИ так называемых «симптомчекеров». Это сервис, который на основе списка выявленных у пациента симптомов определяет вероятность того или иного заболевания. Приложения ориентированы как на пациентов, так и на врачей.

К слову, если исходить из перечня, который содержится в письме Росздравнадзора, то симпомчекеры не относятся к МИ. Если смотреть на цели, которые указаны в ст. 38 ФЗ № 323, то вроде как формально симпотчекеры под них подходят, так как используются как минимум в процессе диагностики заболеваний. Однако, мы считаем, что и в данном случае относить их к МИ не совсем корректно, так как они не используются в медико-юридических целях. Попытаемся пояснить свою мысль.

Сейчас ни один нормативный правовой акт не указывает на то, что диагноз выставляется на основании симптомчекеров. Ни порядки, ни стандарты, ни клинические рекомендации, ни даже книги и учебники по медицине. Соответственно, врач не может на них ориентироваться при постановке диагноза. Да, использовать их никто не запрещает – справочники действительно могут помочь и что-то подсказать, но в случае ошибки в диагностике виноват будет не справочник, а врач. Проще говоря, симптомчекер – это «не истина в последней инстанции», а гипотеза, которую врач хочет принимает, а хочет отвергает.

Если же мы будем исходить из того, что любое ПО, которое так или иначе участвует в медицинском процессе, необходимо относить к МИ, то медицинскими изделиями нужно признавать медицинские информационные системы, посредством которых осуществляется телемедицинская консультация. Если пойти еще дальше, то к МИ нужно приравнивать даже листик с ручкой, с помощью которых записывается диагноз – они же тоже участвуют в оказании медицинской помощи.

Мы хотим донести до сообщества мысль, что к МИ нужно относить изделия, от которых зависит то или иное врачебное решение, и недостаток в работе которых может привести к последствиям для здоровья или жизни пациента.

Например, от ПО, которое обеспечивает работу кардиографа, очевидно зависит точность и правильность постановки диагноза пациенту. Поэтому такое ПО должно регистрироваться. Однако в данном случае ПО является неотъемлемой частью кардиографа, а значит вполне логично, если оно будет испытываться и регистрироваться вместе с ним в рамках общей процедуры, предусмотренной Постановлением Правительства РФ № 1416 (далее – ПП РФ № 1416 или Правила № 1416).

Сложнее, когда ПО не является частью какого-то конкретного МИ. Например, если это отдельное приложение для мониторинга за состоянием здоровья, которое не регистрировалось с каким-то конкретным МИ, но по словам разработчика может синхронизироваться с несколькими МИ удаленно. Такое возможно в рамках дистанционного мониторинга за состоянием здоровья пациента. Что делать в таком случае?

Рекомендации по внесению изменений в действующее законодательство

Во-первых, опять же повторимся, что такое ПО не является изделием и не должно регистрироваться как МИ. Однако полностью выводить из-под государственного контроля такое ПО нельзя. Поэтому мы поддерживаем инициативу о присвоении подобным программным решениям отдельного правового статуса. Попытки уже были предприняты Ассоциацией разработчиков и пользователей искусственного интеллекта в медицине «Национальная база медицинских знаний» (НБМЗ). К сожалению, мы не смогли найти текст законопроекта и ничего не можем прокомментировать по его существу, но полагаем, что посыл в нем высказан верный.

Однако изменений в ФЗ № 323 недостаточно, да и пока это не так важно. Полагаем, что сейчас важнее сделать отдельный Порядок регистрации ПО. Проще, наверное, добавить новый раздел в ПП РФ № 1416. Хотя это и не совсем верно с формальной точки зрения (опять же, потому что Порядок распространяется на изделия-вещи, а ПО является результатом интеллектуальной деятельности, то есть совершенно иным объектом гражданским прав (ст. 128 ГК РФ)).

Параллельно необходимо изменять и другие подзаконные нормативные правовые акты, в том числе:

  • Порядок организации и проведения экспертизы качества, эффективности и безопасности медицинских изделий, утвержденный Приказом Минздрава России от 21.12.2012 № 1353н.
  • Порядок проведения оценки соответствия МИ в форме технических испытаний, токсикологических исследований, клинических испытаний, утвержденный Приказом Минздрава России от 09.01.2014 № 2н.

К слову, недавно был разработан проект нового Порядка проведения экспертизы МИ в целях их государственной регистрации. Ключевое отличие нового Порядка от старого (Приказ № 1353н) – это новый раздел, в котором регулируются вопросы экспертизы МИ 1 класса риска и изделий для диагностики in vitro. Однако ПО в новом Порядке опять забыли и обошли стороной.

В свою очередь, нынешние НПА, которыми регулируются вопросы регистрации МИ, абсолютно не приспособлены к регистрации ПО. Если ориентироваться на вопросы, которые поднимаются в СМИ, то сообщество в большей степени обеспокоено двумя проблемами:

  1. Сложность и длительность проведения технических и клинических испытаний ПО.
  2. Необходимость внесения изменений в регистрационное досье каждый раз в случае обновления версии ПО.

Что касается 1 пункта, то здесь мы абсолютно согласны – процедуру действительно целесообразно упростить и адаптировать под реалии ПО. Вот, например есть такая формальная проблема – согласно пп. «д» п. 9 Правил регистрации (ПП РФ № 1416), к заявлению о государственной регистрации прикладываются фотографические изображения общего вида медицинского изделия вместе с принадлежностями, необходимыми для применения медицинского изделия по назначению (размером не менее 18 x 24 сантиметра). Как же в таком случае производителю предоставить фотографию ПО? Вы не поверите, но у экспертных организаций Росздравнадзора есть методические рекомендации, которые отвечают на этот вопрос:

«В качестве фотографий Программного обеспечения рассматриваются: а) фотографическое изображение электронного носителя (при поставке Программного обеспечения на физическом носителе); б) фотографическое изображение (скриншот) экрана, в случае поставки Программного обеспечения без участия физического электронного носителя (по сети Интернет). Фотография должна позволять четко и однозначно идентифицировать Программное обеспечение, включая его версию/дату выпуска».

Нам представляется такой подход излишне формализованным и неоправданным. А это мы еще не дошли до более глобальных вещей. Если ПО не относится к 1 классу риска, для его регистрации необходимо сначала провести доклинические испытания, потом получить разрешение на проведение клинических испытаний, далее провести сами клинические испытания и только затем пройти 2 этап экспертизы и в случае успеха получить регистрационное удостоверение. При чем, если изделие новое и уникальное, клинические испытания обязательно проводятся с участием человека, а для этого еще и нужно получить положительное заключение совета по этике. Все это занимает большое количество времени и сильно тормозит продвижение ПО на рынок.

При чем, когда ПО уже зарегистрировано, может возникнуть необходимость внести изменения в его версию (исправить ошибки, баги, доработать совместимость программ с другими программами, которые также могут обновляться и т.д.). В таком случае производители опасаются, что им потребуется вносить изменения в регистрационную документацию и вновь тратить долгие месяцы на формальные процедуры. Однако здесь есть небольшой нюанс, о котором мы полагаем также важно сказать.

А действительно ли нужно регистрировать изменения ПО?

Согласно Правилам № 1416н, изменения в комплект регистрационной документации (КРД) вносятся в том случае, если меняется техническая или эксплуатационная документация на МИ, а не само МИ. Это ключевой момент, так как в техническую документацию на МИ вносится только информация о процессе проектирования, разработки и валидации программного обеспечения (п. 4 Требований к содержанию технической документации на МИ, утвержденных Приказом Минздрава России от 19.01.2017 № 11н), а в эксплуатационную – перечень предоставленных производителем (изготовителем) медицинского изделия сведений, ключей, паролей доступа, программ, необходимых для монтажа, наладки, эксплуатации и технического обслуживания медицинского изделия (п. 11 Требований к содержанию технической документации на МИ, утвержденных Приказом Минздрава России от 19.01.2017 № 11н).

Таким образом, если при изменении версии ПО не меняется его процесс проектирования, разработки и валидации, изменения в КРД формально вносить не требуется. Однако, здесь нужно рассматривать каждый случай в отдельности. Например, возможна такая ситуация:

В эксплуатационной документации указан номер версии ПО «1.1» и перечень программ, с которыми ПО взаимодействует (например, ОС Windows 7). Позже вышла версия ОС Windows 10 и у производителя возникла необходимость обновить ПО (например, до версии 1.2), а также внести изменения в эксплуатационную документацию, указав, что ПО совместимо с ОС Windows 7 и 10. В таком случае изменения в КРД вносить необходимо. Однако производитель может предусмотреть это заранее, указав в инструкции, что ПО совместимо с ОС Windows 7 и более новыми версиями. Версию своего ПО также можно указать, например, не «1.2», а «1.1.1». В таком случае уже вносить изменения в КРД не требуется.

Таким образом, при изменении ПО проходить процедуру внесения изменений в КРД нужно не всегда, но это скорее упущение законодателя, так как по факту характеристики ПО изменились, а значит поменялась совместимость программ, что могло повлиять на его качество / эффективность / безопасность.

Поэтому мы поддерживаем инициативу о том, чтобы для ПО был разработан отдельный Порядок регистрации. Возможно, имеет смысл даже оценивать не само ПО, а его разработчиков. К слову, с похожей проблемой столкнулись производители МИ для диагностики in vitro. Есть ряд МИ, которые изготавливаются в единичных экземплярах, в связи чем их не выгодно регистрировать в Росздравнадзоре. Поэтому производители разработали изменения в ФЗ № 323, согласно которым регистрацию таких МИ предлагалось отменить, а вместо этого выдавать специальные разрешения и лицензии для разработчиков МИ.

По аналогии можно создать подобную разрешительную систему и для разработчиков медицинского ПО. Подобные мысли уже высказывались в сообществе. Однако, чтобы данную идею воплотить в жизнь, необходимо вносить изменения в ФЗ № 323 и другие нормативные правовые акты, а также разработать целый перечень новых НПА, которыми будет регулироваться порядок выдачи разрешений на разработку медицинского ПО. Поэтому мы полагаем, что этот путь очень сильно отсрочит внедрение ПО в медицину и проще все-таки идти через разработку отдельной процедуры регистрации медицинского ПО посредством внесения изменений в Правила № 1416н.

Нужна ли лицензия на осуществление деятельности по производству и техническому обслуживанию медицинской техники?

Есть еще одна проблема, которая напрямую не связана с регистрацией ПО, но также волнует сообщество. Мы говорим о необходимости получения лицензии на ремонт медицинской техники. Опасения на этот счет неоднократно высказывались в СМИ. Росздравнадзор на своем официальном сайте даже публиковал ответ на вопрос «Обязано ли юридическое лицо или индивидуальный предприниматель, осуществляющие производство, установку и сервисное обслуживание медицинского программного обеспечения (в частности, медицинская информационная система, лабораторная информационная система) иметь лицензию на осуществление деятельности по производству и техническому обслуживанию медицинской техники?».

По мнению надзорного органа, получать лицензию не нужно. Аргументировал орган свою позицию следующим образом:

«В соответствии с Положением о лицензировании медтехники (ПП РФ от 03.06.2013 № 469), понятие «медицинская техника» означает медицинские изделия, представляющие собой инструменты, аппараты, приборы, оборудование, применяемые в медицинских целях отдельно или в сочетании, а также вместе с другими принадлежностями, необходимыми для применения указанных изделий по назначению, включая специальное программное обеспечение, и предназначенные производителем для профилактики, диагностики, лечения и медицинской реабилитации заболеваний, мониторинга состояния организма человека, проведения медицинских исследований, восстановления, замещения, изменения анатомической структуры или физиологических функций организма, предотвращения или прерывания беременности, функциональное назначение которых не реализуется путем фармакологического, иммунологического, генетического или метаболического воздействия на организм человека. Обращаем внимание, что понятие «медицинская техника» определенное в соответствии с Положением не является идентичным определению медицинских изделий данному п. 1 ст. 38 Федерального закона от 21.11.2011 № 323-ФЗ «Об основах охраны здоровья граждан в Российской Федерации». Таким образом, исходя из системного трактования положений действующего законодательства, изолированно, программное обеспечение не отвечает понятию, изложенному в Положении, с учетом сказанного его производство и техническое обслуживание не подлежит лицензированию в рамках постановления Правительства Российской Федерации от 03.06.2013 № 469».

Давайте сверим понятия медицинской техники и медицинских изделий (отличия выделены жирным):

Медицинские изделия (Ст. 38 ФЗ № 323)Медицинская техника (ПП РФ № 469)
Инструменты, аппараты, приборы, оборудование, материалы и прочие изделия, применяемые в медицинских целях отдельно или в сочетании между собой, а также вместе с другими принадлежностями, необходимыми для применения указанных изделий по назначению, включая специальное программное обеспечение, и предназначенные производителем для профилактики, диагностики, лечения и медицинской реабилитации заболеваний, мониторинга состояния организма человека, проведения медицинских исследований, восстановления, замещения, изменения анатомической структуры или физиологических функций организма, предотвращения или прерывания беременности, функциональное назначение которых не реализуется путем фармакологического, иммунологического, генетического или метаболического воздействия на организм человека. Инструменты, аппараты, приборы, оборудование, применяемые в медицинских целях отдельно или в сочетании, а также вместе с другими принадлежностями, необходимыми для применения указанных изделий по назначению, включая специальное программное обеспечение, и предназначенные производителем для профилактики, диагностики, лечения и медицинской реабилитации заболеваний, мониторинга состояния организма человека, проведения медицинских исследований, восстановления, замещения, изменения анатомической структуры или физиологических функций организма, предотвращения или прерывания беременности, функциональное назначение которых не реализуется путем фармакологического, иммунологического, генетического или метаболического воздействия на организм человека.

Таким образом, единственное отличие заключается в том, что к медицинской технике не относятся материалы и прочие изделия. Однако программное обеспечение фигурирует и там, и там. Тогда почему Росздравнадзор сделал вывод о том, что на ремонт ПО лицензия не нужна? Вопрос риторический и лишний раз подтверждает вывод о том, что правовой статус ПО интерпретирован контрольным органом неверно.

Медицинские изделия с искусственным интеллектом

В заключение затронем также тему регистрации медицинских изделий с искусственным интеллектом (ИИ). Как и в случае с ПО правовой статус ИИ не определен. Что же считать ИИ?

Некоторые специалисты относят к ИИ, в том числе «симптоматики», о которых мы говорили ранее, системы мониторинга за состоянием здоровья и т.д. Однако мы не совсем с этим согласны. Подобные приложения и сервисы действуют по заранее заложенному алгоритму, поэтому в нашем понимании они ближе к простому ПО. Искусственный интеллект – это все-таки что-то, что способно действовать независимо от своего создателя, обучаться, создавать творческий результат и принимать решения самостоятельно. Например, условный робот, который во время операции по удалению раковых клеток может самостоятельно определить какие клетки необходимо вырезать, а какие оставить.

В таком случае возникает вопрос: кто будет отвечать за действия искусственного интеллекта, если они повлекли неправомерный вред здоровью или жизни пациента? Разработчик?

В концепции развития ИИ в здравоохранении, которая разрабатывалась Сбербанком совместно с другими специалистами, высказывалась точка зрения, что «в таком случае следует исключить ответственность медицинской организации за использование МИИ при лечении в отсутствие вины врача, при этом компенсация вреда жизни и здоровью пациента должна быть осуществлена за счет средств страхования ответственности разработчика МИИ. Особенным образом следует проработать вопрос уголовной ответственности, поскольку в период внедрения МИИ должен присутствовать только компенсаторный механизм».

Однако здесь все не так однозначно. Мы считаем, что вопрос о персональной ответственности разработчика стоять не должен, так как процедура государственной регистрации медицинского изделия легализует его использование, признавая его эффективность, качество и безопасность.

Что касается гражданско-правовой ответственности, то здесь отметим следующее:

Во-первых, МИ с ИИ может рассматриваться как источник повышенной опасности (ст. 1079 ГК РФ). В таком случае ответственность должен нести владелец источника повышенной опасности (в данном случае медицинская организация). Однако практика по ст. 1079 ГК РФ неоднозначна.

Во-вторых, гражданско-правовая ответственность возможна, если вред возник в результате недостатков в самом изделии и между вредом и такими недостатками будет доказана причинно-следственная связь. В таком случае ответственность плавно перемещается на разработчика ПО. Однако, предположим, что конструктивных недостатков в изделии нет, а ИИ самостоятельно принял неверное решение. Как доказать тот факт, что разработчик должен был предвидеть возможность причинения вреда и заранее предусмотреть это в алгоритме обучения ИИ? Является ли это недостатком? Все это сложные вопросы, в которые в рамках настоящей статьи мы углубляться не будем.

Пока ясно одно – в процессе клинических испытаний ИИ невозможно предусмотреть и протестировать все возможные клинические ситуации. Поэтому мы считаем, что для изделий с ИИ, которые потенциально смогут самостоятельно принимать решения, необходим даже более жесткий процесс тестирования и допуска на рынок, чем для обычного ПО и других медицинских изделий. Возможно, необходимо отойти от клинических испытаний в привычной для нас форме и разработать стандарты, в соответствии с которыми такое изделие будет тестироваться. Однако данные вопросы необходимо обсуждать не только с юристами, но и с инженерами.

Полный текст материала доступен только
по подписке
Доступ к платным сервисам kormed.ru
На год без обзора НПА*
2 490 Р
Оформить
На год с обзором НПА*
4 890 Р
Оформить
На месяц без обзора НПА*
990 Р
Пробная подписка
Попробовать
Приобретая подписку к информационным сервисам нашего сайта, вы получаете неограниченный доступ к уникальной базе статей, аналитических заключений и записок, рубрике «вопрос-ответ» и иным сервисам сайта. А также возможность сохранять все необходимые материалы в личном кабинете и использовать иные его функциональные возможности.

* Обзор НПА - это регулярная подборка наиболее важных нормативных документов и судебной практики в сфере здравоохранения

Комментарии0
Есть вопросы? Задайте их юристу!
Комментарии