Научные исследования Института права цифровой среды в 2020 г.

В 2020 г. в Институте права цифровой среды были выполнены прикладные научные исследования по следующим направлениям:

2.1 Подходы к нормативно-правовому регулированию данных в России и мире в условиях цифровой экономики

Руководитель – Михаил Владимирович Якушев

Действующее законодательство об информации и, в частности, о персональных данных, формировалось в условиях «традиционной экономики». Оно не ориентировано на использование потенциала больших массивов данных для сопровождения социально-экономических процессов, которые естественным образом складываются в обществе при достижении определенного уровня технологического развития. Выявление адекватных принципов к регулированию данных, отказ от консервативных подходов и поиск сбалансированных решений - являются условиями развития современных технологий, создания на их основе новых продуктов и сервисов, что будет способствовать повышению качеству жизни людей и экономическому развитию страны, ее конкурентоспособности в международном разделении труда. Цель исследования – анализ текущего состояния регулирования данных в отечественном и зарубежном законодательстве, его доктринальной оценки и соответствующей судебной практики; подготовка предложений для совершенствования законодательного регулирования данных в Российской Федерации.

2.2 Подходы к регулированию общедоступных данных в России

Руководитель – Алексей Александрович Ефремов

В настоящее время существуют различные подходы, связанные с возможностью обработки персональных данных, размещенных в свободном доступе, в том числе на различных цифровых платформах. В условиях, когда данные становятся конкурентным преимуществом, необходим комплексный научный взгляд на описанную выше проблему обработки общедоступных персональных данных, при чем не только с точки зрения законодательства о персональных данных и информации, но и с позиций законодательства об интеллектуальной собственности, антимонопольного, гражданского законодательства. Цель исследования – разработка комплекса предложений по нормативно-правовому регулированию общедоступных данных в РФ, основанных на сбалансированном учете коммерческих, частных и государственных интересов в сфере обработки данных.

2.3 Проблемы нормативно-правового регулирования тайны связи в условиях цифровой экономики: российский и международный опыт

Руководитель – Михаил Владимирович Якушев

В действующем российском законодательстве (в частности, в федеральном законе «О связи») отсутствует системное регулирование правового института тайны связи. Не представляется возможным, насколько требования о соблюдении тайны связи распространяются на все виды информационных объектов, которые возникают сегодня и появятся в будущем. Это влечёт практические сложности при определении набора прав и обязанностей операторов связи, организаторов распространения информации – в том числе в части обезличивания и повторного использования обезличенной информации. Судебная практика в вопросах квалификации сведений, составляющих тайну связи, придерживается консервативно-ограничительного подхода и в целом является противоречивой. В условиях развития технологий больших данных и искусственного интеллекта требуется корректировка регулирования и правоприменения в сфере тайны связи, адекватная существующему уровню цифровой экономики и позволяющая преодолеть барьеры для вовлечения в хозяйственный оборот огромных массивов технологической информации. Цель исследования – анализ текущего состояния регулирования тайны связи в отечественном и зарубежном законодательстве, его доктринальной оценки и соответствующей судебной практики; подготовка предложений для совершенствования законодательного регулирования тайны связи в Российской Федерации.

3.1 Проблемы использования искусственного интеллекта при принятии юридически значимых решений

Руководитель – Виктор Борисович Наумов

Возможность делегирования принятия отдельных решений системам ИИ (в сфере медицины, гос. управления, судопроизводства, транспорта, промышленности и т.д.) предполагает полное или частичное исключение человека из процесса принятия решений. Вопросы ответственности за решения систем ИИ, которые влекут наступление юридически значимых последствий, в действующем законодательстве не разрешены. Особенно остро вопрос поднимается, когда алгоритм принятия решения системой ИИ не может быть интерпретирован (объяснен) человеком. С учетом высоких рисков развития негативных сценариев требуется выработка системного подхода к определению сфер, в которых допускается принятие юридически значимых решений с помощью технологий искусственного интеллекта без участия человека. В рамках работы важна разработка требований и принципов делегирования решений системам ИИ, установление перечня допустимых случаев или, напротив, запретов делегировать принятие решения системам ИИ в конкретных ситуациях в связи с неоправданно высокими рисками. Цель НИР – выявление системных проблем и закономерностей в правовом регулировании делегирования принятия решений системам ИИ в мире и построение системы правовых рекомендаций для предметного правового регулирования использования ИИ при принятии юридически значимых решений в России.

3.2 Проблемы совершения гражданско-правовых сделок с использованием систем искусственного интеллекта

Руководитель – Чеховская Светлана Алексеевна

Российским законодательством (ст. 153 ГК РФ) сделками признаются действия граждан и юридических лиц, направленные на установление, изменение или прекращение гражданских прав и обязанностей. При этом не решён вопрос о возможности юридического признания комплекса технологических операций-решений, в частности, в договорных отношениях с использования систем искусственного интеллекта (далее – «ИИ») в качестве «действий граждан и юридических лиц», или о возможном признании виртуальной личности, либо «электронного» («интеллектуального, виртуального») агента физического или юридического лица субъектом таких отношений. В результате исследования предполагается выявить подходы, предлагающие порядок правовой квалификации технологических решений систем ИИ в качестве действий физических и юридических лиц, а также правовые условия признания связанности физических и юридических лиц операциями технологий ИИ. Цель исследования – выявление  сравнительно-правового анализа зарубежных правовых актов, судебной практики и правовой литературы, а также анализа use-cases их совершения.

3.3 Проблема требования об алгоритмической прозрачности процессов принятия решений

Руководитель – Антон Юрьевич Брагинец

Складывающаяся практика разработки и применения систем алгоритмического принятия решений (АПР) показывает, что в процессах обработки данных, используемых для принятия юридически значимых решений, а также в самих алгоритмах установления закономерностей и выводов на их основе существуют недостатки. В частности, выборки данных, на основе которых принимаются решения, могут являться недостоверными, а сами алгоритмы принятия решений – несбалансированными, что приводит к ложным выводам и некорректным результатам. Логика, по которой система АПР приходит к тому или иному выводу, не всегда объясняется либо принципиально не объяснима. В таких условиях возникает естественный конфликт между интересами лиц, в отношении которых применяются системы АПР и которые заинтересованы в максимальной прозрачности применяемых механизмов, и разработчиками соответствующих решений, заинтересованными в снижении административного бремени при внедрении инновационных технологий. Цель исследования – выявление проблем в правовом регулировании раскрытия информации об алгоритмах функционирования прикладных систем АПР (включая системы АПР, основанные на применении технологий искусственного интеллекта), а также подготовка обоснованных с научной и практической точки зрения предложений по совершенствованию российского законодательства.

3.4 Проблемы регулирования ответственности в сфере ИИ

Руководитель – Виктор Борисович Наумов

Проблема ответственности за вред, который может наступить в результате создания и функционирования автономных интеллектуальных систем, тесно пересекается с вопросами делегирования принятия юридически значимых решений системам ИИ и принципом алгоритмической прозрачности таких решений. Растущая автономность действий систем ИИ и снижение степени участия человека ставит вопрос о достаточности существующих правил регулирования в отношении института ответственности, включая гражданско-правовую, административную, уголовную ответственность. С учетом данной особенности систем ИИ необходимо проанализировать существующие нормы о юридической ответственности и подходы к их формированию на предмет выполнения ими функции восстановления справедливости и защиты прав каждого члена общества, охраны общественных отношений, обеспечения стабильности гражданского оборота и национальной безопасности. Цель НИР – выявление системных проблем и закономерностей в правовом регулировании ответственности в сфере ИИ в мире и построение системы правовых рекомендаций для предметного правового регулирования ответственности в сфере ИИ в России, включая институт страхования.

4.1 Проблема машинного творчества в системе права

Руководитель – Виталий Олегович Калятин

С точки зрения авторского права, программа с элементами искусственного интеллекта (интеллектуальная программа) представляет особенный результат интеллектуальной деятельности (РИД), который способен самостоятельно создавать результат, схожий по объективным признакам человеческим творчеством (художественные, поэтические, музыкальные и прочие произведения). На сегодняшний день законодательство не содержит однозначного ответа на вопрос о том, как квалифицировать созданные интеллектуальными программами произведения, и кто является их автором: пользователь программы, ее создатель или сама программа. Цель исследования – выявление проблем регулирования объектов авторского права, созданных с использованием элементов искусственного интеллекта, а также существующих подходов к их решению, подготовка предложений для изменения законодательства.

5.1 Регулирование медицинских услуг с применением телемедицинских технологий

Руководитель – Михаил Сергеевич Журавлев

Современные информационные технологии предоставляют возможности для повышения гарантий права на охрану здоровья и медицинскую помощь.  Дистанционное оказание медицинской помощи, постоянный мониторинг состояния здоровья, автоматизированный анализ медицинской информации – это лишь некоторая часть тех преимуществ, которые заключены в потенциале телемедицины. В настоящее время развитие телемедицины является ключевым направлением государственной политики в области охраны здоровья многих государств мира, включая Российскую Федерацию. Причинами такого внимания к телемедицинским технологиям, среди прочего, являются общие для большинства стран мира демографические и экономические факторы: рост средней продолжительности жизни; увеличение доли пожилых людей в структуре населения; постоянный рост расходов на здравоохранение и др. Телемедицина предоставляет возможности для обеспечения равного доступа к качественной медицинской помощи каждому человеку, способствует оптимизации государственных расходов на систему здравоохранения. Дополнительным фактором развития телемедицины стала пандемия COVID-19, в условиях которой обострилась необходимость оказания дистанционной медицинской помощи. Одним из главных барьеров развития телемедицины является отсутствие адекватных механизмов правового регулирования общественных отношений, складывающихся в процессе оказания медицинской помощи с использованием телемедицинских технологий. Целью исследования является выявление проблем и закономерностей в правовом регулировании оказания услуг с применением телемедицинских технологий и разработка предложений по совершенствованию правового регулирования телемедицины в Российской Федерации.

5.2 Статус людей с имплантированными киберфизическими системами

Руководитель – Екатерина Давидовна Тягай

Лицо, в организм которого имплантированы киберфизические системы (КФС), формально обладает тем же объёмом прав и обязанностей, что и прочие люди, в том числе конституционными правами на личную неприкосновенность, неприкосновенность частной жизни, личную и семейную тайну. При этом данные, формируемые КФС, могут иметь самостоятельную значимость – от узко-медицинского до социально-правового характера. В общественных отношениях с участием людей с имплантированными КФС извлечение и использование данных КФС может осуществляться разным образом и по различным основаниям – вплоть до извлечения правоохранительными органами данных, имеющих ценность для ОРД, в том числе для целей свидетельствования против владельца подобных устройств, что противоречит ст. 51 Конституции и иным нормам. В связи с изложенным требуется проведение исследования о существующих регуляторных проблемах использования имплантируемых КФС и специфики правового статуса людей с имплантированными КФС с учетом необходимости поиска баланса публичных и частных интересов. Цель исследования – выявление системных проблем и закономерностей в регулировании общественных отношений, связанных с использованием имплантируемых КФС и определением правового статуса людей с имплантированными КФС; подготовка предложений по совершенствованию нормативно-правовых актов Российской Федерации (при необходимости) – с учетом особенностей правового статуса людей с имплантированными КФС и необходимости обеспечения баланса частных и публичных интересов.

По результатам исследований 2020 г. подготовлены аналитические доклады:

1. "Регулирование данных в Российской Федерации: текущее состояние, проблемы, перспективы";

Доклад по данным ИПЦС ВШЭ (PDF, 452 Кб)

2. "Правовые аспекты использования искусственного интеллекта: актуальные проблемы и возможные решения";

Доклад по ИИ ИПЦС ВШЭ (PDF, 503 Кб)

3. "Проблема машинного творчества в системе права: регулирование создания и использования результатов интеллектуальной деятельности с применением искусственного интеллекта, зарубежный опыт и российские перспективы"; 

Доклад по ИС ИПЦС ВШЭ (PDF, 436 Кб)

4. "Правовые проблемы телемедицины. Киберфизические системы, имплантированные в организм человека". 

Доклад по ТМ и КФС ИПЦС ВШЭ (PDF, 339 Кб)