В рамках XV Международного IT-Форума 19 июня 2024 г. состоялась Стратегическая сессия «Нормативное регулирование цифровой среды: проблемы и перспективы» на площадке КТЦ «Югра-Классик» г. Ханты-Мансийска.
Информация и фотографии размещены на сайте Форума по ссылке: https://itforum.admhmao.ru/2024/news/10367766/
В мероприятии приняли участие в качестве спикеров: вице-президент Национальной Ассоциации международной информационной безопасности, ведущий научный сотрудник Центра проблем информационной безопасности факультета «Вычислительная математика и кибернетика» МГУ им. М.В. Ломоносова, профессор, доктор технических наук, доктор юридических наук Анатолий Стрельцов (г. Москва); главный научный сотрудник сектора информационного права и международной информационной безопасности ИГП РАН, профессор кафедры информационного права МГЮА, Управляющий партнер офиса Nextons в Санкт-Петербурге, доктор юридических наук Виктор Наумов (г.Санкт-Петербург); заведующий кафедрой информационного права и цифровых технологий Московского государственного юридического университета им. О.Е. Кутафина (МГЮА), главный научный сотрудник сектора информационного права и международной информационной безопасности Института государства и права Российской академии наук, эксперт РАН, доктор юридических наук, профессор Алексей Минбалеев (г. Москва); заведующий кафедрой информационного права ФГБОУ ВО «Уральский государственный юридический университет» доктор юридических наук, профессорПетр Кузнецов (г. Екатеринбург); руководитель Департамента права цифровых технологий и биоправа факультета права НИУ ВШЭ, доктор юридических наук, профессор Наталия Ковалева (г. Москва); ведущий научный сотрудник Центра технологий государственного управления РАНХиГС при Президенте Российской Федерации, доктор юридических наук, доцент Алексей Ефремов (г. Москва); руководитель Высшей школы права Югорского государственного университета, кандидат юридических наук, доцент Станислав Розенко (г. Ханты-Мансийск).
Стратегическая сессия была организована Департаментом информационных технологий и цифрового развития Ханты-Мансийского автономного округа-Югры и АНО «Центр технологий электронной демократии».Модератором-организатором сессии являлась исполнительный директор Автономной некоммерческой организации «Центр технологий электронной демократии», к.т.н., Наталья Маслова (г. Ханты-Мансийск). Экспертом мероприятия выступила Марьяна Королёва, старший помощник прокурора Ханты-Мансийского автономного округа – Югры, старший советник юстиции.Модераторами сессии были Анатолий Стрельцов иАлексей Минбалеев.
Они поприветствовали участников мероприятия в зале «Классик» КТЦ «Югра-Классик», в котором собрались представители органов власти, юридического сообщества, сферы цифровизации, а также студенты и преподаватели Югорского государственного университета.
Всего в зале присутствовало около 40 человек, остальные участники подключились к трансляции заседания удаленно.
Во вступительном слове Наталья Маслова сказала о важности нормативного регулирования цифровой среды и правового обеспечения цифровой трансформации. Затем она подчеркнула: «Мы традиционно посвящаем нашу Стратегическую сессию и Круглый стол памяти ИлларииЛаврентьевны Бачило, которая внесла огромный вклад в развитие информационного права и формирование информационного общества в Российской Федерации. Она была талантливым ученым и замечательным педагогом. ИлларияЛаврентьевна – доктор юридических наук, профессор, заслуженный юрист России, основатель школы Информационного права страны, лучший Юрист 2016 года России. Благодаря инициативе и участию Илларии Лаврентьевны в разработке информационного законодательства Ханты-Мансийского автономного округа-Югры, участию в ежегодных ИТ Форумах в Югре с представлением новых решений и рекомендаций, и сегодня успешно развивается цифровое государственное управление в Югре».
Наталья Маслова отметила, что к 90-летнему Юбилею Илларии Лаврентьвны было подготовлено электронное издание на диске «И. Л. Бачило. Творческий путь. Труды. Исследования» в рамках проекта "Сохраненная культура". Инициатором и автором издания является ученик ИлларииЛаврентьевны
Виктор Борисович Наумов. Далее модератор сказала, что на сегодняшнее заседание он подготовил очень актуальное выступление на тему «Право на отказ от цифровых технологий как инструмент достижения баланса интересов общества, государства и бизнеса в XXI веке» и предоставила ему слово.
Виктор Борисович поприветствовал аудиторию ипровел анализ итогов экспертного опроса, организованного осенью 2023 г. и посвященного праву человека на выбор при использовании цифровых технологий. Он выдвинул для обсуждения тезис о праве пользователя на выбор технологий как относящейся к новому поколению прав человека. В экспертном опросе перед респондентами были поставлены вопросы, основанные на реальных примерах внедрения цифровых технологий в различные сферы жизни современного российского общества такие, какиспользование беспилотного
транспорта, использование искусственного интеллекта для подбора кадров, применения голосовых помощников и чат-ботов для коммуникации с населением, интеграции систем видеонаблюдения и фотофиксации в проекты умного города и т.д. Результаты исследования показали, что в большинстве случаев респондентывыбирали те варианты ответов, которые предоставляли
физическим лицам возможность отказаться от использования той или иной технологии. Предлагается в ближайшее время начинать вводить в отраслевое законодательство обязанности по информированию граждан об использовании тех или иных цифровых технологий (например, технологий искусственного интеллекта) и созданию недискриминационных условий в сфере цифровизации, где для лиц, не имеющих знаний и/или возможностей их использовать, всегда будет предусмотрена альтернативная возможность нецифрового взаимодействия. Это связано с тем, что взаимодействие с ботами вместо живых операторов стало обычным явлением при обращении в банки, госуслуги и другие организации. Боты, настроенные на определенные задачи, могут успешно решать многие вопросы, скрывая настоящих сотрудников. Однако влияние ИИ на общество гораздо шире, чем у большинства предыдущих технологий. Боты, распознающие речь и интонации, могут манипулировать пользователями, что создает новые правовые вызовы. Существующая концепция защиты слабой стороны в праве пока не применима к пользователям ИИ. Закон не требует честной идентификации ботов, что позволяет эксплуатировать доверие людей, особенно пожилых. Наибольшую опасность представляют "нечестные" роботы, использующие технологии дипфейков для имитации голосов и изображений с целью мошенничества. Расследование таких преступлений затруднено из-за их массовости и недостаточных ресурсов правоохранительных органов.
Анатолий Стрельцов отметил, что с одной стороны, сложилась развитая и продолжающая активно развиваться система нормативно-правового регулирования использования ИКТ (так называемое «цифровое право»), а с другой – сохраняется ИКТ-среда, не адаптированная к применению правовых механизмов регулирования общественных отношений как пространства социального взаимодействия. Существуют как бы две, малосвязанные между собой сферы правового регулирования – общественные отношения в физическом пространстве и общественные отношения в ИКТ-среде. Неопределенность механизмов взаимодействия «цифрового» права и отраслей «обычного» права является одной из причин проблем роста компьютерной преступности.
Алексей Минбалеев рассказал о рисках и угрозахиспользования ИИ в системе государственного и муниципального управления. Он отметил, что достижение правильного баланса между человеческим контролем и возможностями ИИ имеет решающее значение для обеспечения ответственного и этичного использования данной технологии в сфере управления. Опыт внедрения ИИ в юридическую сферу свидетельствует, что пока очень сложно идет обучение понятийному аппарату; принципам права; отдельным приемам и правилам (аналогия права, юридические фикции и др.); особенностям толкования права. Отсутствие системы контроля механизмов ответственности приводит к созданию технологий, от которых потом сложно будет отказываться и сами системы ИИ решат, что легче не применять нормы права, чем создавать новые системы ИИ.
Петр Кузнецов продолжил тему правовой защиты личности в цифровом пространстве, обозначил и проанализировал современные проблемы и состояние прав человека в информационной сфере.Внедрение современных цифровых технологий формирует новые реалии для человека, общества и государства, а также значительно видоизменяет уже существующие. Это сопровождается развитием новых возможностей для государства и бизнеса, но и несёт с собой новые, очень серьёзные угрозы и риски, как для прав и интересов человека и гражданина, так и для государственного суверенитета, остающегося необходимым условием реализации прав и свобод человека.
Наталия Ковалева, подробно рассказала о проектеГлобального цифрового договора, о его преимуществах и недостатках. Важной целью Глобального цифрового договора видится возможность регламентации деятельности крупных ИТ-компаний, которые сегодня обладают практически неограниченной властью в глобальном цифровом обществе и, как следствие, нуждаются в международно согласованных рамках, ограничивающих возможности их злоупотребления своими ресурсами в цифровой среде. С инициативой выработать правила поведения для крупных цифровых платформ уже выступал МИД России, однако, в отличие от подхода Глобального цифрового договора, Россия исходит из необходимости уважения государственного суверенитета, поэтому практическая выработка соответствующих правил и их имплементация – прерогатива государств. Алексей Ефремов представил доклад с презентацией о юридическойответственности за государственные управленческие решения на основе технологий искусственного интеллекта. Он сделал анализсовременного состояние проблемы и перспектив ее решения. Направления развития правового регулирования юридической ответственности за принятие государственных управленческих решений с использованием технологий ИИпредполагают: 1.Стратегическое планирование на уровне Национальной стратегии развития искусственного интеллекта на период до 2030 года, в том числе при перспективном внесении в нее дополнений и изменений, а также документов стратегического планирования в сфере государственного управления и государственной службы. 2. Законодательное определение особенностей и механизма реализации юридической ответственности за государственные управленческие решения, принятые с использованием технологий ИИ (в рамках проекта ФЗ об обеспечении качества государственного управления, а также в рамках ФЗ о государственной службе и о статусе лиц, замещающих государственные должности, и аналогичных законов субъектов РФ). 3. Подзаконное нормативное регулирование – перспективной представляется разработка и принятие указа Президента РФ, определяющего особенности применения технологий ИИ в рамках государственного управления.
Станислав Розенко подробно рассказал о проблемах развития цифрового государственного контроля и отметил, что серьезным сдерживающим фактором цифровой трансформации этой сферы является недостаточное нормативное регулирование, нехватка квалифицированных ИТ-кадров, слабое межведомственное взаимодействиеи ориентированность сотрудников контрольно-надзорной деятельности на выездные проверки, а не на работу с базой данной, аналитикой и системами.
Участниками заседания был предложен ряд практических рекомендаций для включения в «Югорскую декларацию» по итогам XVI Международного IT-Форума.
Информация и фотографии размещены на сайте Форума по ссылке: https://itforum.admhmao.ru/2024/news/10367766/
В мероприятии приняли участие в качестве спикеров: вице-президент Национальной Ассоциации международной информационной безопасности, ведущий научный сотрудник Центра проблем информационной безопасности факультета «Вычислительная математика и кибернетика» МГУ им. М.В. Ломоносова, профессор, доктор технических наук, доктор юридических наук Анатолий Стрельцов (г. Москва); главный научный сотрудник сектора информационного права и международной информационной безопасности ИГП РАН, профессор кафедры информационного права МГЮА, Управляющий партнер офиса Nextons в Санкт-Петербурге, доктор юридических наук Виктор Наумов (г.Санкт-Петербург); заведующий кафедрой информационного права и цифровых технологий Московского государственного юридического университета им. О.Е. Кутафина (МГЮА), главный научный сотрудник сектора информационного права и международной информационной безопасности Института государства и права Российской академии наук, эксперт РАН, доктор юридических наук, профессор Алексей Минбалеев (г. Москва); заведующий кафедрой информационного права ФГБОУ ВО «Уральский государственный юридический университет» доктор юридических наук, профессорПетр Кузнецов (г. Екатеринбург); руководитель Департамента права цифровых технологий и биоправа факультета права НИУ ВШЭ, доктор юридических наук, профессор Наталия Ковалева (г. Москва); ведущий научный сотрудник Центра технологий государственного управления РАНХиГС при Президенте Российской Федерации, доктор юридических наук, доцент Алексей Ефремов (г. Москва); руководитель Высшей школы права Югорского государственного университета, кандидат юридических наук, доцент Станислав Розенко (г. Ханты-Мансийск).
Стратегическая сессия была организована Департаментом информационных технологий и цифрового развития Ханты-Мансийского автономного округа-Югры и АНО «Центр технологий электронной демократии».Модератором-организатором сессии являлась исполнительный директор Автономной некоммерческой организации «Центр технологий электронной демократии», к.т.н., Наталья Маслова (г. Ханты-Мансийск). Экспертом мероприятия выступила Марьяна Королёва, старший помощник прокурора Ханты-Мансийского автономного округа – Югры, старший советник юстиции.Модераторами сессии были Анатолий Стрельцов иАлексей Минбалеев.
Они поприветствовали участников мероприятия в зале «Классик» КТЦ «Югра-Классик», в котором собрались представители органов власти, юридического сообщества, сферы цифровизации, а также студенты и преподаватели Югорского государственного университета.
Всего в зале присутствовало около 40 человек, остальные участники подключились к трансляции заседания удаленно.
Во вступительном слове Наталья Маслова сказала о важности нормативного регулирования цифровой среды и правового обеспечения цифровой трансформации. Затем она подчеркнула: «Мы традиционно посвящаем нашу Стратегическую сессию и Круглый стол памяти ИлларииЛаврентьевны Бачило, которая внесла огромный вклад в развитие информационного права и формирование информационного общества в Российской Федерации. Она была талантливым ученым и замечательным педагогом. ИлларияЛаврентьевна – доктор юридических наук, профессор, заслуженный юрист России, основатель школы Информационного права страны, лучший Юрист 2016 года России. Благодаря инициативе и участию Илларии Лаврентьевны в разработке информационного законодательства Ханты-Мансийского автономного округа-Югры, участию в ежегодных ИТ Форумах в Югре с представлением новых решений и рекомендаций, и сегодня успешно развивается цифровое государственное управление в Югре».
Наталья Маслова отметила, что к 90-летнему Юбилею Илларии Лаврентьвны было подготовлено электронное издание на диске «И. Л. Бачило. Творческий путь. Труды. Исследования» в рамках проекта "Сохраненная культура". Инициатором и автором издания является ученик ИлларииЛаврентьевны
Виктор Борисович Наумов. Далее модератор сказала, что на сегодняшнее заседание он подготовил очень актуальное выступление на тему «Право на отказ от цифровых технологий как инструмент достижения баланса интересов общества, государства и бизнеса в XXI веке» и предоставила ему слово.
Виктор Борисович поприветствовал аудиторию ипровел анализ итогов экспертного опроса, организованного осенью 2023 г. и посвященного праву человека на выбор при использовании цифровых технологий. Он выдвинул для обсуждения тезис о праве пользователя на выбор технологий как относящейся к новому поколению прав человека. В экспертном опросе перед респондентами были поставлены вопросы, основанные на реальных примерах внедрения цифровых технологий в различные сферы жизни современного российского общества такие, какиспользование беспилотного
транспорта, использование искусственного интеллекта для подбора кадров, применения голосовых помощников и чат-ботов для коммуникации с населением, интеграции систем видеонаблюдения и фотофиксации в проекты умного города и т.д. Результаты исследования показали, что в большинстве случаев респондентывыбирали те варианты ответов, которые предоставляли
физическим лицам возможность отказаться от использования той или иной технологии. Предлагается в ближайшее время начинать вводить в отраслевое законодательство обязанности по информированию граждан об использовании тех или иных цифровых технологий (например, технологий искусственного интеллекта) и созданию недискриминационных условий в сфере цифровизации, где для лиц, не имеющих знаний и/или возможностей их использовать, всегда будет предусмотрена альтернативная возможность нецифрового взаимодействия. Это связано с тем, что взаимодействие с ботами вместо живых операторов стало обычным явлением при обращении в банки, госуслуги и другие организации. Боты, настроенные на определенные задачи, могут успешно решать многие вопросы, скрывая настоящих сотрудников. Однако влияние ИИ на общество гораздо шире, чем у большинства предыдущих технологий. Боты, распознающие речь и интонации, могут манипулировать пользователями, что создает новые правовые вызовы. Существующая концепция защиты слабой стороны в праве пока не применима к пользователям ИИ. Закон не требует честной идентификации ботов, что позволяет эксплуатировать доверие людей, особенно пожилых. Наибольшую опасность представляют "нечестные" роботы, использующие технологии дипфейков для имитации голосов и изображений с целью мошенничества. Расследование таких преступлений затруднено из-за их массовости и недостаточных ресурсов правоохранительных органов.
Анатолий Стрельцов отметил, что с одной стороны, сложилась развитая и продолжающая активно развиваться система нормативно-правового регулирования использования ИКТ (так называемое «цифровое право»), а с другой – сохраняется ИКТ-среда, не адаптированная к применению правовых механизмов регулирования общественных отношений как пространства социального взаимодействия. Существуют как бы две, малосвязанные между собой сферы правового регулирования – общественные отношения в физическом пространстве и общественные отношения в ИКТ-среде. Неопределенность механизмов взаимодействия «цифрового» права и отраслей «обычного» права является одной из причин проблем роста компьютерной преступности.
Алексей Минбалеев рассказал о рисках и угрозахиспользования ИИ в системе государственного и муниципального управления. Он отметил, что достижение правильного баланса между человеческим контролем и возможностями ИИ имеет решающее значение для обеспечения ответственного и этичного использования данной технологии в сфере управления. Опыт внедрения ИИ в юридическую сферу свидетельствует, что пока очень сложно идет обучение понятийному аппарату; принципам права; отдельным приемам и правилам (аналогия права, юридические фикции и др.); особенностям толкования права. Отсутствие системы контроля механизмов ответственности приводит к созданию технологий, от которых потом сложно будет отказываться и сами системы ИИ решат, что легче не применять нормы права, чем создавать новые системы ИИ.
Петр Кузнецов продолжил тему правовой защиты личности в цифровом пространстве, обозначил и проанализировал современные проблемы и состояние прав человека в информационной сфере.Внедрение современных цифровых технологий формирует новые реалии для человека, общества и государства, а также значительно видоизменяет уже существующие. Это сопровождается развитием новых возможностей для государства и бизнеса, но и несёт с собой новые, очень серьёзные угрозы и риски, как для прав и интересов человека и гражданина, так и для государственного суверенитета, остающегося необходимым условием реализации прав и свобод человека.
Наталия Ковалева, подробно рассказала о проектеГлобального цифрового договора, о его преимуществах и недостатках. Важной целью Глобального цифрового договора видится возможность регламентации деятельности крупных ИТ-компаний, которые сегодня обладают практически неограниченной властью в глобальном цифровом обществе и, как следствие, нуждаются в международно согласованных рамках, ограничивающих возможности их злоупотребления своими ресурсами в цифровой среде. С инициативой выработать правила поведения для крупных цифровых платформ уже выступал МИД России, однако, в отличие от подхода Глобального цифрового договора, Россия исходит из необходимости уважения государственного суверенитета, поэтому практическая выработка соответствующих правил и их имплементация – прерогатива государств. Алексей Ефремов представил доклад с презентацией о юридическойответственности за государственные управленческие решения на основе технологий искусственного интеллекта. Он сделал анализсовременного состояние проблемы и перспектив ее решения. Направления развития правового регулирования юридической ответственности за принятие государственных управленческих решений с использованием технологий ИИпредполагают: 1.Стратегическое планирование на уровне Национальной стратегии развития искусственного интеллекта на период до 2030 года, в том числе при перспективном внесении в нее дополнений и изменений, а также документов стратегического планирования в сфере государственного управления и государственной службы. 2. Законодательное определение особенностей и механизма реализации юридической ответственности за государственные управленческие решения, принятые с использованием технологий ИИ (в рамках проекта ФЗ об обеспечении качества государственного управления, а также в рамках ФЗ о государственной службе и о статусе лиц, замещающих государственные должности, и аналогичных законов субъектов РФ). 3. Подзаконное нормативное регулирование – перспективной представляется разработка и принятие указа Президента РФ, определяющего особенности применения технологий ИИ в рамках государственного управления.
Станислав Розенко подробно рассказал о проблемах развития цифрового государственного контроля и отметил, что серьезным сдерживающим фактором цифровой трансформации этой сферы является недостаточное нормативное регулирование, нехватка квалифицированных ИТ-кадров, слабое межведомственное взаимодействиеи ориентированность сотрудников контрольно-надзорной деятельности на выездные проверки, а не на работу с базой данной, аналитикой и системами.
Участниками заседания был предложен ряд практических рекомендаций для включения в «Югорскую декларацию» по итогам XVI Международного IT-Форума.