Проект концепции развития регулирования ИИ до 2030 года: анализ ключевых положений и потенциальных рисков
В настоящее время идет активное обсуждение проекта концепции развития регулирования отношений в сфере технологий искусственного интеллекта до 2030 года (далее – проект концепции, проектируемая концепция), которая по итогам согласования должна быть утверждена Правительством Российской Федерации.
Как и многие акты, учитывая современные тренды, проект концепции отражает тенденцию возрастания суверенитета и роли ценностного аспекта. Основу проекта концепции составляет Национальная стратегия развития искусственного интеллекта на период до 2030 года, утвержденная Указом Президента Российской Федерации от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации» (далее – Национальная стратегия). Проектируемая концепция формально позиционируется как документ стратегического планирования, однако ее содержательное наполнение демонстрирует отсутствие системной взаимосвязи с уже утвержденными стратегическими ориентирами. Это приводит к фрагментарности регулирования и отсутствию скоординированности в действиях органов государственной власти. Наглядным примером подобной несогласованности выступает расхождение между регулятивными принципами, закрепленными в Национальной стратегии, и теми, которые предложены в проекте концепции, что не только создает правовую неопределенность, но и затрудняет формирование единого, последовательного и предсказуемого подхода к нормативному обеспечению внедрения технологий искусственного интеллекта, подрывая тем самым основы для формирования комплексной и эффективной регуляторной среды.
Проект концепции разработан в развитие положений уже существующей Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года, утвержденной распоряжением Правительства Российской Федерации от 19 августа 2020 г. № 2129-р (далее – действующая концепция). Вместе с тем серьезным методологическим недостатком проектируемой концепции является отсутствие в ней анализа результатов, достижений и недостатков реализации действующей концепции, в частности, выполнения предусмотренных ее пятым разделом мероприятий по разработке и принятию нормативных правовых актов к 2024 году. Это не позволят сделать вывод о преемственности и последовательности государственной политики в рассматриваемой сфере, эффективности ранее избранных направлений регулирования.
В первом разделе проекта концепции, посвященном регуляторному ландшафту, упомянут Федеральный закон от 31 июля 2020 г. № 258 «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации» как веха в развитии правового регулирования отношений в сфере технологий искусственного интеллекта. Но его принятие не связано с действующей концепцией, утвержденной позднее. Вместо глубокого ретроспективного анализа данный раздел содержит преимущественно констатацию общеизвестных тенденций, которая не несет смысловой нагрузки для документа стратегического планирования, имеет справочный, а не концептуальный характер.
Предложенная в документе классификация регуляторных режимов на консервативный, гибридный и проинновационный представлена без глубокого сравнительно-правового анализа и оценки эффективности их применения в соответствующих юрисдикциях. Выбранный подход к изложению материала закладывает основу для последующего обоснования в проекте смягчения регуляторного режима, что не вполне коррелирует с гибридным режимом, который, как сказано, реализуется в России.
Структурное построение проекта концепции вызывает вопросы в части его соответствия логике стратегического планирования. Если текст действующей концепции начинается с определения целей и задач регулирования, то анализируемый проект отличается эклектичностью структуры, что затрудняет восприятие его содержания. Раздел, посвященный проблемам и подходам к регулированию, изобилует общими рассуждениями, не соответствующими уровню документа, принимаемого по итогам пятилетнего периода реализации действующей концепции. Особую озабоченность вызывает неоправданно широкий акцент на инструментах «мягкого права» при отсутствии серьезного анализа их эффективности и применимости в условиях российской правовой действительности. Недостаточно проработанными являются положения о том, что сам факт использования систем искусственного интеллекта требует особого рассмотрения в рамках существующего регулирования, а также призывы к развитию саморегулирования без предложения конкретных механизмов интеграции этих инструментов в национальную правовую систему.
Ограничиваясь общими декларациями, проект концепции не дает четких ориентиров измеримости поставленных целей и задач и не выполняет своего основного предназначения – определение системных основ будущего правового регулирования. Исходя из наименования и заявленной природы, проектируемая концепция должна выполнять концептуальную функцию в области регулирования соответствующих отношений. Однако содержательный анализ проекта демонстрирует отсутствие собственно концепции регулирования, то есть системного видения правовых моделей и механизмов.
Существенное влияние на содержание проекта оказал Альянс в сфере искусственного интеллекта, что обусловило смещение его акцентов в сторону интересов технологических компаний, в частности, в вопросах доступа к данным и минимизации ответственности за причинение вреда. Ссылки на Кодекс этики в сфере искусственного интеллекта того же Альянса, не обладающий обязательной юридической силой, не компенсируют отсутствие в проекте конкретных предложений по правовому регулированию. В действительности, на данном этапе, когда реализована действующая концепция, предложенный проект должен был определить контуры специального федерального закона, устанавливающего правовые пределы саморегулирования и содержащего императивные нормы, гарантирующие защиту публичных интересов. Если на момент принятия действующей концепции (2020 год) формирование детального регулирования было преждевременным, то текущий уровень развития технологий и накопленный опыт диктуют необходимость определения уже более четких правовых контуров, обеспечивающих баланс между стимулированием инноваций и защитой прав граждан, общества и государства.
Согласно Национальной стратегии основной целью совершенствования нормативно-правового регулирования общественных отношений, связанных с развитием и использованием технологий искусственного интеллекта, на период до 2030 года должно стать создание в Российской Федерации благоприятных нормативно-правовых условий для разработки, внедрения и использования технологий искусственного интеллекта и решений, разработанных на их основе, с учетом обеспечения защиты прав и свобод человека и безопасности Российской Федерации (п. 51(9)). Вместе с тем, как следует из анализа положений проекта концепции, вопреки заявленному «гибридному подходу», предполагающему использование «жесткого» инструментария наряду с актами «мягкого права», разработчиками делается акцент не на нормативно-правовом регулировании, а на саморегулировании, что позволяет говорить о риске потенциальной разницы в оценках того, что является ценностным аспектом и как он трактуется. Границы между государственным регулированием и саморегулированием в нем не определены.
Безусловно, саморегулирование в сфере применения и развития информационно-коммуникационных технологий является объективным явлением сегодняшней действительности и в определенной степени необходимым условием научно-технологического прогресса. Очевидно, что право не успевает за развитием цифровых технологий, но это не означает, что оно вовсе не должно пытаться его догнать. При этом формируется уникальная ситуация, когда в отличие от других чувствительных сфер общественных отношений, таких как охрана здоровья, оборона, безопасность критической информационной инфраструктуры и пр., которые строго регламентированы детальными императивными нормами федеральных законов и конкретизирующих их подзаконных актов, складывающаяся вокруг искусственного интеллекта экосистема не получает адекватного нормативно-правового опосредования. Тем самым возникают риски появления правовых пробелов по вопросам, имеющим фундаментальное значение для защиты прав и свобод граждан. Практика делегирования регулятивных функций негосударственным акторам, таким как отраслевые альянсы, хотя и может быть оправдана сложностью и новизной предмета регулирования, не отменяет необходимости установления именно государством базовых гарантий и правовых рамок, которые обеспечивали бы соответствие развития технологий публичным интересам.
В отличие от действующей концепции в представленном проекте не оговаривается, что достижение ее целей должно сопровождаться соблюдением прав граждан и обеспечением безопасности личности, общества и государства. При ознакомлении с текстом документа создается впечатление, что основная его цель заключается в получении разработчиками технологий искусственного интеллекта доступа к различным видам данных. При этом правовое регулирование информационной безопасности фактически ставится в зависимость от возможности обеспечения доступа к качественным наборам данных в целях развития технологий искусственного интеллекта.
В проекте указывается, что «законодательство Российской Федерации, как правило, уже содержит общие требования к безопасности продуктов (в том числе товаров, работ и услуг), однако с учетом развития технологий искусственного интеллекта эти требования в ряде случаев должны быть уточнены. Так, для отдельных категорий систем искусственного интеллекта в зависимости от степени риска их использования могут быть установлены стандартами и документами саморегулируемых и иных организаций специфические требования безопасности». Учитывая, что эффективная реализация государственной политики в области информационной безопасности является необходимым условием обеспечения технологического суверенитета, едва ли правильно считать, что стандарты саморегулируемых организаций могут служить необходимой юридической основой для регламентации требований к безопасности использования отдельных категорий систем искусственного интеллекта.
Действительно, технологическим компаниям выгоднее и проще самостоятельно определять «правила игры». Однако закономерно возникают вопросы: в чьих интересах принимается проектируемая концепция? в чьих интересах ставится задача развития технологий искусственного интеллекта – государства, бизнеса, общества?
Принципы регулирования, перечисленные в проекте, существенно отличаются от закрепленных в действующей концепции, причем исключение принципа поддержки конкуренции и его подмена положением о недоминировании интересов конкуренции над интересами развития технологий требуют подробного обоснования, которое в проекте отсутствует. Принцип квалифицированной экспертной оценки раскрыт в документе крайне поверхностно по сравнению с действующей концепцией, где он включает оценку социально-экономических последствий и рисков причинения вреда. Серьезные вопросы вызывает и сужение принципа безопасности до информационной безопасности, а также исключение из числа предусматриваемых этических норм положения о недопустимости манипулирования поведением человека.
Острую проблему представляет отсутствие в проекте концепции анализа потенциальных конфликтов между этическими требованиями и экономическими задачами, включая импортозамещение и конкуренцию на международном рынке. Документ одновременно провозглашает принцип технологического суверенитета и требует соблюдения этических норм, но не рассматривает ситуации, когда эти аспекты могут противоречить друг другу. Одновременно выстраиваются взаимоисключающие приоритеты: соблюдение этических стандартов (часто более строгих, чем у конкурентов); достижение технологического паритета с ведущими мировыми державами в кратчайшие сроки; обеспечение полного импортозамещения в критически важных областях. Иерархия приоритетов или механизма разрешения конфликтов между этическими требованиями и так называемыми суверенитетными императивами в документе не представлена.
При этом игнорируется ключевая проблема технологической зависимости. Констатация того, что большая часть отечественных продуктов создается на базе иностранных решений, не сопровождается четкими мерами по стимулированию разработки отечественного стека, созданию «доверенных» отечественных аналогов или механизмов аудита импортных компонентов.
Очевидно влияние на проект концепции международных актов в соответствующей сфере (Руководящие принципы ОЭСР по искусственному интеллекту). Однако в нем практически не раскрыт самостоятельный российский подход к этике и регулированию искусственного интеллекта. Руководящие принципы ОЭСР представляют собой рамочный международный документ рекомендательного свойства, тогда как, например, в Регламенте Европейского Союза об искусственном интеллекте 2024 г. эти принципы стали практическим инструментом (предусмотрены классы риска, сертификация, запреты). Проектируемая концепция же остается на уровне рамочных положений, не создавая глубокого национального регуляторного слоя, и производит впечатление политически корректного текста, лишенного четкой национальной повестки.
Заявленные направления международного сотрудничества выглядят оторванными от реальности на фоне текущей геополитической ситуации. В проекте не предложена реалистичная стратегия интеграции с юрисдикциями-партнерами (БРИКС, ШОС).
Содержательные разделы проекта нуждаются в существенной доработке. Документ не дает ответа на поставленные в нем вопросы относительно порядка охраны прав на результаты интеллектуальной деятельности (как в отношении использования охраноспособных объектов для целей развития технологий искусственного интеллекта, так и в отношении охраноспособных объектов, созданных с помощью искусственного интеллекта) или направлений совершенствования правового регулирования страхования вреда, причиненного системами искусственного интеллекта, и т.п.
Раздел об особенностях развития больших генеративных моделей не содержит анализа собственно особенностей, а лишь констатирует факт активности зарубежных законодателей. Общие задачи регулирования применения технологий искусственного интеллекта в документе заявлены, но не обозначены. Раздел об особенностях развития робототехнических систем ограничивается поверхностным перечислением зарубежных инициатив без анализа их содержания и применимости в российских условиях. Предложение о создании отдельных концепций для различных видов робототехнических систем требует представления серьезного обоснования целесообразности такого подхода.
Ключевой вопрос распределения ответственности за вред, причиненный системами искусственного интеллекта, раскрыт в проекте концепции крайне абстрактно, без определения субъектного состава и механизмов распределения бремени доказывания. Положение о том, что правовой подход должен соответствовать уровню развития технологий, декларативно, однако помимо него в документе не содержится конкретных предложений по модификации гражданско-правовых и публично-правовых механизмов ответственности.
В качестве основного инструментария предлагается совершенствование существующих механизмов (экспериментальные правовые режимы, стандартизация), что может оказаться недостаточным для реагирования на темпы развития искусственного интеллекта в перспективе до 2030 года. Следует обратить внимание также на то, что предложения по расширению сферы применения экспериментальных правовых режимов и упрощению их «запуска» не подкреплены указанием на то, какие именно сферы должны быть дополнительно охвачены этими режимами. Подобная неопределенность создает риски неконтролируемого распространения экспериментальных режимов на социально чувствительные области, где ошибки алгоритмов могут привести к непоправимым последствиям для прав и свобод граждан. Отсутствие четких критериев выбора сфер для расширения экспериментальных правовых режимов демонстрирует недостаточное понимание потенциальных рисков и необходимости обеспечения сбалансированности между стимулированием инноваций и защитой публичных интересов.
Действующий Федеральный закон от 31 июля 2020 г. № 258-ФЗ «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации» не предусматривает излишне обременительных условий и порядка установления таких режимов. Их дополнительное упрощение может привести к снижению качества экспертной оценки, ослаблению требований к оценке возможных негативных последствий, недостаточной проработке механизмов защиты прав участников эксперимента.
При этом отметим, что сочетание двух предлагаемых мер – расширения сфер применения и упрощения процедуры «запуска» экспериментальных правовых режимов – может привести к такой ситуации, когда экспериментальные режимы из временного инструмента апробации нововведений превратятся в постоянный способ обхода полноценного нормативно-правового регулирования.
В свою очередь, предложение по дальнейшему совершенствованию регулирования страхования на основе правоприменительного опыта не соответствует характеру концепции как документа стратегического планирования, где должен быть представлен прогноз и очерчена модель будущего правового регулирования.
В части использования технологий искусственного интеллекта в государственном управлении в проекте концепции констатируется риск дискриминационных практик без их содержательной расшифровки и предложения конкретных правовых механизмов противодействия им. Указание на наличие рисков укоренения дискриминационных практик, безусловно, отражает реальную проблему, однако проект концепции не предлагает ни системного анализа природы этих рисков, ни четких критериев их идентификации, ни инструментов их минимизации. Подобный поверхностный подход неприемлем для документа концептуального уровня, призванного формировать основы правового регулирования в чувствительной сфере публичного управления, непосредственно затрагивающей реализацию прав и свобод граждан. В сфере здравоохранения провозглашается установление механизмов распределения ответственности без определения круга субъектов ответственности. Раздел об иных направлениях совершенствования применения технологий искусственного интеллекта перечисляет отрасли без определения собственно направлений совершенствования регулирования.
Проект концепции игнорирует такой важнейший аспект, как обоснованность внедрения технологий искусственного интеллекта в решение тех или иных вопросов. В частности, одним из спорных и неоднозначных современных инструментов регулирования научной деятельности являются различные программы проверки на плагиат. Можно указать и на негативные последствия внедрения технологий искусственного интеллекта в медицине при постановке диагнозов. Таким образом, излишний оптимизм, зачастую подпитываемый корыстным коммерческим интересом субъектов, стоящих за той или иной технологией искусственного интеллекта, не может быть драйвером развития при модернизации механизмов принятия профессиональных решений, требующих, прежде всего, оценки факторов человеком как носителем определенной профессии. В связи с этим предлагается в проекте концепции отметить необходимость проведения ревизии обоснованности замещения или включения технологии искусственного интеллекта в определенных профессиональных сферах.
Предлагаемые в проекте концепции механизмы ее реализации во многом дублируют те, что предусмотрены действующей концепций, но с еще большей степенью декларативности. Предусмотренный набор инструментов реализации будущей концепции (использование ее как ориентира при подготовке нормативных правовых актов и формирование плана мероприятий), очевидно, недостаточен. Ограничиваясь общими указаниями на необходимость совершенствования механизмов и развития системы, проект не содержит каких-либо измеримых ориентиров и временных рамок, четкого распределения ответственности между органами власти, механизмов ресурсного обеспечения, показателей и индикаторов оценки эффективности, процедур мониторинга и корректировки документа по результатам его реализации.
В основе разработки законодательных новелл, обусловленных научно-технологическим развитием, и как следствие сменой технологического уклада, должна лежать концептуальная проработка правового пробела. В то же время проект концепции едва ли можно охарактеризовать, как научно обоснованный программный документ, определяющий основные цели проектируемого регулирования и соответствующие этим целям возможные регуляторные механизмы, учитывающие конкретные потребности государства, бизнеса, граждан, институтов гражданского общества. Таким образом, проект концепции не отвечает и признакам декларативного документа, формулирующего принципы и обязательства. Напротив, он создает бесконечную цепочку отсылок к будущим документам, не давая четких ориентиров для их содержания. Каждый упомянутый документ должен будет конкретизировать положения концепции, но сама концепция не содержит достаточно конкретных указаний для такой конкретизации. Это создает риск формализации процесса планирования.
