Введение

Для российской и мировой юридической науки с недавних пор остро встал вопрос регулирования повсеместно внедряемого искусственного интеллекта, киберфизических систем и продвинутых «умных» роботов.

Отношения, определяющие необходимость взаимодействия человека и машины, вышли далеко за рамки фантастики и футуризма и сейчас представляют собой действительность, плохо урегулированную нормами права, но активно заявляющую о себе реальными казусами, порой влекущими человеческие жертвы. В то же время появление виртуального пространства в Интернете вместе с развитием цифровой экономики обусловило актуализацию традиционной для юридической науки проблемы правоспособности: определения юридической личности, участвующей в правоотношениях.

Помимо общей неопределенности правового статуса робота и возможности причисления роботов к субъектам правоотношений, возникают новые как практические, так и теоретические вопросы, например о творческом потенциале искусственного интеллекта¹ (Рыжов В. В., Сайфулин В. Г. К вопросу о способности искусственного интеллекта к научному творчеству // Вестник Волгоградского государственного университета. Серия 7 : Философия. Социология и социальные технологии. 2011. № 1 (13). С. 140.) и способности создания им оригинальных произведений² (Ролинсон П., Ариевич Е. А., Ермолина Д. Е. Объекты интеллектуальной собственности, создаваемые с помощью искусственного интеллекта: особенности правового режима в России и за рубежом // Закон. 2018. № 5. С. 66.).

Необходимость регулирования робототехники

Правовое регулирование робототехники, то есть науки и практики разработки, производства и применения роботов³ (ГОСТ ИСО 8373-2014. Роботы и робототехнические устройства. Термины и определения // URL: http:// gostpdf.ru/cont/files/8373-2014/gost-8373-2014.14971.pdf (дата обращения: 23.03.2019).), можно характеризовать как зарождающееся. Это обусловлено некоторой ригидностью законодателя в попытках провести либеральное регулирование столь динамично развивающейся сферы, поскольку ее нахождение в «теневой зоне» фактически снимает бремя ответственности за поспешные и неструктурированные юридические акты, которые могут быть приняты для упорядочивания отношений с участием роботов.

Сложность представляет и неопределенность понятия «робот», отсутствие классификации данного объекта для целей введения в правовое поле. В зарубежных исследованиях наиболее общее определение понятия «робот» выводится через перечень функций, осуществляемых ими: роботы — это искусственно созданные объекты или системы, которые могут получать и обрабатывать информацию, а также действовать соответственно окружающему их внешнему миру⁴ (Calo R. Robots in American Law // University of Washington School of Law Research Paper. California Law Review. P. 531. URL: https://ssrn.com/abstract=2737598 (дата обращения: 17.03.2019).).

Для юридической науки важным аспектом выступает не столько конкретная инженерно-техническая архитектура робота, сколько возможности и функции, которые могут быть воплощены с помощью данной архитектуры.

В российской и общемировой практике имеются сходные тенденции при формировании подходов к определению понятия «робот». Считается, что не всякая программа или устройство определимы как роботы, но лишь те из них, которые напоминают человека как внешне, так и выполняемыми ими функциями⁵ (Соболева М. Ю. Роботы для права или право для роботов? // URL: repo.iubipdigital.ru/pluginfile.php/654/ mod_data/content/4098/Соболева.pdf (дата обращения: 11.03.2019).). Как справедливо утверждают корифеи российской юридической мысли в области регулирования робототехники, едва ли можно назвать укоренившимся термин «робот», ибо подходы к определению варьируются от «автоматизированного механизма» или «компьютерной программы» до «технически продвинутого устройства, функционирующего на основе собственной обособленной информационной системы»⁶ (Архипов В. В., Наумов В. Б. О некоторых вопросах теоретических оснований развития законодательства о робототехнике: аспекты воли и правосубъектности // Закон. 2017. № 5. С. 168. URL: https://elibrary.ru/ item.asp?id=29144841 (дата обращения: 25.03.2019).).

Стоит отметить, что в отечественных реалиях правовое регулирование было вытеснено техническим, тем самым демонстрируя фактическое доминирование организационно-прикладного регулирования общественных отношений над теоретической, но не менее важной основой. Так, в государственном стандарте под роботом принято понимать «механизм, программируемый по двум и более осям, имеющий некоторую степень автономности, движущийся внутри своей рабочей среды и выполняющий задачи по предназначению»⁷ (ГОСТ ИСО 8373-2014. Роботы и робототехнические устройства. Термины и определения.).

Возможно выделить несколько поколений роботов⁸ (Канушкин С. В. Реализация функциональных возможностей интеллектуальных роботов в работе правоохранительных органов // Правовая информатика. 2018. № 2. С. 23):

• поколение — программируемые роботы, выполняющие строго ограниченные функции, как правило, реализуемые для автоматизации процессов, выполняемых индивидом;


• поколение — роботы с адаптивным управлением, основанным на обработке информации сенсорными устройствами;


• поколение — самообучающиеся, высоко автономные, «умные» роботы — наиболее интересные для анализа с точки зрения современной правовой науки.

В Европейском Союзе были выработаны критерии, отличающие «умного» робота от иных киберфизических систем⁹ (Draft Report with Recommendations to the Commission on Civil Law Rules on Robotics. 2015/2103 (INL) // European Parliament. URL: http://www.europarl.europa.eu/doceo/document/A-8-2017-0005_EN.html (дата обращения: 27.03.2019).). Отношения с участием данного вида роботов требуют наиболее детального правового регулирования ввиду противоречивых мнений относительно возможности наделения подобной киберфизической системы статусом субъекта отношений (то есть отхода от классического понимания робота исключительно как объекта права). Для квалификации машины в качестве высокотехнологичного «умного» устройства она должна:

• быть способной совершать автономные действия посредством использования сенсоров и/или посредством обмена информацией с внешним миром и анализа такой информации;


• быть самообучаемой (данный критерий носит опциональный характер);


• быть оснащенной физически;


• адаптировать поведение в соответствии с внешней средой.

Морально-этические аспекты использования роботов

В Европейском Союзе в последнее время активно развивается концепция «взвешенного» регулирования робототехники. В рамках резолюции Европарламента было закреплено несколько фундаментальных аспектов, определяющих морально-этическую основу взаимоотношения робота и человека¹⁰ (Draft Report with Recommendations to the Commission on Civil Law Rules on Robotics. 2015/2103 (INL).), которые удовлетворяют критериям, сформированным в 1942 г. Айзеком Азимовым.

Опора морально-этической политики в отношении использования такой продвинутой киберфизической системы должна отвечать требованиям:

• невредимости человека при эксплуатации робота;


• подчинения робота указаниям и командам человека, за исключением случаев, когда та
  кое поведение машины может нанести вред индивиду;


• обеспечения возможности робота поддерживать свое существование при условии, что это не противоречит вышеупомянутым требованиям;


• наконец, роботы ни в коем случае не должны причинять вред человечеству в целом.

При решении морально-этических коллизий следует помнить о так называемом антропоморфном заблуждении (Android Fallacy), под которым понимается «одухотворение» робота и наделение его свойствами, которыми он не обладает¹¹ (Richards N. M., Smart W. D. How Should the Law Think About Robots? (May 10, 2013) // URL: https://ssrn. com/abstract=2263363 (дата обращения: 27.03.2019).). Данное заблуждение имеет место ввиду технологического совершенства робота, что дает основания воспринимать его действия в некоторых ситуациях как полностью автономные, не зависящие от воли владельца, как если бы у робота была собственная «воля». В действительности же способность робота совершать определенные действия зависит от того, какой механизм восприятия окружающей действительности заложен при его создании.

Если при разработке нормативного регулирования данное замечание о конструктивных особенностях «умного» робота не будет приниматься в расчет, это может привести к регулированию на законодательном уровне не функционального содержания, а просто роботизированной формы. Чрезмерное «очеловечивание» роботов, которое в определенной степени является трендом современных реалий¹² (Khan P. H. et al. Do people hold a humanoid robot morally accountable for the harm is causes? // Proceedings of the 7th ACM/IEEE International Conference on Human-Robot Interaction, 2012.), может привести к непредсказуемым последствиям, например при определении лица, виновного в причинении вреда.

Для иллюстрации вопросов регулирования достижений робототехники сточки зрения этики будет разумно апеллировать к использованию роботов в условиях военно-полевой хирургической деятельности¹³ (O’Sullivan S., Nevejans N., Allen C., Blyth A., Leonard S., Pagallo U., Holzinger K., Holzinger A., Sajid M. I., Ashrafian H. Legal, Regulatory, and Ethical Frameworks for Development of Standards in Artificial Intelligence (AI) and Autonomous Robotic Surgery // The International Journal of Medical Robotics and Computer Assisted Surgery. 2018. URL: https://onlinelibrary.wiley.com/doi/10.1002/rcs.1968 (дата обращения: 25.03.2019).). Спасение раненых — чрезвычайно сложная и ресурсозатратная задача. В военных условиях гораздо эффективнее разместить роботов-хирургов для оказания неотложной медицинской помощи. Хирург-человек в данной ситуации больше подвержен вероятности ошибки, нежели машина, так как окружающая среда и физические условия могут оказать негативное воздействие на человека, в результате чего может произойти непоправимая ошибка. В то же время роботы невосприимчивы к такого рода влиянию внешних факторов.

Несмотря на кажущуюся выгоду от применения подобного рода роботов, существуют явные риски. Во-первых, чем более высоко автономен робот, тем сложнее определить ответственность, так как контроль оператора-человека сводится к минимуму. Во-вторых, робот — это информационная система, которая подвержена рискам взлома и хакерской атаки. В этой связи представляется целесообразным впоследствии рассмотреть возможность отнесения подобных роботов к объектам критической информационной инфраструктуры и разработать в отношении некоторых видов роботов соответствующий правовой режим.

Немаловажен вопрос морального выбора, который робот совершить не в состоянии, поскольку технологии машинного обучения еще не достигли такого уровня: как оценивать ценность жизни того или иного лица? Кому следует оказать помощь в первую очередь: лицу, которое с большей вероятностью выживет, либо тому, кто является стратегически более ценным, что может иметь решающее значение в условиях ведения военных действий?¹⁴ (O’Sullivan S., Nevejans N., Allen C., Blyth A., Leonard S., Pagallo U., Holzinger K., Holzinger A., Sajid M. I., Ashrafian H. Op. cit.) 

Бесспорно, разработка, развитие и внедрение технологий искусственного интеллекта должны подвергаться тщательному анализу и выполняться в рамках риск-ориентированно- го подхода. Все автоматизированные процессы подлежат разработке с учетом возможности изучения и оценки их исправности экспертом, а для создания среды доверия и защиты прав человека необходимо обеспечить прозрачность алгоритмов и технической части функционирования робота.

Определение правоспособности и ответственности роботов

Наделение определенных типов киберфизических систем, так называемых «умных» роботов, правоспособностью — одно из важнейших направлений современной юридической мысли в условиях цифровой экономики.

Наиболее ярко этот аспект выражается в контексте определения правового статуса роботов именно в рамках гражданского права.

Для рассмотрения этого вопроса представляется необходимым провести разграничение между техническими системами, являющимися, по нашему мнению, объектами права, и техническими системами, предположительно представляющими субъекты права, с целью определения наиболее подходящего правового регулирования для каждой из этих групп.

В данном случае представляется обоснованной точка зрения Г. А. Гаджиева, который предлагает разграничивать непосредственно робототехническую систему, созданную без использования технологии, предполагающей автономность объекта (промышленные роботы, дроны, аппараты для глубоководного погружения), и роботов-агентов, т.е. киберфизические системы, способные самостоятельно совершать определенные виды задач¹⁵ (Гаджиев Г. А. Является ли робот-агент лицом? (поиск правовых форм для регулирования цифровой экономики) // Журнал российского права. 2018. № 1 (253). С. 21. URL: https://cyberleninka.ru/article/n/ yavlyaetsya-li-robot-agent-litsom-poisk-pravovyh-form-dlya-regulirovaniya-tsifrovoy-ekonomiki (дата обращения: 19.03.2019).). Здесь дополнение в виде слова «агент» означает, что такие системы реализуют интересы определенного физического или юридического лица.

Важно понимать, что для определения правоспособности любого субъекта гражданского права необходимо решить вопрос о наличии у него воли на совершение определенных значимых для правового регулирования действий. В контексте применения этих понятий к роботам, наделенным развитым искусственным интеллектом и автономностью, некоторые исследователи утверждают, что такие системы имеют волю в гражданско-правовом смысле¹⁶ (Архипов В. В., Наумов В. Б. Указ. соч. С. 160.).

Однако вышеизложенный вывод ученых достаточно сложно использовать для построения концепции робота как физического лица, потому что тогда наделение роботов всеми аспектами правоспособности определяет также возможность существования у него деликтоспособности, т.е. возможности нести ответственность за вред, причиненный его деяниями.

Наиболее распространенной в научных исследованиях является концепция робота как юридического лица. Она допускает избирательное применение норм гражданского права, регламентирующих правоотношения с участием юридических лиц, к правовому регулированию роботов по аналогии¹⁷ (Архипов В. В. Наумов В. Б. Указ. соч. С. 165.). Основанием для проведения такой аналогии является «искусственная» природа юридических лиц и роботов.

Для более полного исследования вопроса правосубъектности роботов следует обратиться к еще одной теории, которая получила название «концепция электронного лица». По мнению О. А. Ястребова, электронное лицо, обладающее субъективными правами и юридическими обязанностями, является комплексом таких прав и обязанностей, содержанием которых являются действия искусственного интеллекта¹⁸ (Ястребов О. А. Правосубъектность электронного лица: теоретико-методологические подходы // Труды Института государства и права РАН. 2018. № 2. С. 36. URL: https://cyberleninka.ru/article/n/pravosubektnostelektronnogo-litsa-teoretiko-metodologicheskie-podhody (дата обращения: 17.03.2019).). Очень важно подчеркнуть, что в данной концепции «электронное лицо» представляет собой существенно новый субъект права, и название данного субъекта отражает его сущность и правовую специфику. О. А. Ястребов предлагает рассматривать искусственный интеллект как базовую составляющую электронного лица, что предопределяет возможность применения данной идеи для определения правового статуса роботов¹⁹ (Ястребов О. А. Указ. соч. С. 40.).

Исследование проблематики правосубъектности электронных лиц подтверждает, что специфика электронных лиц (трудность локализации их юридически значимого поведения) определяет необходимость формирования принципиально нового инструментария правового регулирования.

На наш взгляд, в данном случае концепт робота как юридического лица применим к определению правового статуса роботов-агентов, так как юридическое лицо и робот действительно имеют общую «искусственно созданную» природу. Кроме того, для реализации этого подхода на практике не придется прорабатывать новый пласт законодательного регулирования, так как отношения с участием юридических лиц уже имеют правовую регламентацию в действующем законодательстве.

Ввиду того что робот-агент может выполнять различные функции, необходимые для реализации целей разработчиков искусственного интеллекта, он в целом предстает как действующее лицо, на которое возлагается обязанность, которую он может как исполнить, так и не исполнить²⁰ (Ястребов О. А. Указ. соч. С. 36). В связи с этим актуален вопрос о том, кто будет нести ответственность за неисполнение такой обязанности — сам робот-агент (как юридическое или электронное лицо) или разработчик технологии, на основании которой робот совершает свои действия?

В настоящее время наблюдается тенденция возрастания уровня автономности искусственного интеллекта, а также увеличения количества случаев причинения вреда людям в результате решений, принятых с использованием таких технологий.

В качестве одного из таких примеров можно привести ситуацию, произошедшую в связи с участием в дорожно-транспортном происшествии автомобиля марки Tesla. Автопилот данного автомобиля неправильно оценил дорожную ситуацию, что привело к столкновению с другим автотранспортным средством, в результате чего погиб водитель, не успевший взять управление на себя²¹ (См.: URL: https://www.tesla.com/en_EU/blog/tragic-loss (дата обращения: 17.03.2019).).

Ввиду серьезности угроз дальнейшего развития искусственного интеллекта надлежащая регламентация вопросов ответственности за причинение вреда роботами, обладающими способностями к автономному принятию решений, просто необходима.

Интересным для исследования представляется вопрос о возможности рассмотрения робота как источника повышенной опасности.

Некоторые исследователи предполагают, что автономный робот не может быть отнесен к источнику повышенной опасности в связи с тем, что в привычном понимании таким источником обычно выступает объект материального мира²² (Ирискина Е. Н., Беляков К. О. Правовые аспекты гражданско-правовой ответственности за причинение вреда действиями робота как квазисубъекта гражданско-правовых отношений // Гуманитарная информатика. 2016. № 10. С. 68. URL: https://elibrary.ru/item.asp?id=26709676 (дата обращения: 21.03.2019).). Если же мы будем применять данную концепцию к автономному роботу, которого отдельные исследователи предлагают рассматривать в качестве субъекта права, возникнет существенное смешение абсолютно разных правовых категорий.

Применение правил об источниках повышенной опасности было конкретизировано в постановлении Пленума Верховного Суда РФ от 26.01.2010 № I²³ (Постановление Пленума Верховного Суда РФ от 26.01.2010 № 1 «О применении судами гражданского законодательства, регулирующего отношения по обязательствам вследствие причинения вреда жизни или здоровью гражданина» // Российская газета. № 24. 05.02.2010.). В соответствии с данным документом источником повышенной опасности следует признавать любую деятельность, осуществление которой создает повышенную вероятность причинения вреда из-за невозможности полного контроля за ней со стороны человека. В целом многие роботы по данному критерию могут быть отнесены к источникам повышенной опасности, однако вопрос о том, можно ли применять данный подход ко всем роботам, остается открытым.

В научной литературе высказываются различные точки зрения по вопросам ответственности робота (его производителя или пользователя) за причинение вреда. К примеру, в зарубежной литературе высказывается точка зрения о том, что юридическая ответственность за действия робота ложится на человека, который дает роботу разрешение действовать от его имени²⁴ (Asaro P. Robots and Responsibility from a Legal Perspective. 2007. P. 3. URL: http://peterasaro.org/writing/ ASARO%20Legal%20Perspective.pdf (дата обращения: 16.03.2019).).

Сходная идея была также высказана в докладе «Нормы гражданского права в робототехнике»: предлагалось отдать предпочтение концепции управления рисками, когда ответственность возлагается на то лицо, которое должно было выполнить обязанность по минимизации рисков и ненаступлению вредных последствий²⁵ (Draft Report with Recommendations to the Commission on Civil Law Rules on Robotics. 2015/2103 (INL).).

Представляется очевидным, что для дальнейшей более детальной регламентации вопроса ответственности за причинение вреда роботами необходимо прежде всего решить вопрос определения правового статуса робота-агента, а также выяснить, является ли он источником повышенной опасности. По нашему мнению, роботы могут быть отнесены к субъектам права исключительно при возможности создания института «электронного лица», предлагаемого О. А. Ястребовым. Кроме того, к регулированию роботов-агентов должны применяться положения об источниках повышенной опасности ввиду их явного подпадания под данную категорию.

На данный момент авторам работы наиболее перспективной представляется идея управления рисками, т.е. привлечения к ответственности того лица, на котором лежала обязанность по минимизации рисков причинения вреда. Данная концепция представляется эффективной для нового правового регулирования ввиду обоснованности применения мер ответственности за причиненный роботом вред именно к тому лицу, которое допустило невыполнение возложенных на него обязанностей по устранению таких негативных последствий.

Разумеется, при имплементации данных положений в действующее правовое регулирование могут возникнуть определенные проблемы, связанные со сложностью определения лица, на которого была возложена обязанность по устранению рисков, однако в целом этот подход может оказать позитивное влияние на детальную регламентацию вопроса ответственности киберфизических систем.

Заключение

В настоящее время основной задачей регулирования робототехнических систем и искусственного интеллекта является выработка унифицированного определения участников общественных отношений, разработка единой концепции юридической ответственности субъектов, связанных с вовлечением роботов в правоотношения, а также проработка правовой политики, отражающей позицию законодателя к отношениям с участием киберфизических систем.

Безусловно, роботы способны существенно улучшить привычное функционирование многих сфер человеческой жизни. В частности, использование роботов в авиационной, военной, медицинской, исследовательской областях приводит к уменьшению технических потерь при выполнении операций в сложных районах и на отдаленных территориях, к снижению издержек на создание и эксплуатацию автоматизированных киберфизических систем; расширение сфер применения роботов в ситуациях невозможности человеческого вмешательства может существенно облегчить многие процессы жизнедеятельности.

Вместе с тем в связи с архитектурными особенностями киберфизических систем остро стоит вопрос не только определения юридической ответственности робота, но и правового регулирования создания и программирования «умных» роботов. Некоторые виды подобных систем, используемые в военной или медицинской деятельности, представляют наибольшую значимость, поскольку от действий, совершаемых с помощью роботов, зависят жизнь и здоровье человека напрямую. Это свидетельствует о том, что к контролю над созданием этих систем и к их вводу в эксплуатацию должны предъявляться повышенные требования. Потенциально полезным видится рассмотреть возможность отнесения вышеуказанных роботов к объектам, требования по контролю за которыми сравнимы с выдвигаемыми к критической информационной инфраструктуре.

Повсеместное внедрение роботов порождает много дискуссий в юридической науке. В частности, «пищей» для искусственного интеллекта и машинного обучения роботов могут стать не только общедоступные сведения, но и персональные данные, которые сейчас предоставляются как возмездно, так и безвозмездно, что может образовать новую гражданско-правовую неопределенность²⁶ (Pazos R. Personal Data as an Economic Good — Misleading Commercial Practices and Social Networks (July 1, 2017) // How Deep Is Your Law? Brexit. Technologies. Modern Conflicts. Conference Papers, Vilnius University Faculty of Law. Vilnius, 2017. Pp. 288—297. URL: https://ssrn.com/abstract=3011199 (дата обращения: 28.03.2019).).

Авторы данной работы считают, что для роботов-агентов возможно применение концепции «электронного лица», так как эта принципиально новая идея сможет помочь в формировании узкоспециализированного подхода в регулировании отношений, возникающих в связи с использованием возможностей искусственного интеллекта. Разработка такого подхода необходима для того, чтобы каждый «субъект» правовых отношений подчинялся тем нормам, которые были выработаны, исходя из особенностей его правовой природы.

Таким образом, при эксплуатации и регулировании сложных киберфизических систем законодатель должен комплексно подходить к разработке новой отрасли законодательства и учитывать аспекты безопасности индивида, обеспечения прав и свобод человека, защиты частной жизни, чести и достоинства индивида, а также тщательно регулировать вопросы защиты персональных данных и чувствительных сведений.

БИБЛИОГРАФИЯ

1. Архипов В. В., Наумов В. Б. О некоторых вопросах теоретических оснований развития законодательства о робототехнике: аспекты воли и правосубъектности // Закон. — 2017. — № 5. — С. 157—170.


2. Гаджиев Г. А. Является ли робот-агент лицом? (Поиск правовых форм для регулирования цифровой экономики) // Журнал российского права. — 2018. — № 1 (253). — С. 15—30.


3. Ирискина Е. Н., Беляков К. О. Правовые аспекты гражданско-правовой ответственности за причинение вреда действиями робота как квазисубъекта гражданско-правовых отношений // Гуманитарная информатика. — 2016. — № 10. — С. 63—72.


4. Канушкин С. В. Реализация функциональных возможностей интеллектуальных роботов в работе правоохранительных органов // Правовая информатика. — 2018. — № 2. — С. 23—38.


5. Ролинсон П., Ариевич Е. А., Ермолина Д. Е. Объекты интеллектуальной собственности, создаваемые с помощью искусственного интеллекта: особенности правового режима в России и за рубежом // Закон. - 2018. - № 5. - С. 63-71.


6. Рыжов В. В., Сайфулин В. Г. К вопросу о способности искусственного интеллекта к научному творчеству // Вестник Волгоградского государственного университета. Серия 7 : Философия. Социология и социальные технологии. — 2011. — № 1 (13). — С. 138—141.


7. Соболева М. Ю. Роботы для права или право для роботов? // URL: repo.iubipdigital.ru/pluginfile.php/654/mod_data/content/4098/Co6oneBa.pdf (дата обращения: 11.03.2019).


8. Ястребов О. А. Правосубъектность электронного лица: теоретико-методологические подходы //Труды Института государства и права РАН. — 2018. — № 2. — С. 36—55.


9. Asa го Р Robotsand Responsibility from a Legal Perspective. 2007 //URL: http://peterasaro.org/writing/ASARO%20Legal%20Perspective.pdf (дата обращения: 16.03.2019).


10. Calo R. Robots in American Law 11 University of Washington School of Law Research Paper. California Law Abstract. — Pp. 513—563. — URL: https://ssrn.com/abstract=2737598 (дата обращения: 17.03.2019).


11. Khan P. H. et al. Do people hold a humanoid robot morally accountable for the harm is causes? // Proceedings of the 7th АСМ/IEEE International Conference on Human-Robot Interaction, 2012.


12. O'Sullivan S., Nevejans N., Allen C., Blyth A., Leonard S., Pagallo U., Holzinger K., Holzinger A., Sajid M. /., Ashrafian H. Legal, Regulatory, and Ethical Frameworks for Development of Standards in Artificial Intelligence (Al) and Autonomous Robotic Surgery //The International Journal of Medical Robotics and Computer Assisted Surgery. — 2018. — URL: https://onlinelibrary.wiley.com/doi/10.1002/rcs.1968 (дата обращения: 25.03.2019).


13. Pazos R. Personal Data as an Economic Good — Misleading Commercial Practices and Social Networks (July 1, 2017) // How Deep Is Your Law? Brexit. Technologies. Modern Conflicts. Conference Papers, Vilnius University Faculty of Law. — Vilnius, 2017. — Pp. 288—297. — URL: https://ssrn.com/abstract=3011199 (дата обращения: 28.03.2019).


14. Richards N. M., Smart W. D. How Should the Law Think About Robots? (May 10, 2013) //URL: https://ssrn.com/abstract=2263363 (дата обращения: 27.03.2019).