Искусственный интеллект и «предсказанное правосудие»: зарубежный опыт
Published: Nov. 1, 2019
Latest article update: June 12, 2024
В статье рассматриваются проблемы применения искусственного интеллекта (ИИ) в области правосудия. В настоящее время обстоятельства способствуют использованию ИИ в юриспруденции. Технологии вышли на рынок. В результате стало возможным «предсказанное правосудие». После того как получен обзор возможного будущего процесса, профессионалу легче завершить задачу — интерпретацию и принятие окончательного решения (переговоры, судебные разбирательства). Потребуется много работы, чтобы привести ИИ в соответствие с этим стандартом. Юридическая информация должна быть структурирована, чтобы сделать ее не только читабельной, но и эффективной для принятия решений. «Предсказанное правосудие» может помочь как сторонам по делу и судьям в структурировании информации, так и студентам и преподавателям, ищущим соответствующие сведения. Развитие информационных технологий привело к расширению возможностей программ «предсказанного правосудия». Они используют преимущества новых цифровых инструментов. Основное внимание уделяется двум преимуществам программ:
а) повышению качества предоставляемых услуг;
б) одновременному контролю за эксплуатационными расходами системы правосудия.
«Предсказанное правосудие» предоставляет алгоритмы для анализа в короткие сроки огромного количества ситуаций, позволяющих предвидеть исход спора или по крайней мере оценить шансы на успех. Оно помогает: выбрать правильный способ защиты, наиболее подходящие аргументы, оценить предполагаемую сумму компенсации и т.д. Таким образом, речь идет не о самом правосудии, а лишь об аналитических инструментах, которые позволили бы прогнозировать будущие решения в спорах, аналогичных тем, которые были проанализированы.
Keywords
Искусственный интеллект, США, ЕС, Франция, «умные контракты», Совет Европы, «предсказанное правосудие»
Под «искусственным интеллектом» (ИИ) понимается набор теорий и техник, используемых для создания машин, способных имитировать интеллект[1]. А. Каплан и М. Хэнлайн определяют его как «способность системы правильно интерпретировать внешние данные, извлекать уроки из таких данных и использовать эти знания для достижения конкретных целей и задач посредством гибкой адаптации»[2]. Этот термин используется для описания программ, имитирующих «когнитивные» функции, которые люди связывают с другими человеческими умами — «обучение» и «решение проблем» (С. Рассэл, П. Норвиг[3]). В компьютерных науках ИИ рассматривается как совокупность «интеллектуальных агентов» (intelligent agents), включающих в себя любое устройство, которое воспринимает окружающую среду и предпринимает действия, которые максимизируют его шансы на успешное достижение своих целей (К. Ниссон)[4].
Думается, что ИИ соответствует набору концепций и технологий, а не сфере жизни, в которой представлен и функционирует. Так что определений ИИ можно дать множество и каждое будет по-своему правильным, в зависимости от области применения.
Как бы то ни было, обстоятельства способствуют использованию ИИ в юриспруденции[8]. В частности, математические методы и алгоритмы позволили сформировать так называемые умные контракты. Они представляют собой компьютерные протоколы, которые отображают или проверяют договоры или предоставляют техническую поддержку для переговоров или исполнения контракта. При этом письменная фиксация текста договора (на бумаге или в файле) может быть излишней. «Умные контракты» обычно также имеют пользовательский интерфейс и технически изображают логику договорных соглашений[5]. Сторонники (например, Ю. Хэк- манн, М. Кауларц) утверждают, что «многие типы условий контрактов становятся частично или полностью самореализуемыми или самодействующими, или и тем и другим»[6]. «Умные контракты» повышают безопасность правоотношений по сравнению с традиционным договорным правом, снижая операционные издержки.
В 2018 г. в отчете Комитету по экономике Сената США подчеркивалось: «Хотя умные контракты могут звучать по-новому, эта концепция коренится в базовом договорном праве. Обычно суд выносит решения по договорным спорам и обеспечивает соблюдение условий, но также часто встречается другой метод, особенно для международных транзакций. С помощью умных контрактов компьютерная программа обеспечивает выполнение контракта, встроенного в код»[7].
Кроме того, в настоящее время появились программы, которые предвидят исход судебных процессов, включая потенциальную компенсацию. LegalTech (так обычно обозначаются
соответствующие программы в зарубежной литературе[9]) предлагает много преимуществ: автоматизация повторяющихся задач для юристов, отвлечение внимания, снижение судебного риска и т.д. Вместе с тем «идея состоит не в том, чтобы уничтожить правовые исследования, — пишет Н. Бустаманте, президент одного из французских порталов. — Наша цель — продвигать право на искусственный интеллект для автоматизации повторяющихся задач, чтобы юристы могли сосредоточиться на своей первой функции — консультировании клиентов и изобретательности»[10].
Так, в обиход стран Европы прочно вошло новое понятие — «предсказанное правосудие»[11] (ПП). ПП опирается на ИИ, предоставляя юристам инструменты, позволяющие им сосредоточиться на более сложных задачах[12].
В то время как традиционное правосудие пытается выполнить свою миссию — в разумные сроки вынести решение по делу, ПП идет дальше. Оно предоставляет алгоритмы для анализа в короткие сроки огромного количества ситуаций, которые позволяют предвидеть исход спора или по крайней мере оценить шансы на успех. ПП позволяет: избрать наиболее правильный способ защиты, выбрать наиболее подходящие аргументы; оценить предполагаемую сумму компенсации и т.д.
Таким образом, речь идет не о самом правосудии, а лишь об аналитических инструментах, которые позволили бы прогнозировать будущие решения в спорах, аналогичных тем, которые были проанализированы. Профессор Сорбонны Б. Дондеро в этой связи подчеркивает, что ПП — «это попытка с минимальной неопределенностью предсказать, каким будет ответ юрисдикции X при рассмотрении дела V».
Сам термин «ПП» (как и многие наши проблемы) исходит от англосаксов. В США на уровне штатов давно используется, в частности, программное обеспечение в области уголовного права, а также базы данных для исполнения нормативных актов, классификации документов и пр. К примеру, полицейское управление Лос-Анджелеса приняло систему предиктивно-полицейской деятельности под названием PredPol[13]. Она использует данные о поведении отдельных лиц и эффективнее направляет усилия полиции по борьбе с преступностью.
Американские судьи часто используют программы для оценки вероятности повторного совершения подозреваемым преступления. Правда, тут не обходится без риска. Так, гражданин США Э. Лумис в штате Висконсин был приговорен к шести годам тюремного заключения за угон автомобиля[14]. Прямых улик не хватало, поэтому полиция использовала программу КОМПАС (Correctional Offender Management Profiling for Alternative Sanctions — COMPAS). Программа (а вслед за ней и суд) обосновывала свое решение о виновности Э. Лумиса высоким риском рецидива такого рода лиц. Однако сам Э. Лумис с этим не согласился и посчитал, что «справедливого разбирательства» не было, поскольку ему не был предоставлен доступ к алгоритму программы. В свою очередь, прокурор обосновывал использование КОМПАСа «научной обоснованностью теста». Верховный суд США отказал Э. Лумису в выдаче судебного приказа на обжалование приговора суда штата[15]. Таким образом, осуждение было признано правомерным.
Правда, недавнее исследование, проведенное Университетским колледжем Лондона, показало, что компьютеры способны предсказывать исход разбирательства с точностью около 80 %. Бывшая судья из Нидерландов др. Д. Рейлинг задается вопросом: насколько устраивает эта цифра? «Как только люди начнут использовать искусственный интеллект, и они будут ожидать, что результаты фактически предскажут машины, что будут делать судьи? Если судьи не будут выполнять свои функции в соответствии с ожиданиями, связанными с искусственным интеллектом, это станет проблемой для суда,» — считает Д. Рейлинг[16].
Надо сказать, что международные нормы об ИИ в правосудии уже «пекутся как пирожки» (правда, пока на региональном уровне).
Так, 4 декабря 2018 г. Европейская комиссия по вопросам эффективности правосудия (CEPEJ) Совета Европы приняла первый документ — «Этические принципы, касающиеся использования искусственного интеллекта в судебных системах»[17]. «Принципы» служат руководством для законодателей и специалистов по вопросам правосудия. Применение ИИ в области правосудия должно осуществляться на ответственной основе, которая соответствует основным правам, гарантированным в Европейской конвенции о защите прав человека и Конвенции Совета Европы о защите личных данных. CEPEJ определила следующие принципы, которые должны соблюдаться в сфере правосудия:
а) уважение основных прав: обеспечение соответствия и реализации инструментов и услуг ИИ с основными правами;
б) недискриминация;
в) качество и безопасность в отношении обработки судебных решений и данных в безопасной технологической среде;
г) прозрачность, беспристрастность и справедливость;
д) обеспечение доступности и понятности методов обработки данных;
е) «под контролем пользователя» и др.
В ЕС на этот счет есть несколько документов разного уровня и разной силы. В их числе: Мнение Европейского экономического и социального комитета от 31.08.2017 «Последствия искусственного интеллекта на (цифровом) едином рынке, в производстве, потреблении, занятости и обществе»[18].
10 апреля 2018 г. 25 европейских стран подписали Декларацию о сотрудничестве в области ИИ. Ряд государств уже объявили о национальных инициативах в этой области и заявили о намерении принять общеевропейский подход к решению проблемы.
25 апреля 2018 г. Комиссия направила сообщение Европейскому парламенту, Европейскому совету, Совету, Европейскому экономическому и социальному комитету и Комитету регионов по искусственному интеллекту для Европы[19].
Конечно, все эти положения пока не являются правовыми нормами ЕС. Однако дело идет к выработке обязательного документа в этой области. Скоро будут приняты и правовые нормы на этот счет. Их назначение — не создать робота-судью, способного принимать решения без человека. Их цель — усилить аналитический потенциал «лучших юристов, как рентген помогает врачу установить диагноз и принять решение о лечении»[20].
Государства Европы осознают новые возможности ПП и активно разрабатывают соответствующие программы на национальном уровне.
Национальные программы «предсказанного правосудия»
Так, с 2015 г. в Нидерландах действует Recht- wijzer — Платформа примирения и посредничества[21], которая распространяется на все разбирательства, касающиеся физических лиц, включая аренду, семейные споры. В марте 2018 г. Комиссия по правосудию и безопасности нижней палаты парламента Нидерландов[22] провела круглый стол по ИИ в области правосудия, на котором шла речь о необходимости регламентации ПП.
Признанным лидером по внедрению ПП в Европе является Франция. Как известно, во Франции действует более 50 кодексов, около 10 500 законов, 127 000 указов и иных нормативных актов, миллионы судебных решений[23].
7 октября 2016 г. был принят Закон о цифровой Республике[24], который подробно расписал процедуры обмена публичной информацией и доступа к ней.
Соответственно, в ст. 1.111-13 Кодекса судебной организации[25] было внесено дополнение, согласно которому «решения, принятые судебными судами, предоставляются общественности бесплатно при соблюдении конфиденциальности заинтересованных лиц».
Изменен и Кодекс отношений между населением и администрацией[26]. Согласно ст. 1.311-5 и 1.311-6 Кодекса населению должны быть сообщены документы, которые необходимы для выполнения задач государственного управления. Информация, содержащаяся в передаваемых или публикуемых документах, может использоваться любым госорганом для выполнения своих задач. Согласно ст. 1.311-3-1 Кодекса «индивидуальное решение, принятое на основе алгоритмического подхода, должно включать явное упоминание, информирующее заинтересованную сторону. Правила, определяющие это обращение и основные характеристики его осуществления, сообщаются администрацией заинтересованному лицу, если оно того пожелает».
Для достижения успешных проектов в сфере ПП необходимы два условия. Во-первых, качественные данные в больших количествах. Это препятствие снято Законом о цифровой Республике 2016 г. Во-вторых, созданы мощные алгоритмы, что стало возможным благодаря технологическим разработкам последних лет. С развитием новых технологий ПП упрощают обработку двух миллионов судебных решений в год.
Во Франции действует несколько программ ПП. Назову самые известные из них:
На рынке ПП во Франции присутствуют два типа участников: классические юридические издатели и стартапы LegalTech. Эволюции LegalTech способствует сочетание благоприятных факторов: цифровая революция, изменения менталитета и появление новых технологий.
Генеральный директор Eurojuris France С. Кланше, в частности, отмечает, что она является первой адвокатской сетью, которая имеет во Франции ПП. «Все юридические фирмы в нашей сети имеют доступ к Predictice — качественному, инновационному и мощному инструменту, поддерживаемому Wolters Kluwer, с которым мы уже работаем с уверенностью. Предсказанное правосудие не заменяет адвоката, но предлагает дополнительное решение для экспертизы»[30].
Во Франции полагают, что особенно перспективно использование ПП в сфере социального права[31]. В частности, предприниматели, не имеющие юридического образования, регулярно сталкиваются с различными трудностями в сфере трудового права, особенно при составлении договоров и разрешении споров с работниками. С введением указом Президента Макрона запрета на увольнение без серьезных оснований использование ПП начинает обретать особое значение. В базе данных Droit social[32] содержатся сведения о 470 000 делах относительно выходных пособий, компенсации несчастных случаев на производстве и т.д. При этом доступны различные критерии поиска
(характеристики компании, сотрудников, виды и размеры надбавок и убытков и др.), что позволяет существенно облегчить жизнь как работникам, так и работодателям.
В последние годы мощные силы изменили рынок юридических консультаций, предоставляемых корпорациям. Новая реальность характеризуется снижением цены (клиенты требуют большего за меньшие деньги), трансформацией ранее однородных услуг в различные виды и ростом аутсорсинга юридических процедур. У клиентов юридические службы стали больше (свидетельство увеличения инсорсинга), а генеральные консультации сопровождаются профессиональными специалистами. Следует также помнить, что во Франции не все компании имеют юридическую службу. Большинство компаний являются малыми и средними, у которых нет больших денежных средств, не всегда можно использовать услуги адвоката. Поэтому для них программы ПП особо полезны.
В чем в целом польза ПП для судов? Информационные технологии могут обеспечить инструменты для облегчения решения судей или лучше ориентировать выбор граждан и законных представителей. Например, судья, который должен вынести решение по сложному делу, может справиться о соответствующих прецедентных решениях. Программы ПП обеспечивают анализ уже рассмотренных дел и выявление аналогичных ситуаций.Тенденции в апелляции и надзоре также могут быть легко обнаружены. Используя алгоритмы, истцы могут узнать об успешности подобных дел и при необходимости скорректировать свои стратегии.
Оцифровка юридических данных представляет собой еще один мегатренд, который трансформирует рабочие процессы и бизнес-модели LegalTech. Объем данных, используемых в юридических консультациях, увеличился в геометрической прогрессии, что наблюдается и во многих других отраслях. Например, в делах с участием компаний Enron, Lehman Brothers и Volkswagen юристы анализировали и интерпретировали сотни тысяч электронных писем и других документов, чтобы установить факты. В будущем способность проверять, анализировать и интерпретировать беспрецедентные объемы данных станет таким же важным фактором успеха юридических фирм, как и «искусство» предоставления юридических консультаций.
Появились различные правовые технологии, позволяющие оцифровывать и автоматизировать эти и другие виды юридической деятельности. Фактически результаты опроса партнеров и провайдеров юридических технологий, проведенного The Boston Consulting Group, позволяют предположить, что решения в области LegalTech могут обеспечивать до 30—50 % задач, выполняемых младшими юристами сегодня.
Тем не менее LegalTech приняли на вооружение меньше юридических фирм, чем можно было бы ожидать. Многие юристы по- прежнему занимаются анализом данных, используя традиционный подход: просмотр документов один за другим, вручную. С одной стороны, текущая модель доходов, основанная на оплачиваемых часах, и соглашения о разделе прибыли, регулирующие партнерские отношения, дают немного стимулов для инвестиций в новые технологии. С другой стороны, многие юридические фирмы опасаются внедрять решения, которые все еще находятся в разработке, что требует значительных изменений в работе и инвестиций в обучение.
Независимо от причин не очень высоких темпов восприятия технологий ПП, юридические компании, которые не в состоянии воспользоваться их преимуществами или не адаптируются к новым реалиям, которые они представляют, рискуют потерять корпоративных клиентов из-за более дальновидной практики, могут обанкротиться. Их заменят поставщики легальных технологических продуктов.
Является ли технология гарантией качества и равенства? Здесь необходимо ответить сразу на несколько вопросов: 1) Как такие ИТ- инструменты будут проектироваться, создаваться и контролироваться? 2) Какое обоснование вдохновляет создание таких алгоритмов? 3) В какой степени граждане могут быть лучше осведомлены об этом обосновании?
Развитие ИТ повсеместно привело к расширению возможностей для взаимодействия между людьми, в результате чего государственные службы, включая службу правосудия, стремились воспользоваться преимуществами новых цифровых инструментов, с тем чтобы пересмотреть способы, с помощью которых они общаются со своими пользователями. Предоставление дополнительной информации и улучшение ее доставки — две цели, которые, как показалось операторам судебных программ, стали возможными при более низких затратах на развертывание благодаря ИИ. Основное внимание уделяется получению двух преимуществ: повышению качества предоставляемых услуг и одновременному контролю за эксплуатационными расходами системы правосудия.
Таким образом, юристы сами по себе (те, кто не признают технологий), так же как и сами ЭВМ (созданные для замены людей), никогда не будут такими же могущественными, как люди и машины вместе. Это ключ к решению всей проблемы. Государственные органы, адвокаты, юридические компании больше не могут позволить себе игнорировать технологии ПП. Чтобы обеспечить свою конкурентоспособность и выживаемость, все субъекты правоприменения должны быть готовы использовать возможности, предоставляемые технологиями ПП.
REFERENCES
[1] См.: Barr A., Feigenbaum Е. A. The Handbook of artificial intelligence. Vol. 1. 1981; Jackson P. Introduction to Artificial Intelligence. Dover, 1985; Hutter M. Universal Artificial Intelligence. Berlin : Springer, 2005; Luger G.; Stubblefield И/ Artificial Intelligence: Structures and Strategies for Complex Problem Solving. Benjamin/ Cummings, 2004 ; Neapolitan R.; Jiang X. Artificial Intelligence: With an Introduction to Machine Learning. Chapman & Hall/CRC, 2018.
[2] Cm.: Kaplan A., Haenlein M. Sir!, Sir!, in my hand: Who's the fairest in the land? On the interpretations, illustrations, and implications of artificial intelligence //URL: https://www.sciencedirect.com/science/article/pii/S0007681318301393 (дата обращения: 24.04.2019).
[3] См.: Russell S. J.; Norvig P. Artificial Intelligence: A Modern Approach. Upper Saddle River, New Jersey, 2009.
[4] Cm.: Nilsson N. Artificial Intelligence: A New Synthesis. Morgan Kaufmann, 1998.
[5] См.: KaulartzM. Von der Blockchain zum Smart Contract// Frankfurter AllgemeineZeitung. 16. Marz. 2016. S. 16.
[6] Kaulartz M., Heckmann J. Smart Contracts — Anwendungen der Blockchain-Technologie 11 Computer und Recht. 2016. Vol. 32, Iss. 9. DOI: 10.9785/cr-2016-0923.
[7] Chapter 9: Building a Secure Future, One blockchain at a time, US Senate Joint Economic Committee, March 2018 // URL: https://www.jec.senate.gov/public/_cache/files/aaac3a69-e9fb-45b6-be9f-blfd96dd738b/chapter-9-building-a-secure-future-one-blockchain-at-a-time.pdf (дата обращения: 24.04.2019).
[8] Legal Tech Market Map: 50 Startups Disrupting // URL: https://www.cbinsights.com/research/legal-tech- market-map-company-list (дата обращения: 24.04.2019).
[9] См.: Goodman В., Harder J. Four areas of legal ripe for disruption by smart startups 11 ABA Journal. 2014. № 12. URL: https://www.lawtechnologytoday.org/2014/12/smart-startups (дата обращения: 24.04.2019); Keppenne R. Legal Tech and other smart contracts: what future for legal automation? 11 ParisTech Review. 2016. 23 May ; Reisenwitz C. 5 legal tech entrepreneurs to watch // Capterra. 2016. 3 Feb. ; Henry P. and Hofstrossler P. L'avenir de la profession d'avocats. Report, 25 feb. 2018.
[10] URL: https://www.doctrine.fr (дата обращения: 24.04.2019).
[11] Predicting justice — англ., Vorhergesagte Gerechtigkeit — нем., justicia predictiva — исп., la justice predictive — фр.
[12] См., например: Predicting justice: what if algorithms entered the courthouse? //URL: http://theconversation.com/predicting-justice-what-if-algorithms-entered-the-courthouse-91692 (дата обращения: 24.04.2019).
[13] URL: https://www.washingtonpost.com/local/public-safety/police-are-using-software-to-predict-crime-is- it-a-holy-grail-or-biased-against-minorities/2016/ll/17/525a6649-0472-440a-aael-b283aa8e5de8_story.html?noredirect=on&utm_term=.85b2861fa4ff (дата обращения: 24.04.2019).
[14] Loomis v. Wisconsin //URL: https://www.scotusblog.com/case-files/cases/loomis-v-wisconsin (дата обращения: 24.04.2019).
[15] URL: https://www.supremecourt.gov/docketfiles/16-6387.htm (дата обращения: 24.04.2019).
[16] URL: http://doryreiling.blogspot.com (дата обращения: 24.04.2019).
[17] URL: https://www.coe.int/en/web/cepej/justice-of-the-future-predictive-justice-and-artificial-intelligence (дата обращения: 24.04.2019).
[18] Opinion of the European Economic and Social Committee. 08/31/2017 // URL: https://www.eesc.europa.eu/en/our-work/opinions-information-reports/opinions/artificial-intelligence (дата обращения: 24.04.2019).
[19] Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the Regions on Artificial Intelligence for Europe // URL: https://ec.europa.eu/digital-single-market/en/artificial-intelligence (дата обращения: 24.04.2019).
[20] Queudot M., Meurs M.-J. Artificial Intelligence and Predictive Justice: Limitations and Perspectives 11 Recent Trends and Future Technology in Applied Intelligence, 2018. P. 889.
[21] URE: https://www.hiil.org/news/rechtwijzer-at-the-crystal-scales-of-justice-prize-ceremony (дата обращения: 24.04.2019).
[22] URL https://www.houseofrepresentatives.nl (дата обращения: 24.04.2019).
[23] URL https://www.maitredata.com (дата обращения: 24.04.2019).
[24] Loi п° 2016-1321 du 7 octobre 2016 fondant la Republique numerique // URL https://www.legifrance.gouv.fr/affichTexte.do?cidTexte=JORFTEXT000033202746&categorieUen=id (дата обращения: 24.04.2019).
[25] Code de ^organisation judiciaire // URL https://www.legifrance.gouv.fr/affichCode.do?cidTexte=EEGITEXTOO0006071164&dateTexte=20080604 (дата обращения: 24.04.2019).
[26] Code des relationsentre le publicet Fadministration //URL https://www.legifrance.gouv.fr/affichCode.do7cidTexte=EEGITEXT000031366350 (дата обращения: 24.04.2019).
[27] URL https://boutique.efl.fr/documentation/par-gamme/jurisprudence-chiffree.html (дата обращения: 24.04.2019).
[28] URL: https://boutique.efl.fr/documentation/par-gamme/jurisprudence-chiffree/jurisprudence-chiffree-baux- commerciaux.html (дата обращения: 24.04.2019).
[29] URL: https://boutique.efl.fr/documentation/par-gamme/jurisprudence-chiffree/jurisprudence-chiffree-droit- de-la-famille.html (дата обращения: 24.04.2019).
[30] URL: https://wolterskluwer.com/company/newsroom/news/2018/01/predictive-justice-human-vs.-artificial- intelligence-challenge-organized-at-the-legaltech-village-in-paris.html (дата обращения: 24.04.2019).
[31] Predictive Justice — IA and the legal sector Colloquium organized by the Vlaamse Ba lie Brussels, Oct. 17. 2018 // URL: http://www.legaltechcongres2018.be/wp-content/uploads/2018/10/C-Y-Poullet-Predictive- Justice—lA-and-the—legal-sector.pdf (дата обращения: 24.04.2019).
[32] URL: https://boutique.efl.fr/documentation/par-gamme/jurisprudence-chiffree/jurisprudence-chiffree- droit-social.html (дата обращения: 24.04.2019).