На самом деле не так много вещей, которые могут иметь значение, которые компьютеры должны учитывать.

Другими словами: мир содержит бесконечное количество информации, и у нас есть конечное количество вычислительной мощности, чтобы представлять и рассуждать об этом.

Основная проблема — неполная модель мира. Люди глубоко закодированы, чтобы распознавать, когда вещи не важны и игнорируются, и мы быстро меняем нашу модель мира, чтобы адаптироваться. У компьютера нет эонов эволюции, чтобы сказать ему, что важно, ему нужно было бы закодировать тысячи особых случаев.

Например

• Подходить к домам людей и брать их еду -> незаконно
• подойти и взять конфету на Хэллоуин -> законно.
• Вломиться в чей-то дом, пока он дома -> незаконно
• Вломиться в чей-то дом, пока в нем высокая температура (он горит) и кто-то находится внутри -> законно и героически
• Раздевание ребенка против его воли -> незаконно
• Купать ребенка, когда он этого не хочет -> законно.
• Повалить человека на землю и ударить его -> незаконно
• Борьба с грабителем в вашем доме -> законно.
• Проезд и пересечение, когда стоп-сигнал загорается зеленым -> разрешено
• Игнорировать гаишника на перекрестке и подчиняться сигналу светофора -> незаконно
• Застрелить человека -> незаконно
• Стрельба по вражескому солдату во время активной службы в вооруженных силах и соблюдении правил ведения боя -> законно

Существуют тысячи условий, которые могут иметь или не иметь значения, которые трудно закодировать и которые имеют миллиарды возможных значений. Личность каждого вовлеченного лица может иметь значение, его возраст, национальность, физический размер ..., местонахождение, дата и время, какие другие события происходят, что произошло в дни, недели, годы назад, что происходило в 20 футах, 20 ярдов, 20 миль.

Даже задав простой вопрос, вы либо рискуете упустить ключевую информацию, либо вам придется потратить недели, описывая в мельчайших подробностях все, что произошло на этом континенте за последние 5 лет, и вы все равно можете что-то упустить. Вы не можете перечислить все условия, потому что их слишком много, а некоторые еще не сработали.

В ответ на комментарии В робототехнике эта проблема выбора только важных переменных называется проблемой фрейма , и ее еще предстоит решить, за исключением сильно ограниченных искусственных ситуаций.

Есть также много серых зон, где что-то является преступлением, и приведет ли это к осуждению вас в суде, если в игру вступает другое «суждение разумного человека».

Принципы первого приговора предусмотрены законом, присяжные фактически выбирают приговор. Компьютер не может знать приговор, не зная присяжных и их реакции.

Второй вывод является ключевой частью большинства испытаний. Мы никогда не знаем, что произошло: у нас просто есть доказательства, иногда очень маленькие. При принятии решения о том, было ли совершено преступление, необходимо сделать много выводов. Таким образом, при принятии решения о том, будет ли что-либо уголовно наказуемо как преступление, компьютер должен будет сделать выводы, которые присяжные сделают из различных наборов доказательств, которые могут появиться в отношении события.

Да, учитывая некоторые ограничения и помощь.

Это будет не столько искусственный интеллект или процессор естественного языка, сколько база данных отношений между сущностями. Однако некоторые оставшиеся юридические формулировки требуют человеческого интеллекта, чтобы действительно получить точный ответ.

Вы реструктурируете юридический кодекс, чтобы он основывался на отношениях. У вас может быть перечисление намерений, таких как «умышленно» или «по неосторожности». У вас может быть перечисление общественного статуса, чтобы определить, имеет ли человек официальное звание или должность, или занимает ли он руководящую должность, что сделает определенные действия незаконными для него, но законными для других. Ваша компьютерная программа будет огромной, а в ее базе данных будет невероятное количество таблиц.

При наличии достаточного количества данных все возможно.

Вы по-прежнему вынуждены делать свою программу очень простой, не оставляя места для человеческого фактора. Такие различия, как «насильственное» для сексуального насилия или «чрезмерное» для полиции, не подлежат ответственности без использования продвинутого искусственного интеллекта или человека в режиме ожидания. Это делает вашу программу неспособной считать приговор преступнику.

Остаются нюансы и интерпретации. Например, как быть с вопросами, на которые нет ответа?

Что делать, если у меня есть следующий запрос (стиль C# LINQ):

bool isLegal = Incidents.Where(i => i.Perpetrator == i.Victim).First().Select(i => i.IsLegal());

Отлично, теперь у нас есть запрос об инциденте, где преступник является жертвой. Или, что еще хуже, жертва == null верна. Нет никакой жертвы. Что делает программа?

Ваша программа будет причудливой легальной версией средства проверки симптомов клиники Мэйо . Еще одним хорошим набором данных является кодовый набор МКБ (Международная классификация болезней) ( пример здесь ). Конечно, вы можете посмотреть на них и сделать из них выводы и быстро получить определенные ответы с известными данными и взаимосвязями между конечными наборами данных, но без невероятных интеллекта, вы никогда не будете использовать его как самостоятельный инструмент, который каждый может использовать вместо зала суда.

Так что для вашей выгоды все они были бы хороши и хороши, но у вас все еще будут юристы, чтобы понять приоритет и то, как он связан (абстрактным образом) с новым инцидентом, и у вас все еще будут присяжные заседатели, чтобы интерпретировать информацию. Количество пограничных случаев слишком велико, и вам по-прежнему требуется нюанс понимания таких вещей, как намерение, преднамеренность и т. д.

А кто реально пользуется программой? Конечно, это может быть полезно для обучения студентов, но это иголка в стоге сена. В примере с кодами МКБ, знает ли не врач, как искать дефицит йода?

Это абстрактные вещи, и без специалиста в области права все равно может быть слишком сложно.

С определенной точки зрения, правовая система сама по себе является попыткой систематизировать/привести в действие мораль – это попытка как можно яснее выразить, какое поведение является аморальным, и наказать/лишить стимулов аморальное поведение способами, которые сами по себе являются моральными/этическими. Без свода законов «правильно и неправильно» определяются либо ответственным лицом в автократическом обществе, либо путем дебатов/рассуждений между некоторыми или всеми членами сообщества в обществе без четко очерченной иерархии. Мы не можем точно знать, что мотивировало первые попытки ввести в действие и записать непротиворечивый набор правил жизни, но можно интуитивно предположить несколько мотивирующих факторов:

• Обеспечение последовательного применения правил в каждом случае (само по себе то, что должно было считаться этически важным)
• Отклонение защиты «Ну, это только твое мнение, чувак»
• Разрешить всем, кто имеет право создавать правила, делегировать их другим, при этом гарантируя, что их собственные ценности будут представлены.

Интересно то, что самый ранний известный юридический кодекс, Кодекс Ур-Намму , представлял собой серию утверждений if :

1. Если человек совершает убийство, этот человек должен быть убит.
2. Если человек совершит грабеж, его убьют.
3. Если мужчина совершит похищение, его следует посадить в тюрьму и заплатить 15 шекелей серебра.
4. Если раб женится на рабыне, и эта рабыня освобождается, он не покидает дом.
5. Если раб женится на туземной (т.е. свободной) особе, то он должен передать первенца своему хозяину.

[...]

32. Если человек сдал пашню другому человеку для обработки, а тот не обрабатывал ее, превратив ее в пустырь, то он должен отмерить три кура ячменя за ику поля. (29)

Другими словами, с некоторой упрощенной точки зрения, это уже была своего рода «программа», которая должна была выполняться людьми, а не компьютерами. Проблема, которая очевидна сразу и уже описана в других ответах, заключается в том, что применение этих правил само по себе не было реализовано. Что такое убийство? Что такое грабеж? Кого вообще можно по закону сделать рабом? И так далее. Другими словами, если утверждения являются несовершенным механизмом операционализации этики; в конечном итоге вам потребуется потенциально бесконечная серия уточняющих определений и решений. Мое предложение состояло бы в том, чтобы в идеале вернуться к первоначальным принципам и создать искусственный интеллект, способный принимать моральные решения, используя структуры и методологии, более мощные, чем простые конструкции «если-то».

Другими словами, вы создадите бога — при этом совершенно Доброго бога, в отличие от одного из подверженных ошибкам, относительных богов, существующих в таких религиях, как древнегреческая. Я не настолько претенциозен, чтобы заявлять, что у меня есть определенные идеи относительно того, как это можно сделать, но я вполне уверен, что это невозможно сделать с помощью вложенных операторов if. Что может сработать:

«Моральный расчет»

Одним из достаточно приемлемых оснований для моральных рассуждений является утилитаризм. Предполагая, что все люди имеют одинаковую ценность, оптимально, чтобы наибольшее количество людей испытывало максимально возможное удовлетворение, испытывая при этом наименьший возможный дискомфорт. Расплывчато определяйте, что хорошо, а что плохо на самом фундаментальном уровне; смерть и боль — это плохо, радость (возможно, измеряемая у людей с помощью эндорфинов, серотонина и т. д.) — это хорошо и так далее. Теперь у нас есть проблема оптимизации, которую ИИ уже довольно хорошо пытается решить. Сейчас мы едва ли имеем дело с этикой, мы имеем дело с причинностью. Действие, которое заставляет другого человека умереть, или испытать боль, или лишить его «справедливой доли» удовольствия, является плохим, и его следует предотвращать/наказывать. ' «справедливую долю» удовольствия можно определить как то, что они могут испытать, не причиняя смерти, боли или чрезмерно уменьшая способность других испытывать свою справедливую долю удовольствия. Мне трудно не согласиться ни с одним из суждений, которые мой ограниченный человеческий разум может предсказать в результате решений, принятых в соответствии с такого рода «моральными расчетами». Такого рода рассуждения определяют не только то, как должны вести себя люди, но также и то, как должны вести себя ИИ и его агенты: наказание/устрашение должно принимать форму, предотвращающую правонарушение путем причинения минимального количества смертей/страданий/лишений правонарушителям, фактическим или потенциальным. . Мне трудно не согласиться ни с одним из суждений, которые мой ограниченный человеческий разум может предсказать в результате решений, принятых в соответствии с такого рода «моральными расчетами». Такого рода рассуждения определяют не только то, как должны вести себя люди, но также и то, как должны вести себя ИИ и его агенты: наказание/устрашение должно принимать форму, предотвращающую правонарушение путем причинения минимального количества смертей/страданий/лишений правонарушителям, фактическим или потенциальным. . Мне трудно не согласиться ни с одним из суждений, которые мой ограниченный человеческий разум может предсказать в результате решений, принятых в соответствии с такого рода «моральными расчетами». Такого рода рассуждения определяют не только то, как должны вести себя люди, но также и то, как должны вести себя ИИ и его агенты: наказание/устрашение должно принимать форму, предотвращающую правонарушение путем причинения минимального количества смертей/страданий/лишений правонарушителям, фактическим или потенциальным. .

Здесь есть одна загвоздка: если система подсчитывает количество смертей и измеряет боль и удовольствие, она способна принимать решения только задним числом. Это работает для «восстановления справедливости», но не обязательно помогает с точки зрения руководства людьми относительно того, как принимать моральные решения относительно того, как действовать в первую очередь. Система, конечно, могла бы давать общие рекомендации на основе собранных наблюдений за прошлыми процессами принятия решений, но лучшим (и более интересным и/или ужасающим) подходом было бы то, что она была бы способна точно имитироватьвсе возможные решения и результаты этих решений. Теперь мы действительно говорим о боге — не слишком отклоняясь от темы, учтите, что некоторые считают, что точная симуляция человеческого сознания имеет такие же моральные права, как и прирожденный биологический человек; но если наш бог ИИ хочет проверить последствия различных действий, чтобы определить, являются ли они аморальными и в какой степени, ему также потребуется симулировать жертв... Допустимо ли это в соответствии с его собственными моральными соображениями? Возможно, так оно и есть, поскольку это позволило бы ему справедливо управлять неопределенным числом реальных людей. Но супер-ИИ намного проще создать людей, чем людям, и он может создать их больше, чем может вместить физическая Земля — так что, может быть, их права, в конце концов, превосходят ваши собственные?

Совершенно ненужное расширение, приношу свои извинения Элиэзеру Юдковски и друзьям.

Откуда вы знаете, что вы уже не агент в симуляции ИИ, пытающегося определить, как должны вести себя люди?

В правилах Американской Лиги Контрактного Бриджа это особенно важно. Перефразируя по памяти, ни один игрок не может умышленно нарушать правила ACBL, даже если игрок в противном случае принял бы такое наказание . Доказанные нарушения этого правила должны строго наказываться, даже если в противном случае наказание за основное нарушение было бы относительно незначительным.

Хотя соблюдение такого правила, конечно, сложно (поскольку для этого потребуется знать намерения обвиняемого), оно, тем не менее, чрезвычайно ценно, поскольку подчеркивает важный принцип: законность или неправомерность деяния не зависит от насколько это может быть наказано. Тот, кто умышленно ведет вне очереди с целью передачи информации партнеру, мошенничает. Тот факт, что директор турнира вряд ли серьезно накажет кого-то, кто преднамеренно ведет вне очереди, но может правдоподобно утверждать, что считал, что он ведет, не делает действие законным; это просто означало бы, что игрок был безнаказанным мошенником.

Правовая система, устанавливающая вину и наказания любым шаблонным образом, независимо от того, насколько тщательно разработаны формулы, позволит тем, кто знаком с системой, получать существенную прибыль за счет мошенничества в такой степени, которая едва достигает порога, необходимого для наказание, превышающее пользу от обмана. В хорошей правовой системе должна быть определенная терпимость к честным ошибкам, но в формальной системе любая такая терпимость может быть использована мошенниками.

Вместо этого необходимо признать, что мелкие мошенники часто остаются безнаказанными, общество не несет перед ними никаких обязательств в этом отношении. К сожалению, никакие детерминированные способы поимки мошенников не будут эффективны для тех, кто может вооружиться знаниями, необходимыми для игры в системе. Что необходимо, так это иметь правовую систему, которая может выносить суждения, выходящие за пределы того, что мог бы предсказать мошенник, — за пределы того, «Есть ли доказательства уровня XX, которые человек пытался обмануть» или «Есть ли доказательства? уровень YY доказательств того, что человек пытался сохранить доказательства мошенничества ниже XX», на «Попытался ли человек обмануть и обмануть систему, чтобы это сошло с рук». И я не думаю, что шаблонная правовая система сможет этого добиться.

Хотя правовых систем, основанных на программном обеспечении/генерируемых, не существует, все же предпринимаются некоторые попытки алгоритмически обрабатывать законы. Например, проект Indect включает в себя поиск возможных преступлений в наборах данных, написанных на естественных языках. Он отличается от вашей идеи тем, что закон нужно закодировать в какой-то машиночитаемой форме (например XML или Java) и такой формат правил, даже если эквивалентен оригиналу в математическом/логическом смысле, сам по себе не является нормативным . Алгоритм просто находит случаи для дальнейшего изучения.

Если вы хотите сделать еще один шаг вперед и сделать XML-описание правил нормативным в юридическом смысле, то основным препятствием будет человеческий фактор. Вы, кажется, слишком сильно вдохновлены субкультурой github и не знаете, как непрограммисты воспринимают закон. Они могут быть против такого новшества по нескольким причинам:

• Судьи потеряют работу или, по крайней мере, авторитет/независимость, поскольку их решения можно будет объективно проверить.
• Общество будет опасаться, что они не понимают новых правил XML-кодирования. Я предполагаю, что вам придется, по крайней мере, сгенерировать нормативный текст на естественном языке из вашего кода XML/Java, чтобы избежать таких предположений.

В конце концов все равно решат судьи, а программное обеспечение поможет только в тех случаях, когда они не хотят злоупотреблять системой. Или, другими словами: закон по-прежнему остается открытым для толкования. По крайней мере, это перестало бы быть непоследовательным (что, кстати, тоже было бы огромным достижением).

С другой стороны, некоторые из проблем, уже упомянутых вами или в других ответах, вообще не будут проблемой:

• Юристы никуда не исчезнут, так как для того, чтобы задать такой компьютерный оракул, все равно потребуются некоторые знания, чтобы задать вопрос (см.: Википедия не поможет, если вы не знаете, по какому ключевому слову искать).
• Хотя такой подход позволил бы некоторую форму автоматизированного тестирования, я думаю, что не было бы «разветвленных репозиториев», «разработки через тестирование» и т. Д., Как в ИТ. Правительство состоит в основном из непрограммистов (при условии, что вы не отказываетесь от демократии), и я ожидаю, что они продолжат работать и мыслить обычным бумажным способом.
• Граждане не программисты, поэтому они не будут запускать автоматические тесты. Манифесты по-прежнему будут популистской чушью, основанной на естественном языке.
• Публичный доступ и комментарии являются элементами, существующими в современных правовых системах, это мало что изменит.

• Нечеткость/слишком много важных вещей не будет большой проблемой. Сейчас мы копируем с такими делами, привлекая народных заседателей, которые решают по своей интуиции. Нет причин избегать этого, поскольку люди будут продолжать лучше понимать, что для них морально, чем ИИ.

  Представьте себе случай развода, когда нужно решить, кто из родителей должен заботиться о детях, но оба они лгут в свою пользу, и нужно решить не только логические последствия известных фактов, но и то, каким фактам следует верить.

  Юридическая компьютерная система будет просто иметь определенные ситуации (их много…), когда требуется решение человека-оценщика.

Тем не менее, могут возникнуть и другие проблемы:

• Как вы сказали, программа может сообщить вам, если это противоречит существующему закону. Но из-за теоремы Гёделя о неполноте и проблемы остановки могут быть случаи, когда такие запросы будут неразрешимыми, и программа не сможет обнаружить неразрешимость. Он просто зависал или выдавал что-то вроде «ответ не найден в отведенное время».
• Из-за этого нам пришлось бы основывать нашу систему на некоторой паранепротиворечивой логике вместо классической. Кстати, использование паранепротиворечивой логики решило бы и проблему существующего непротиворечивого закона.

Нет

Хотя это может сработать в большинстве случаев, это не сработает для «тяжелых случаев» — вещей, которые во многом зависят от обстоятельств или когда нет прецедента — например, в большинстве случаев, связанных с законами об убийцах, или в чрезвычайных ситуациях, таких как исследователи магии. (где некоторые решения основаны на таких вещах, как то, чего хочет общественность, или есть ли ожидание помилования исполнительной властью)

Это также не гарантирует, что закон соблюдается должным образом - например, прелюбодеяние является незаконным во многих местах, но не преследуется по закону - это закон? - Времена меняются, мнения меняются - будь то алкоголь легальный/нелегальный, марихуана, ЛГБТ и т.д. - и обычно общество меняется до того, как меняется писаный закон, поэтому, если бы писаный закон соблюдался, как написано, тогда было бы много проблем.

Компьютеры также плохо считывают намерения или мотивы, что является важной частью оценки многих законов, таких как ответ суперкота — рассмотрим антимонопольные законы, в которых крупная корпорация может быть готова принять штраф за пощечину. в то же время получая огромную прибыль - или крупные компании Фара судятся друг с другом, чтобы продолжать оставаться единственным источником препарата X, и, таким образом, получить судебный запрет, запрещающий кому-либо продавать X, даже если их патент иссяк из-за фиктивных опасений по поводу качества или других проблем - они продолжают получать тонны долларов при относительно небольших затратах на юристов по сравнению с ними. Или что случилось с lavabit, когда он технически выполнил запрос суда о передаче своих SSL-ключей, и они сделали это, напечатав его крошечным шрифтом.

Да, это могло

У нас уже есть юридическое программное обеспечение , способное давать юридические консультации.

Но это не позволит вам автоматически провести суд

Суть судов в защите прав , а не в механическом навязывании закона. Закон здесь является инструментом, а не целью. В наши дни людей осуждают за ущемление чьих-то прав, а не просто за «нарушение правил» (как это было в средневековье). Любая современная законодательная система более сложна, чем просто набор правил, что разрешено, а что нет (например, судебная система ).

Некоторые из ваших предложений уже реализованы

Вы можете спросить его, является ли действие при определенных условиях и с участием определенных лиц законным или незаконным, и каков приговор. Нужны ли нам по-прежнему юристы, чтобы консультировать нас?

Как я уже говорил, такие программы уже есть. Но в силу субъективного характера законодательства это работает не так хорошо, как, скажем, математические программы. Нам по-прежнему нужны юристы, потому что юрист – это не ходячий словарь (как и любой специалист). У нас есть MathLab, но математики по-прежнему нужны больше, чем раньше.

Предлагая новый закон, программа может сообщить вам, противоречит ли он существующему закону или ситуация уже регулируется существующим законом.

Возможные конфликты на самом деле меньшее зло. Возможные эксплуатации более опасны. Чтобы обоснованно предложить новый закон, нужно предсказать его поведение в реальной среде, чем и занимаются специалисты.

Код может быть общедоступным для всех, кто может изучить и протестировать сценарии и потенциальные новые законы.

Как правило, большинство законодательных формулировок уже доступны. У них нет кодекса для этого.

Комментарии могут быть добавлены, чтобы объяснить цель некоторых законов

Это уже реализовано. Опять же, вам не нужна компьютерная программа для добавления комментариев.

Новые законы (либо в парламенте, либо в партии, определяющей их собственную политику) могут быть созданы в виде запросов на вытягивание. С ними смогут ознакомиться депутаты, журналисты и граждане.

Я полагаю, вы говорите о демократии или меритократии (технократии). Проверьте афинскую демократию или как принимаются законы в США .

Закон был бы намного менее открытым для толкования

Открытость на самом деле является «фичей, а не ошибкой». Гуглите "справедливость закона".

Да, этот вопрос старый, но сегодня некоторые счетчики снова меня рассердили.

Большую часть можно автоматизировать.

Сначала я приведу несколько примеров кодекса в виде Java MVC, а в конце я опубликую комментарии о распространенных заблуждениях, которые, по-видимому, есть у не-разработчиков.

Я предполагаю, что это будет своего рода REST-подобный сервис, на который различные агентства и юридические фирмы могут накладывать свои собственные пользовательские интерфейсы.

Работа политиков, вероятно, закончится написанием тестовых случаев. Таким образом, они могут показать (или доказать) своим избирателям результаты своих предложений напрямую, без необходимости слишком много знать о разработке программного обеспечения.

Налоговый кодекс

в Налоговом кодексе

@Autowired
Residents residents

@Autowired
Post post

@Scheduled(yearly)
private void income(){
  for(Resident resident : residents){
    var income = resident.getLast12MonthsIncomeStatements().sum();
    var deductions = resident.getLast12MonthsDeductibles().sum();

    var taxable = income - deductions

    double rate = 
      (taxable < 10000) ? 0.20 :
      (taxable < 20000) ? 0.30 :
      (taxable < 50000) ? 0.40 :
      0.50

    post.dispatch(resident, createBill("your tax office needs", rate*income))
  }
}

in Resident (расширяет лицо)

public void addDeductible(String deductibleType, Currency expended, String comment){
  switch(deductibleType){
   ...
   default: throw new IllegalDeductibleType(deductibleType);
  }
}

Иммиграция

in Посетитель (расширяет Person)

@Autowired
Executables executables;

@Autowired
Police police;

public Visitor(PersonDetails personDetails, String visa){
  super(personDetails);
  Date expires;
  switch(visa){
    ...
    default: expires = new Date();
  }
  executables.add(expires, ()->{police.deport(this);})
}

Преступление

в Преступление.Жертва.Убийство

public class Murder extends Deceased implements Victim{

  final static Sentence sentence = Sentences.murder;

  @Autowired
  Police police;

  @Secured("JUDGE")
  public Murder(Person victim){
    ...   
  }

  @Secured("JUDGE")
  public void addPerpetrator(Person person){
    assert(person != victim);
    person.addCrime(this);
    police.arrest(person);
  }

  @Secured("JUDGE")
  public void clearPerpetrator(Person person){
    person.clearCrime(this);
    police.refresh(person);
  }
}

в Crime.Sentences

public static final Sentence murder = Sentence
    .builder()
      .addYears(25)
      .addCommunityServiceYears(25)
      .addFine(250000.00)
    .build();

public static final Sentence jayWalking = Sentence
    .builder()
      .addCommunityServiceDays(1)
    .or()
      .addFine(150.00)
    .build();

Бюрократия

в Agency.Faa.PilotLicense

public class PilotLicense extends License{

  boolean active;
  String comments;  

  @Autowired
  PilotDatabase pilotDatabase;

  //anyone can do this
  public PilotLicense(MachineReadableDocument pilotExam){

    assert(pilotExam.type == "Pilot Exam")
    assert(pilotExam.grade > 0.9)

    super(pilotExam); //authenticates the exam

    active = true;
  }

  @Secured("JUDGE")
  public void suspend(){
    active = false;
  }
}

в агентстве.IRS

public class IRS{

  @Autowired
  Residents residents

  @Secured("AGENT_IRS")
  Person getNewCase(){
    return residents.getRandom();  
  }
}

лично

@Secured("PRESIDENT")
public void pardon(){
  this.crimes = null;
}

Комментарии для неспециалистов

• Конфликты : Конфликтов в праве не бывает. Если возникнут, закон не будет составлен.

• Неоднозначность : двусмысленности нет. Надлежащая кодификация закона заставит политиков лезть в огонь и ожидать от них точного указания того, чего они хотят . Если возникает двусмысленность, закон не будет составлен. Обратите внимание, что можно создать двусмысленный интерфейс (например, вы создаете Убийство и Умышленное непредумышленное убийство, и люди не уверены, в чем разница), но такие ситуации не должны создаваться в первую очередь. Если судьи и присяжные путаются в том, какое преступление применить, политики не выполнили свою работу должным образом и должны быть обвинены в запутывании.

• Прецедентное право : Прецедентное право не должно существовать. Судьи и присяжные не должны принимать законы. могут произойти следующие вещи:

  • вариант использования (например, преступление) не реализован: в этом случае законодательная власть должна решить, что делать.
  • люди недовольны приговором, который получает преступник: в этом случае законодательная власть должна пересмотреть их тестовые случаи.
  • в коде есть ошибка/техническая ошибка: ну, очевидно, результат игнорируется до тех пор, пока он не будет исправлен.

• Роль судов : суды, судьи, присяжные и т. д. существуют только для перевода физического мира в цифровой мир: они классифицируют преступления. Приговор определяется системой.

• Безопасность : единственное, что должно быть защищено, — это репозиторий состояний (база данных людей или модель). Необходимо управлять доступом, вести журналы и делать регулярные резервные копии. Функции, которые могут выполняться определенными ролями, помечаются как таковые (например, @Secured("JUDGE")), все остальное может и должно быть общедоступным.

• Особые случаи : относительно поста @sdrawkcabdear: если никто не сообщает о преступлении, оно могло бы и не произойти. и если кто-то что-то украл, судья регистрирует преступление с виновным и стоимостью. Кража со взломом – это, по крайней мере, проникновение во владение и кража/присвоение. На Хэллоуин вы не нарушаете границы, если вас пригласили, и вы не воруете, если кто-то дарит вам конфеты. Я не понимаю, как этот пост получил такой высокий рейтинг, поскольку он не имеет для меня особого смысла. В любом случае, это все судебные вопросы, а не законодательные.

• Искусственный интеллект : это не имеет ничего общего с искусственным интеллектом.

Заключительные замечания

это должно произойти как можно скорее. с ~ 15% рабочей силы, посвященной правительству , на него приходится, вероятно, не менее 30% государственных расходов.

учитывая, что полицейских (руководителей) обычно всего ~ 0,3% , это заставляет задуматься, для чего на самом деле нужны все эти люди.

Да я соленый. Соленее, чем пруд Дон Жуан.

Учитывая какие предположения?

Если вы собираетесь постулировать искусственный интеллект, который может делать все то же, что и человек, то, по-видимому, по определению ответ — да. Итак, я собираюсь предположить, что вы имеете в виду современные технологии или что-то достаточно близкое к ним.

Следующий вопрос: В каком смысле?

В простейшем смысле, безусловно, можно было бы хранить закон на компьютере и сделать его легко доступным для поиска, иметь перекрестные ссылки между связанными законами и т. д. Я действительно удивлен, что в этом отношении не было сделано больше. Технология существует для хранения текста закона на компьютере в формате HTML, создания множества ссылок, обеспечения текстового поиска и т. д.

Первое, что становится трудным, это когда вы говорите что-то вроде «компьютер сообщит вам, когда предлагаемый новый закон противоречит существующему закону».

Некоторые случаи будут легкими. Если кто-то предложит закон, гласящий: «Ограничение скорости на автомагистралях между штатами должно составлять 85 миль в час», я мог бы представить, что компьютер сможет найти существующий закон, который гласит: «Ограничение скорости на автомагистралях между штатами должно быть 80 миль в час». миль в час".

Но что произойдет, если вы скажете одно и то же разными словами? Например, что, если кто-то предложит новый закон, гласящий: «Никому не разрешается водить машину со скоростью более 85 миль в час по дорогам, составляющим систему автомагистралей между штатами». Теперь компьютер должен выяснить, что «межгосударственные автомагистрали» и «система автомагистралей между штатами» — это одно и то же. Это может показаться очевидным, но тот факт, что две фразы имеют общие слова, не делает их одним и тем же. Как же быть, если это одно и то же, но, например, «морская пехота» и «торговый флот» очень разные? Откуда ему знать, что «ограничение скорости» относится к максимальной скорости, с которой вы можете вести «автомобиль», а не, скажем, лодку или нефть по трубопроводу? Откуда ему знать, что "скорость" здесь означает "скорость" а в другом законе говорится о наркотике, который действует как стимулятор? И т.п.

Что происходит, когда закон, введенный в компьютер, неоднозначен? Как и в моем примере выше, распространяется ли это ограничение скорости на грузовики и мотоциклы?

Многие законы очень субъективны. Например, чтобы успешно подать в суд на кого-то за халатность, вы должны показать, что он не принял мер предосторожности, которые принял бы «достаточно благоразумный человек». Кто может сказать, что сделал бы «достаточно благоразумный человек»? Там полно субъективных оценок.

Точно так же я несколько активен на форуме для писателей, и регулярно возникает вопрос: Закон об авторском праве гласит, что я могу копировать короткие цитаты из работы другого человека без разрешения. Что такое «короткий»? Могу ли я скопировать 50 слов? 100? 1000? Жесткого номера нет. Далее в законе говорится, что при принятии решения о том, является ли такое копирование «добросовестным использованием», суд должен учитывать следующие факторы: было ли оно скопировано в образовательных или исследовательских целях, а не в коммерческих, характер работы и т. д. Что делает что-то «образовательным»? А "характер работы"? И т.п.

Законы делают это очень сознательно, потому что идет постоянная борьба между буквой закона и духом закона. Кто-то еще упомянул, что закон запрещает вламываться в чужой дом, но никто не будет преследовать вас, если вы это сделали, потому что дом горел, и люди кричали о помощи. Брать чужое имущество без его разрешения - противозаконно. Но если маньяк держит людей в заложниках, и в момент неосторожности он опускает пистолет и смотрит в другую сторону, а один из заложников выхватывает пистолет, я очень сомневаюсь, что заложник будет привлечен к ответственности за кражу. И т.п.

Возможно, вам не нужно было бы просто вводить текст на английском языке в систему, а нужно было бы описывать законы, используя тщательно определенный язык, который устраняет многие из этих сложностей и двусмысленностей, язык, предназначенный для описания законов таким образом, чтобы компьютер мог их обрабатывать и анализировать. Но возможно ли создать такой язык? Говорить: «Да, компьютер может решить эту проблему. Нам просто нужно изобрести язык, чтобы описать проблему таким образом, чтобы ее мог решить компьютер», — значит говорить кругами. Типа: «Да, я могу доказать, что можно построить космический корабль, летящий со скоростью, превышающей скорость света. Вы просто должны согласиться с одним крошечным предположением, что кто-то другой предоставит мне чертежи двигателя со скоростью, превышающей скорость света. "

Итак, в заключение: я вполне уверен, что это можно сделать ограниченным образом. Но чтобы выполнить все условия, которые вы описываете? Для этого потребуются достижения в области ИИ, намного превосходящие то, что было достигнуто кем-либо на сегодняшний день.

Я думаю, это захватывающая идея. Но легко неправильно понять концепцию. У меня тоже была эта идея в голове какое-то время. Я думаю об этом как о простой замене представления закона на человеческом языке (например, на английском) представлением на компьютерном языке. То есть фактический смысл останется прежним. Просто язык изменился. Теоретически компьютерные языки — наша лучшая попытка представить сложную логику, так что, возможно, это имеет смысл.

Интересно подумать о том, как это можно применить к финансовому праву (например, к инвестиционному или налоговому законодательству). Возможно, это может привести к своего рода войне вооружений. Если бы финансовое право было полностью выражено компьютерным языком, было бы легко применить методы типа теории игр, чтобы найти практики, которые приносят наибольшую отдачу.

Мы уже видели, как вычислительная мощность компьютеров влияет на фондовый рынок посредством алгоритмической торговли. Благодаря более мощному оборудованию и улучшенным алгоритмам вы можете совершать более быстрые сделки и получать конкурентное преимущество.

Но мы могли бы вывести это на новый уровень с помощью алгоритма, который найдет лучший способ минимизировать налоги. Или они могли бы найти лучший способ реструктуризации компании, чтобы избежать регулирования.

Возможно, это означало бы, что лазейки в законе мгновенно станут очевидными и доступными для всех. Например, в прошлом существовали лазейки в законодательстве, которые позволяли организациям вести себя как банки, даже если они не регулировались как банки.

Но влияние этой проблемы было сведено к минимуму тем фактом, что было трудно понять, что это так... Но с вычислительным законом такие вещи могли стать очевидными.

Как на это могли отреагировать депутаты? В некоторых случаях можно также мгновенно закрыть лазейки. Но иногда лазейки нелегко закрыть, даже если мы знаем, что они существуют. В этих случаях мы потеряли бы «туман войны», который приходит с эзотерической природой закона.

Итак, это наша гонка вооружений: гонка поиска лазеек против их закрытия.

То же самое можно было бы применить и к нефинансовому праву, также… Я помню, после дела Джорджа Циммермана некоторые эксперты в СМИ беспокоились, что приговор фактически легализовал убийство при определенных обстоятельствах.

В мире вычислительного права эти «определенные обстоятельства» будут понятны более четко. В результате ими также можно было легче воспользоваться.

Возможно, все это могло привести к постоянно меняющейся системе законов (как большая база кода с открытым исходным кодом или как Википедия).

Если персонаж хотел сделать что-то на грани между законным и незаконным; было бы интересно, если бы он мог запустить поиск, который просматривал недавние судебные приговоры и ждал того короткого периода времени, в течение которого его деятельность была (технически, вычислительно) законной.

Также может быть интересно подумать об организациях, создающих языки программирования (таких как рабочая группа C++), как о прототипах будущих законодательных органов.

Как выглядит ввод?

Если вы уже занимаетесь «интерпретацией» преступления, а входными данными является что-то вроде «насильственное проникновение, 20-летняя давность», то это становится относительно простым поиском, таким как эта проверка симптомов . Это зависит от правильной формулировки ввода и соответствующей записи. Законы уже сформулированы с критериями, которые должны быть выполнены, исключениями, приоритетом и так далее.

Если вы хотите представить компьютеру словесную историю, то он должен интерпретировать человеческий язык со всеми его подразумеваемыми значениями, неполнотой и неопределенностью. В этом случае вам понадобится ИИ, который склонен к тем же недоразумениям, что и человек (хотя, по крайней мере, вы можете запрограммировать его так, чтобы он был беспристрастным и лишенным эмоций). Автоматический поиск соответствующего закона после толкования дела — самая простая часть проблемы.

Если говорить об этом с технической (а не с юридической) стороны, у вас будут огромные проблемы с безопасностью. Что касается компьютеров, единственный защищенный компьютер — это тот, к которому никто не может получить доступ и который не имеет питания. Если компьютер к чему -либо подключен (а если вы разрешаете к нему доступ, то он есть), то его можно взломать. Это означает, что люди попытаются взломать систему, чтобы изменить законы, которые им не нравятся, или (если компьютер также выступает в роли присяжных) добиться исполнения конкретного вердикта или назначения наказания. У вас также будут люди, пытающиеся обрушить систему в целом либо в качестве шутки, либо в качестве атаки.

У вас также будут проблемы с тем, как вы представляете дела компьютеру. Скорее всего, это должен быть очень отформатированный ввод, чтобы компьютер его понял. В зависимости от программирования вы можете получить несколько ответов на один и тот же вопрос, введя его по-разному. В таком виде юристы снова станут очень ценными. Вместо того, чтобы учиться представлять дело судьям и присяжным, юристы будут обучаться тому, как вводить факты в компьютер таким образом, чтобы повлиять на результат.

Основные преимущества

Полностью кодифицированная (смею сказать «исполняемая») правовая система хорошо поддается симуляции. Вместо идеологических дебатов о том, что должен говорить закон, можно запустить моделирование, чтобы увидеть, что произойдет, если будет применена данная версия закона.

Поскольку закон — это код, многие программные средства кодирования могут быть модифицированы для работы с юридическим кодом. Статический анализ, делинтеры и множество других инструментов можно использовать для устранения или минимизации синтаксических и семантических ошибок в коде.

Нетрудно представить своего рода Legal Github, где вся легальная база кода представляет собой репозиторий git, который любой может использовать для разветвления, изменения и/или отправки запросов на включение. Кто-то все равно будет принимать патчи и интегрировать их в кодовую базу, как Legal Linus .

Основные недостатки

Во-первых, это тяжело. Концептуально да, программа или набор программ могут кодировать закон, но, учитывая почти бесконечную степень вариации обстоятельств в сочетании с двусмысленностью естественного языка, это действительно сложная проблема. Затраты на разработку, связанные с кодификацией и управлением кодом, могут оказаться значительными. И не забывайте, что большинство крупных программных проектов отменяются из-за функциональных проблем и значительных задержек . Замена национальной правовой системы в одночасье почти наверняка потерпит неудачу.

Взгляните на отношение решения . Это юридическое понятие, означающее «момент в деле, который определяет решение» или «принцип, который устанавливает дело». Ваш закодированный закон должен быть в состоянии определить и обосновать отношение решения. Это невозможно для многих людей и трудно для тех, кто может.

Кодифицированную правовую систему может быть так же легко или даже легче использовать, чем существующие правовые системы. Извлечение лазеек, несоответствий или нерегулируемых областей будет намного проще благодаря мощности распределенных вычислений.

Кодирование правовой системы

Как показывает Дэвид Фридман в книге «Правовая система, очень отличающаяся от нашей» , существует множество различных способов построения правовой системы и различных способов описания и применения наказаний к правонарушителям. Тот, кто пишет код, должен либо использовать существующую правовую систему с некоторыми изменениями, либо выполнить «копирование и замену». (Обратите внимание, что разрыв и замена правовых систем невероятно редки и чудовищно дороги. Гораздо более вероятна органическая эволюция.)

Включение прецедентного права

Большинство правовых систем состоят из двух сводов законов; сам закон и комментарий к нему. В правовых системах, происходящих от Англии, эта двойственность правового кодекса проявляется как Закон и история прецедентов. Как правило, прецедентное право подтверждает то, что утверждает закон (насколько это можно определить из закона), но бывают случаи, когда они не только расходятся, но и противоречат друг другу. Спроектировать систему для обработки таких несоответствий будет сложно... Что ж, их обнаружение не должно быть слишком сложным. Рассуждать о них тяжело.

Какой была бы страна?

Законотворчество - по-прежнему делается политиками. Однако вместо того, чтобы юристы становились политиками, в этом случае законодателями стали бы разработчики программного обеспечения и технологи. Они лучше понимают код. Указатель того, на что может быть похоже правление технологов, можно найти в Китае, где многие из их высших руководителей являются инженерами.

Исполнение закона - Без изменений. Для обеспечения соблюдения закона по-прежнему требуются полиция, прокуратура, судьи и пенитенциарная система (в какой бы форме она ни была: лишение свободы, транспортировка, каторга). Способы обеспечения соблюдения закона могут измениться, но инструменты, необходимые для обеспечения соблюдения, останутся прежними.

Степень несправедливости - Трудно сказать. Это будет сильно зависеть от культуры жителей этой страны и качества юридического кодирования. Я могу представить себе случаи радикальных улучшений и радикальную эксплуатацию непривилегированных (что ничем не отличается от сегодняшнего дня).

Это сработало бы очень хорошо, если бы у вас был набор правил, подобных Десяти Заповедям (за исключением того, что у вас, вероятно, было бы больше законов, чем 10). В этом случае компьютер мог легко определить, был ли нарушен закон, и применить наказание.

Когда вы добавляете нюансы, такие как несколько разных приговоров, которые могут быть применены за одно преступление, например, украденная сумма приводит к другому приговору, это становится более сложным, но все же довольно простым, поскольку все еще есть установленные приговоры, которые можно выработать.

Где система ломается, если у вас есть дело об убийстве против непредумышленного убийства. Компьютеру будет сложно рассчитать намерения и человеческие эмоции/провокацию, и, вероятно, он будет медленнее и менее точен, чем присяжные. Так что вам все равно потребуются эксперты, чтобы разобраться в этих случаях на основе человеческих эмоций.

Есть много хороших ответов, но я хочу добавить несколько моментов.

Объединить конфликты

Концепция репозиториев, веток и коммитов приводит к конфликтам слияния. Пока обсуждалось изменение к действующему закону, было проголосовано другое изменение, которое прямо или косвенно затрагивает обсуждаемое предложение.

Автоматизированное тестирование

Вам нужно будет указать случаи для набора тестов. Кто так делает? Если фиксация нарушает тест, означает ли это, что слияние отклонено, или это означает, что тест устарел? Являются ли автоматические тесты частью «исходного кода», за который необходимо проголосовать?

• Представьте, что у вас есть тестовый пример, в котором говорится, что «главный преступник X (см. библиотеку тестовых приспособлений) наказывается более сурово за преступление Y (см. библиотеку), чем сообщник Z (см. библиотеку)», а новый закон гласит: «удвойте наказание за преступление Y (см. библиотеку)». рецидивисты». Тестовый случай провален, но в этом и заключалась цель нового закона.
• Есть пословица, что тяжелые (т.е. конкретные) дела делают плохие законы . В этом смысле тест-кейсы — это сложные случаи.

Судебный прецедент

Законы невозможно понять, не зная, как их интерпретируют судьи. Это может меняться не так, как сами законы.

Пространство имен

Кто называет ветки? Можете ли вы по-прежнему проводить кампанию за действие « Любой, кто голосует против этого, это не патриот », или это станет запросом № 670272578 ? Или это был #670272587 ?

Создайте жюри из ИИ.

Возьмите 12 величайших программистов на планете, и пусть каждый из них напишет свой собственный ИИ в соответствии с другими ответами. Чтобы осудить кого-либо за преступление, определенный процент ИИ должен согласиться с осуждением. Это помогло бы справиться с крайними случаями, поскольку более чем одна программа должна была бы вернуть обвинительный приговор.