Андрей Довбенко

Недавно весь мир облетела новость о том, что робот София получила подданство Саудовской Аравии. Гражданство предполагает определенный юридический статус, и мне стало интересно разобраться в деталях, сможет ли робот в обозримом будущем голосовать, иметь права и обязанности, быть таким же субъектом права, как физическое или юридическое лицо.

Сначала стоит разобраться с самим понятием искусственный интеллект. При этой фразе у многих перед глазами появляются картинки из сериала «Вестворлд» или подобной околонаучной фантастики, где сверхумные машины побеждают людей. Надо сказать, что до такого этапа современным технологиям еще очень далеко, и сегодняшний искусственный интеллект — это сразу несколько направлений разработок, которые включают разные виды машинного обучения и алгоритмов. И робот София не самый совершенный проект в этой области, хотя она способна поддержать разговор и даже шутить.

Тем не менее искусственный интеллект уже давно вошел в жизнь современного человека: в некоторых украинских новостроях уже при сдаче дома встроена система «умный дом», интерактивные карты вычисляют оптимальный маршрут в зависимости от ситуации на дорогах, а мы не можем успешно пройти тест «Отличите ли вы картины импрессионистов от творений нейросети?» Развитие технологий порождает новые взаимодействия, которые требуют в том числе правовой оценки.

Технология, которую очевидно нужно регулировать — самоуправляемые машины. Сейчас их активно тестируют на дорогах нескольких американских штатов. Вполне реально, что к 2020 году они уже поступят в массовую продажу. Разработчики работают над тем, чтобы машина без водителя не ехала на красный свет, не сбивала людей и не нарушала другие правила дорожного движения. Допустим, до какой-то степени это удастся. Но что делать, если нарушение все-таки произойдет: кого привлекать к ответственности — компанию-производителя, разработчиков или оператора машины? Американские регуляторы пришли к тому, что в салоне самоуправляемой машины при движении обязан находится оператор, и именно он и будет привлекаться к ответственности в случае нарушения. Причем вне зависимости от того, был он в этот момент за рулем или автомобиль передвигался самостоятельно. В украинском законодательстве пока никак не отрегулировано движение самоуправляемых машин. Ну не привыкли мы смотреть на шаг вперёд, всё с наследием прошлого разбираемся.

Еще один важный момент, который касается угрозы жизни и здоровью человека — сбор информации и ее конфиденциальность. Любой искусственный интеллект, чтобы обучаться, должен собирать огромные массивы данных: роботы-пылесосы создают карту вашего дома, смарт-помощники знают о ваших планах и передвижениях, «умные дома» имеют доступ к вашим запароленным сетям, замкам и электричеству. А насколько эти данные защищены? Где гарантия, что они не попадут в руки злоумышленников? И что делать, если все-таки попадут? К сожалению, ответов на эти вопросы либо нет, либо они вас не порадуют. Да и сами люди, пользуясь тем или иным «умным» сервисом, мало интересуются, что там под капотом. Они смело принимают лицензионное соглашение и условия конфиденциальности, даже не читая. Ладно, просто люди, — так поступают целые компании, от мелких до довольно крупных. Сегодня в штате серьезного предприятия обязательно должен работать хотя бы один специалист по кибербезопасности.

Немало примеров уязвимости интернета вещей, на котором преимущественно основаны «умные» дома. Самый невинный — когда на голосовую команду из телерекламы отреагировали тысячи устройств Google Home в США, начав искать в интернете информацию о рекламируемом бургере. Самый опасный — эксперимент журналиста The Wired, когда злоумышленникам удалось удаленно получить контроль над управлением джипа, который ехал по трассе на скорости 110 км/ч. Понятно, что к ответственности тут надо привлекать преступников-хакеров, но было бы неплохо также регулировать требования к безопасности новых технологий, поступающих в массовое использование.

Как видим, в сфере искусственного интеллекта еще много нерешенных юридических вопросов, которые указывают, что считать роботов типа Софии субъектами права еще рано. Однако можно смело предположить, что стремительное развитие технологий способно изменить ситуацию довольно скоро. И было бы неплохо встретить эти перемены подготовленными.

Пока чернокожие остаются постоянными жертвами неумолимого белого расизма, полиция не должна их преследовать, суды присяжных не должны выносить им приговоры, судьи не должны определять им меру наказания, школы не должны их наказывать, а белые жертвы не должны жаловаться на преступность и насилие чернокожих, которые перехлестывают через край. Именно так сегодня все чаще говорят законодатели, ученые и, конечно, репортеры, видя в этом рецепт «совершенствования нашей системы правосудия». Очередные сентенции такого рода прозвучали несколько дней тому назад из уст бывшего федерального прокурора, а ныне профессора права из Джорджтаунского университета Пола Батлера (Paul Butler), который все разложил по полочкам для расово непросвещенных: Карта в полном размере: США — расселение афроамериканцев. Негритянский вопрос в США в статьях: Почему деградируют афроамериканцы? Почему негры в Америке плохо учатся? Распад семьи у негров США «Если вы придете в суд округа Колумбия, у вас возникнет впечатление, что белые не совершают преступления, — сказал Батлер. — Белые не употребляют наркотики, не дерутся и не воруют, потому что в суде можно увидеть только афроамериканцев». Прежде чем вы поспешите отправить своих детей на учебу к Батлеру в Джорджтаун (или если вы не верите, что существуют столь неправдоподобные в своей нелепости высказывания), вам следует послушать разглагольствования этого заслуженного профессора на видео Racial Jury Nullification at Georgetown Law (Джорджтаунский факультет права об отмене приговоров расовыми жюри присяжных). Батлер никогда не увидит в столичном суде тех афроамериканцев, которые в вашингтонском метро превратили в кровавое месиво белого мужа одной из руководительниц Национального общественного радио (NPR). Я писал об этом на страницах American Thinker, а вот NPR не обмолвилось об этом ни словом. Не найдет там Батлер и тех чернокожих, которые напали на продюсера NPR из Кентукки, приехавшего в столицу по делам. Вы можете найти подробности об этом случае в бестселлере Don’t Make the Black Kids Angry (Не злите чернокожую молодежь). Но не в программах NPR. Да, профессор, преступность чернокожих в Вашингтоне перехлестывает через край точно так же, как и в остальных американских городах. И даже больше. Батлер говорит, что в Америке есть две судебные системы: одна для белых, а другая для черных. Он предлагает устранить эту несправедливость, предоставив расовым жюри присяжных право вето на выносимые судебные решения, и тем самым дать новые права черной преступности. «Я призываю всех присяжных заседателей отказываться от вынесения приговора, если они считают, что полиция или обвинение в том или ином деле пересекли красную черту», — заявляет профессор. В обоснование своих заявлений Батлер приводит информацию Национального института здравоохранения, который отмечает, что чернокожие и белые употребляют наркотики в одинаковых количествах, однако черных арестовывают и осуждают во много раз чаще, чем белых наркоманов. Что и требовалось доказать. Расизм в судах бесчинствует, а если вы этого не видите, значит, вы тоже из этого лагеря. В полном размере: США — безработица 2013 Подробнее в статьях: Безработица в США 2013 и Безработица в США 2014 Это величайшая ложь современности, и вот почему. Национальный институт здравоохранения и все прочие, кто повторяет это ложное утверждение, используют информацию, собранную Бюро переписи. Иногда вместо заполнения опросных листов Бюро переписи ходит по домам и задает жильцам некоторые вопросы, в том числе, употребляют ли они наркотики. Когда такое случается, черные и белые отвечают по сути дела одинаково, и в тех же количествах. Это называется добровольное предоставление сведений, и сводится оно к следующему: можно ли доверять наркоманам, можно ли верить, что они говорят правду о себе и о наркотиках? Короткий ответ — нет. Но есть и длинный ответ. Когда вы действительно проверяете людей, врачи могут сказать, что есть два показателя правдивости человека, отвечающего на вопросы об употреблении наркотиков. Первый показатель: давно ли он вышел из тюрьмы? И второй показатель: чернокожий ли ваш респондент? Да, именно так говорят врачи. Вот краткая выдержка из материалов исследований, которые приводит автор книги Don’t Make the Black Kids Angry: Врачи из Университета Джонса Хопкинса на самом деле выяснили, что произойдет, если проверить надежность и правдивость ответов чернокожих об употреблении ими марихуаны и прочих наркотиков. В Балтиморе, штат Мэриленд, они провели опрос 290 афроамериканцев, которые лечатся от гипертонии. Опрос показал, что сообщаемые ими сведения о незаконном употреблении наркотиков далеко не всегда правдивы и надежны. Лишь 48 респондентов признались в употреблении наркотических веществ, хотя анализы мочи показали, что наркоманов среди них 131 человек. Итак, когда люди добровольно сообщали сведения о себе, число наркоманов равнялось 16 процентам. А с анализами 45 процентам. Вот так. Есть и другие исследования. По данным научного медицинского журнала Addictive Behaviors, были проведены опросы чернокожих и белых респондентов на тему употребления кокаина. Когда их результаты сопоставили с анализами мочи, оказалось, что употребляющие кокаин афроамериканцы (по объективным результатам анализов) в шесть раз реже говорят правду о своей привычке, нежели белые. Подробная карта по графствам тут: США — бездомные по округам Полная статья тут: Бездомные в США — официальная статистика В переводе это означает следующее. Когда черных и белых опрашивают, они примерно в равных количествах сообщают об употреблении кокаина. А когда их проверяют, оказывается, что черные употребляют кокаин в шесть раз чаще. И лгут об этом. А вот еще кое-что из этого научного журнала: «В настоящем исследовании также были выявлены показатели несоответствий между добровольным предоставлением информации и анализом волос. Расовая принадлежность оказалась самым заметным показателем расхождений между сообщениями людей и реальным употреблением наркотиков». «Даже с учетом всех прочих факторов между добровольным предоставлением сведений и результатами анализа волос у афроамериканцев было обнаружено больше несоответствий, чем у остальных. Эти результаты соответствуют данным прежних исследований». «При проведении обширного исследования среди молодежи (в возрасте от 9 до 20 лет) также было зафиксировано сокрытие информации об употреблении кокаина на основе анализа мочи. По сравнению с белыми, употребляющие кокаин афроамериканцы (по позитивным результатам анализов) в шесть раз реже говорят правду об использовании кокаина с учетом всех прочих факторов». Вряд ли в этом есть что-то новое. Спросите любого полицейского, что бывает, когда они останавливают чернокожих по той или иной причине, начиная с обычной проверки водительских прав и кончая расследованием убийств. «99 процентов говорят, что мы делаем это исключительно из-за того, что они чернокожие». Об этом за последние пять лет мне в один голос говорили десятки действующих и отставных полицейских. То, чего добивается Батлер, существует уже во многих городах. Это имеет свое название: суд присяжных Бронкса. Такие суды в составе чернокожих заседателей имеют тенденцию не признавать виновными чернокожих обвиняемых. Даже голливудский суперлиберал Дэвид Саймон (David Simon) был вынужден признать это в своей вышедшей в 2013 году книге: Влияние расы на судебную систему повсеместно признают как прокуроры, так и адвокаты, как черные, так и белые, хотя в суде этот вопрос поднимается очень редко. Но расовый вопрос все равно молчаливо присутствует в суде. Он оказывает воздействие почти на каждое жюри из 12 человек, которые заседают в совещательных комнатах Балтимора. Как-то раз произошло нечто из ряда вон выходящее. Чернокожая женщина-адвокат, выступая с заключительными аргументами перед жюри присяжных, в котором были только черные, показала на свою руку и заявила под возмущенный шепот двух белых детективов с галерки: «Братья и сестры, я думаю, всем нам понятно, в чем суть этого дела». Связь миграции и кризиса образования В статье: Выпускники ВУЗов в США никому не нужны В салоне красоты в Кливленде одна чернокожая клиентка рвала и метала, крича на управляющую, которая пыталась ее успокоить. Потом она начала ее бить, и била, пока не прибыла полиция. А после этого она разместила в сети видео, которое очень быстро набрало популярность. «Со мной нельзя так поступать, — сказала она. — Я чернокожая… А вы белые, и вы ни хрена не знаете». Спустя несколько дней группа протестующих устроила митинг и напомнила репортерам, что распускать руки против чернокожей женщины незаконно, каковы бы ни были причины. Даже если она пытается вас обворовать. В Филадельфии Национальная ассоциация содействия прогрессу цветного населения требует, чтобы окружной прокурор привлек к ответственности бизнесмена азиатского происхождения, который преследовал, а потом застрелил чернокожего грабителя с ножом, пытавшегося скрыться — причем вместе с деньгами этого бизнесмена. Национальная ассоциация содействия прогрессу цветного населения вместе с сотням родителей и различных организаций со всей страны задает вопрос: с какой стати вооруженные люди должны защищаться от чернокожих с недобрыми намерениями? Это как из той истории про сестру, которая заявила, что нельзя было стрелять в ее брата, грабившего дом: «Где еще он возьмет деньги?» Проблемы американских городов на отдельном примере в статьях Как разрушали Детройт и Кто погубил Детройт Или из другой истории про родителей, раскритиковавших работника Pizza Hut за то, что он выстрелил в их сына, когда тот пытался ограбить заведение. Ведь это не его деньги, да и вообще — страховка все покроет. Преступность стала новым правом и нормой для чернокожих. В Джексоне, штат Миссисипи, чернокожий член городского совета заявил, что афроамериканские лидеры этого города должны призывать своих соплеменников «бросать камни, кирпичи и бутылки» в полицейских, если те преследуют черных преступников. «Это подаст им сигнал о том, что они нам тут не нужны», — сказал он. Этот член городского совета также хочет, чтобы налогоплательщики Джексона оплачивали все то, что украдут или награбят чернокожие граждане. Тогда сама собой отпадет необходимость в полицейском преследовании «детишек», совершивших преступление. Хотите верьте, хотите нет. Но если не верите, посмотрите это видео: Crime Is The New Black Entitlement (Преступление — это новое право чернокожих). Следующая остановка — Мэдисон, штат Висконсин. Чернокожий пастор, ранее работавший в Висконсинском университете, а сегодня заседающий в суде, повторил мысль деятеля из городского совета Джексона об аресте черных преступников. «Мне кажется, просто нельзя возбуждать дела против людей, совершающих кражи в WalMart, — заявил этот судья из округа Дейн по имени Эверетт Митчелл (Everett Mitchell). — Я думаю, что эта сеть, как и все прочие сетевые магазины со страховками, не должна использовать это в качестве оправдания агрессивных действий полиции». «Они все время это делают, чтобы оправдать жестокие действия полиции против наших детей», — сказал судья. Жестокие действия полиции в прошлом году стали животрепещущей темой для демократов во время предвыборной гонки. Берни и Хиллари пытались перещеголять друг друга в сочувствии к несчастным чернокожим преступникам с их тяжелой судьбой. Хиллари твердила о том, что «без достаточных на то оснований» в тюрьмах находится больше черных, чем белых. А Берни любил пройтись по поводу расистской полиции, которая превышает свои полномочия. «Нам надо покончить с практикой чрезмерного полицейского контроля в афроамериканских кварталах, — заявил Берни во время дебатов демократов в Милуоки. — На самом деле, и афроамериканцы, и белые курят марихуану примерно в одинаковых количествах. Но чернокожих арестовывают за марихуану в четыре раз чаще, чем белых». Карта в полном размере: США — расселение латиноамериканцев. Латиноамериканский вопрос в США в статьях Латиноамериканцы и внутренняя политика США А так же Латиноамериканская диаспора в США Это тоже большая ложь. Но тысячи репортеров и государственных служащих с готовностью ее повторяют, хотя там нет и намека на правду. А теперь направимся в Филадельфию, чтобы послушать судью Уэйна Беннета (Wayne Bennett), который ведет блог Field Negro. Беннет недавно прочитал одну из колонок великого Томаса Сауэлла (Thomas Sowell), где тот ведет речь о скромном вкладе вашего покорного слуги в преступность чернокожих и в журналистские запирательства. Сауэлл хотел понять, как преступность могла стать новым правом чернокожих. Беннет представил популярное объяснение: белые это заслужили. «Как бы жестоко ни вела себя чернокожая шпана по отношению к белым людям, это никогда не сможет полностью компенсировать то насилие, которое на протяжении всей истории нашей страны белые творили против цветных». Этот человек мог стать достойным напарником бывшего президента США и тысяч других людей, которые работали на него и превратили в норму расовую враждебность между черными и белыми. Школы стали одним из самых активных фронтов в борьбе за преступность как право чернокожих. На протяжении восьми лет администрация Обамы предупреждала школьное руководство по всей стране, что нет никакой разницы между чернокожими и белыми детьми в вопросах поведения и оценок. Поэтому любая разница в поведении и успеваемости может быть вызвана только одной причиной: расизмом белых. Вследствие этого школы прекратили вызывать полицию, когда там совершались правонарушения типа употребления наркотиков и хулиганских действий. На смену полиции пришло восстановительное правосудие. Что это такое? Много болтовни и много обещаний никогда так больше не делать. Мэр Нью-Йорка на прошлой неделе отдал распоряжение городским школам «прекратить регистрировать» то, что школьное руководство называет мелкими правонарушениями, такими как употребление наркотиков и прочее неправомерное поведение. Причина этого известна всем учителям и администраторам в американских школах. Чернокожие ученики это жертвы белого расизма в классе, который вынуждает учителей беспричинно к ним придираться. В результате они ставят им плохие оценки и часто отстраняют от занятий. Чем руководствуется политика Америки в статье Идеология США в статье Опыт идеологической работы в США Такого больше не будет. Список чиновников, призывающих сделать преступления новым правом чернокожих, очень длинный, и он постоянно увеличивается. В Канзас-Сити народ так полюбил своего мэра Эммануэля Кливера (Emmanual Cleaver), что назвал его именем скоростную автостраду. Теперь он конгрессмен и активный член организации афроамериканских законодателей «Черный кокус». Все члены этого кокуса в тот или иной момент заявляли: черные и белые совершают одинаковое количество преступлений, но черных арестовывают чаще. Причина тому одна: в районах, где живут чернокожие, слишком много полиции. «Выведите полицию из кварталов, где проживают чернокожие, и разместите ее в белых кварталах. Вы увидите, что показатели преступности везде одинаковы», — снова и снова заявляют эти законодатели. В Канзас-Сити чернокожие в большом количестве и с завидной регулярностью совершают набеги на развлекательный центр Country Club Plaza. Там они устраивают потасовки, громят магазины и наводят беспорядок. Во время одного из визитов в свой родной город Кливер сказал местному репортеру, что он против введения комендантского часа, из-за которого бесчинства чернокожей толпы в Country Club Plaza будут объявлены вне закона, потому что «многие чернокожие детишки разозлятся». В Чикаго незаконные проникновения в жилище ничем не отличаются от таковых в остальной части страны. И за ними всегда стоят черные. Белые, разумеется, тоже вламываются в дома, но исключения лишь подтверждают правило, как и в случае с рэпером Эминемом. Наглядной демонстрацией тому может послужить любая подборка недавних новостных сюжетов, многие из которых я сохраняю на своем YouTube-канале и даже сделал свой собственный плейлист. Некоторые заканчиваются фатально: несколько дней назад в Майами пятеро чернокожих ворвались с оружием в чужой дом и убили одного из находившихся там молодых людей. Другие же попросту нелепы: недавно в Форт-Уэрт группа чернокожих вломились в дом известного адвоката и его жены, разбудив их в 3 часа ночи. Один из парней повел мужчину по окрестным банкоматам, чтобы тот снял наличные на сумму 4 000 долларов, пока другой держал женщину в заложниках. Поначалу они намеревались убить супругов, но затем решили лишь угнать их автомобиль. На следующий день жена рассказала местному телевидению о том, как сильно хотела поговорить со взломщиками, и, конечно же, «не намеревалась портить им жизнь», отправляя в тюрьму. Ведь виной всему — нужда. Что за дикая несоразмерность всей истории данного преступления черных по отношению к белым? Она не возражала, так что значения это не имело. Некоторые сюжеты заканчиваются иронично: подобное произошло два года назад в Цинциннати в доме федерального судьи Сьюзан Длотт и ее состоятельного мужа-адвоката (истории о взломах и нападениях темнокожих на белых богачей — мои любимые) — и да, я уже давно смирился с собственным злорадством в таких вопросах. Судья Длотт обрела известность в начале 90-х, когда, будучи назначенцем Клинтона, издала первое федеральное постановление о запрете расовой дискриминации. Она заявила о необходимости прекратить необоснованные придирки белых полицейских к чернокожим гражданам. Документ цитировался в ходе многих судебных разбирательств подобного формата. В местной газете писали, что именно она держала в руках будущее межрасовых отношений в Цинциннати. Однако дело обернулось не лучшим образом. Ни для жителей Цинциннати, ни для семьи самой судьи. Г-жа Длотт и ее богатый и весьма либеральный супруг наслаждались жизнью в своем особняке — крупнейшем в городе, — когда трое черных мужчин ворвались в дом с требованием отдать им все деньги и ценности. Пока грабители были заняты избиением 79-летнего мужчины и сталкиванием его с лестницы, судья Длотт ускользнула в лес и пробежала целую милю в поисках телефона. Сегодня мы имеем возможность узнать содержание ее звонка в службу 911 с просьбой о помощи, и первое, что она сказала, были слова о трех черных, вломившихся к ней в дом с оружием. Затем она повторила это. Вот вам и запрет дискриминации. Некоторые истории заканчиваются в самых неожиданных местах, как, например, случай, произошедший совсем недавно в Сидар-Рапидс, штат Айова. Эрин Гэрринджер с подругой смотрели телевизор, когда трое вооруженных автоматами темнокожих мужчин ворвались в дом, избили ее до бесчувствия и ограбили обеих. А пока я пишу это, полиция прочесывает лес в погоне за четырьмя вооруженными черными мужчинами, скрывающимися после ограбления дома в Хоторне, что под Джексонвиллем.

Больше информации на http://voprosik.net/prestupnost-negrov-ssha-i-tolerantnost/ © ВОПРОСИК

Надежда Краснушкина, Андрей Райский, Евгения Крючкова, Денис Скоробогатько

Департамент проектной деятельности правительства обратился к Дмитрию Медведеву с предложениями по цифровизации нормотворчества и правоприменения. Перевод устаревшей правовой системы на цифровые рельсы поможет улучшить бизнес-климат, считают авторы проекта. Речь идет о создании «электронных кодексов» по французскому образцу, генерации типовых судебных решений при помощи искусственного интеллекта (ИИ) и создании автоматизированной системы контроля судебной практики.

«Несовершенство российской правовой и судебной системы является одним из основных препятствий для инвестиций и развития российской экономики»,— говорится в письме главы проектного офиса правительства Андрея Слепнева премьер-министру Дмитрию Медведеву (есть у “Ъ”). Проблемами российского права в нем названы устаревшее, непрозрачное и избыточное регулирование, возможность неоднозначного толкования правовых норм, затянутые сроки рассмотрения дел и коррупция. Решить эти проблемы за счет традиционных механизмов не получится, признают в проектном офисе, предлагая призвать на помощь современные технологии во главе с ИИ.

Первым этапом предлагаемой цифровизации правовой системы должно стать выявление «устаревших, неработающих, а также неэффективных и неоднозначных норм» в массиве правовых актов и актов правоприменения. Результатом может стать как корректировка конкретных норм, так и разработка общих рекомендаций по «качественному нормотворчеству». Следующий шаг — создание «электронных кодексов», «единых нормативных документов, различные части которых принимаются различными уровнями власти в соответствии с их компетенцией»; в пример приводится опыт Франции. Речь идет о создании государственных электронных справочно-правовых систем: действующие нормы предлагается каталогизировать в духе «качественного нормотворчества», а в будущем онлайн-кодексы станут официальным местом публикации новых норм. На третьем этапе предполагается создание автоматизированной системы поддержки правовых решений (СППР) на основе ИИ, включая сервисы автоматизированной генерации документов по типовым делам. Одновременно должна быть разработана система управления рисками для компьютерного анализа судебных актов на предмет ошибок и коррупционной составляющей. Как СППР на основе ИИ будет соотноситься с ГАС «Правосудие», в письме не уточняется.

«Идея проектного офиса — это попытка транслировать французскую систему на нашу почву»,— пояснил “Ъ” источник, близкий к Минюсту. По его словам, кодификация для приведения в порядок десятков тысяч подзаконных актов обсуждалась еще на Санкт-Петербургском международном юридическом форуме. «Но в чистом виде французская система в РФ не может быть применена — для этого придется полностью изменить все нормотворчество»,— говорит собеседник “Ъ”. В то же время в Минюсте позитивно воспринимают идею использования ИИ при подготовке законопроектов и подзаконных актов. Как минимум это позволит избегать грамматических ошибок, которые сейчас ведомство вынуждено исправлять вручную в процессе регистрации. Кроме того, машина может выявить дублирование положений других актов или предупредить о коррупциогенности — критерии ее выявления четко прописаны в методике, говорит он.

Сама по себе идея использования ИИ при подготовке законопроектов не нова, темой уже занимаются в фонде «Сколково». «Мы рады, что проектный офис поддерживает наши начинания»,— говорит глава департамента развития и планирования фонда Сергей Израйлит.

По его словам, автоматизация нормотворчества с использованием ИИ заложена в концепции управления изменениями в рамках программы «Цифровая экономика» — правительство утвердило ее в июле, а обсуждение предложений началось еще весной. В плане мероприятий по нормативно-правовому регулированию цифровой экономики, подготовленном «Сколково» в сентябре, содержится ряд идей по этой теме. В частности, речь идет о создании машиночитаемого языка для нормотворчества и применении ИИ для анализа содержания нормативно-правовых актов.

Корпоративные специалисты обсудили футуристические пути развития права и профессии
Корпоративные специалисты обсудили футуристические пути развития права и профессии
Исполнительный директор НП «Содействие развитию корпоративного законодательства» Елена Авакян считает, что предложения проектного офиса носят пока «философский характер», а их эффективность будет зависеть от качества разработки и от того, как и кто будет формировать и контролировать алгоритмы. Наделение машины функцией составления нормативных актов придает ей субъектность, поэтому придется думать, кто будет отвечать за ошибки, предупреждает она. Система госконтроля и анализа нормоприменения должна быть прозрачной, чтобы избежать давления на судей, а за машиной всегда должен стоять человек. «Робот должен помогать, но не заменять судей и адвокатов и не выносить решения. Помимо буквы закона есть еще и дух, есть справедливость и мораль, которые машиной не верифицируются»,— отмечает она.

Президент НП ОКЮР Александра Нестеренко поддерживает идею создания электронных кодексов: они значительно ускоряют нормотворчество и позволяют выявлять противоречия еще на стадии проекта — хотя машина не способна выявить все возможные ошибки, так что такие акты все равно должны проходить экспертизу. Перспективным направлением в рамках СППР может стать генерирование проектов судебных решений на основе скана искового заявления для типовых дел — вроде взыскания долгов за ЖКХ или просроченных кредитов, полагает госпожа Нестеренко. «Это бы позволило сократить значительно перегруженных секретарей судов и дать возможность судьям работать с правовым помощником на базе ИИ, который за секунды готовил бы документы, а конечное решение оставалось бы за судьей»,— говорит она. В то же время в документе не затронута важная тема — доработка базы решений судов общей юрисдикции, а именно ее отсутствие среди прочего делает судебную систему уязвимой и непривлекательной для иностранных инвестиций, отмечает юрист.

«Юридическая техника — то, как документы пишутся,— требует апгрейда. Нужно учиться писать проще и понятнее, лучше структурировать документы. Если в этом будет помогать не только должностная инструкция, но и специальный софт, шансы радикально улучшить качество нормативных документов повысятся»,— говорит управляющий партнер юридической технологической компании «Симплоер» Антон Вашкевич. Но прорыв, по его словам, обеспечит только автоматизация правоприменения, когда существенная часть правил описана в виде машиночитаемого и самоисполняемого кода. «Появится автоматический комплаенс — риски можно будет просчитывать и избегать. Предсказуемость резко снизит издержки бизнеса и государства и ускорит гражданский оборот»,— говорит он.

https://www.kommersant.ru/doc/3466185

Анна Балашова.
При участии: Алексей Гаврилко-Алексеев.

Отношения человека и искусственного интеллекта должны быть законодательно урегулированы, считают в Госдуме. В первой половине 2018 года профильный комитет рассмотрит проект конвенции о робототехнике и искусственном интеллекте.

Комитет Госдумы по экономической политике, промышленности, инновационному развитию и предпринимательству рассмотрит конвенцию по робототехнике и искусственному интеллекту, рассказал РБК представитель Исследовательского центра проблем регулирования робототехники и искусственного интеллекта «Робоправо», разработавшего документ (есть в распоряжении РБК).

Председатель комитета Сергей Жигарев через помощника подтвердил эту информацию. Предполагаемый срок рассмотрения конвенции, а также формирования предложений законотворческих документов по теме «роботехника» — первое полугодие 2018 года. «Вопросы отношения человека и искусственного интеллекта — это вопросы, которые должны быть законодательно урегулированы в ближайшее время. После широкого общественного обсуждения с участием представителей экспертного, научного сообщества, а также представителей общественности документ поступит на рассмотрение в нижнюю палату парламента», — сообщил Жигарев.

Цель разработанной конвенции — определить основные проблемы, которые могут возникнуть в обществе и правовой системе в связи с активным развитием киберфизических систем, обобщить основные правила робототехники и обозначить возможные направления решения существующих и ожидаемых проблем, указано в документе.

Что предлагают авторы конвенции

К объектам робототехники авторы документа относят все категории роботов в самом широком понимании независимо от их назначения, степени опасности, мобильности или автономности, а также киберфизические системы с искусственным интеллектом в любой форме.
Авторы документа предлагают исходить из того, что «создание, внедрение и использование роботов должно осуществляться при условии максимального обеспечения безопасности человека, общества и государства, а также непричинения вреда человеку, человечеству, живым существам и всей их среде обитания».
Роботы, создаваемые в военных целях, «должны иметь изначально заложенные в них и не поддающиеся изменениям ограничения, соответствующие положениям международного гуманитарного права». Такие роботы не должны использоваться для причинения вреда мирному населению.
Предлагается установить повышенные требования к защите от несанкционированного доступа третьих лиц при эксплуатации роботов, потенциально способных причинить человеку существенный, в том числе смертельный, вред (медицинские роботы, имплантируемые устройства, высокоавтоматизированные транспортные средства, военные роботы и т.д.).
Роботы должны постоянно фиксировать информацию об условиях своего функционирования и всех совершаемых ими действиях и хранить в специальном «черном ящике».
Физически взаимодействующие с людьми и не находящиеся под прямым управлением человека роботы должны иметь функцию моментального или аварийного отключения по требованию («красную кнопку»).
«Человек не должен умалять человеческое достоинство своим обращением с роботами».
Инвестиционный менеджер Фонда развития интернет-инициатив (ФРИИ) Никита Юрьев отмечает, что рынки роботов и искусственного интеллекта тесно взаимосвязаны — развитие первого невозможно без второго. «В свою очередь, рынок роботов создает широкие возможности для работы в направлении искусственного интеллекта: глубинного и машинного обучения, обработки естественного языка, машинного зрения», — отметил Юрьев. Он привел прогноз компании Grand View Research, согласно которому объем мирового рынка искусственного интеллекта в 2017 году должен составить около $19,18 млрд, а к 2025 году достигнет $35,9 млрд.

Рынок роботов только в сфере услуг должен достичь $27,5 млрд к 2023 году при среднем темпе роста 15,18% в год, приводит Юрьев данные компании MarketsandMarkets. Рынок роботов в производстве к этому же сроку должен достичь $71,72 млрд. При этом суммарно мировые расходы на роботов, по данным IDC, должны уже к 2019 году превысить $135,4 млрд. «Лидером в данном направлении считают Азиатско-Тихоокеанский регион, а одним из самых ярких игроков — Boston Dynamics (американская инжиниринговая компания, некоторое время принадлежавшая Google, сейчас принадлежит SoftBank. — РБК)», — рассказал представитель ФРИИ.

Проект конвенции, разработанный «Робоправом», не первая попытка законодательно урегулировать рынок искусственного интеллекта. В декабре 2016 года «Ведомости» сообщили, что основатель Grishin Robotics и сооснователь Mail.Ru Group Дмитрий Гришин совместно с юристом Виктором Наумовым разработали концепцию закона о робототехнике.

Этот законопроект предлагает дополнить Гражданский кодекс главой о роботах-агентах, то есть тех роботах, которые могут действовать автономно. «Мы продолжаем активное обсуждение законодательных инициатив в этой области, по разным оценкам экспертов, рынок искусственного интеллекта к 2020 году вырастет до $5 млрд», — передал Гришин РБК через представителя.

Исследовательский центр «Робоправо» создан как автономная некоммерческая организация в начале 2017 года по инициативе сотрудников международной юридической фирмы Dentons Андрея Незнамова и Виктора Наумова, рассказал РБК представитель центра. По его словам, разработанные по заказу Гришина поправки стали «толчком к созданию конвенции». В то же время он отметил, что законопроект и конвенция практически не пересекаются по смыслу. «Появление «закона Гришина» инициировало широкое обсуждение вопросов регламентации робототехники. В совокупности с этими и другими факторами встал вопрос о принятии законов о робототехнике вообще, а не только внесении изменений в Гражданский кодекс», — отметил он.

Как пояснил представитель центра «Робоправо», многие эксперты в мире говорят о необходимости создания общего свода правил взаимодействия человека с роботами и искусственным интеллектом. «Мы решили попытаться сделать это. Проанализировали существующие законы и правила. Постарались их обобщить, а также сделать ряд новых предложений, не претендуя на исчерпываемость и окончательность», — отметил он.

Как в мире юридически регулируют искусственный интеллект

На данный момент в мире практически не существует специальных законодательных актов, определяющих статус машин с искусственным интеллектом. В США, например, рассмотрение возникающих споров по этой проблеме основывается на действующих общих законах, что зачастую вызывает трудности при рассмотрении дел в суде.

Специальный закон о робототехнике был принят в 2008 году в Южной Корее. Несмотря на то что в акте «О содействии развитию и распространению умных роботов» фактически не идет речи о регулировании искусственного интеллекта, а в качестве основной его цели было заявлено стимулирование робототехники и улучшение качества жизни граждан, в документе дается несколько важных определений. Под термином «умный робот» южнокорейские законодатели предлагают понимать «механическое устройство, которое самостоятельно воспринимает внешнюю среду, распознает обстоятельства, в которых работает, и движется самостоятельно». В одной из статей закона говорится, что в будущем правительство имеет право принять специальный закон, регулирующий этические нормы развития робототехники, которым должны следовать разработчики, производители и пользователи умных роботов.

Первые шаги в этом направлении делают и в Европе. В феврале 2016 года Европарламент принял резолюцию «Нормы гражданского права в робототехнике», в которой парламентарии обратили внимание на важность развития законодательной базы, а также отметили необходимость введения единой системы классификации роботов и общеевропейской системы их регистрации. Большое внимание в документе уделяется этическим принципам: например, отмечается, что потенциал использования робототехники должен оцениваться с точки зрения отсутствия угроз безопасности и здоровью человека, свободе и неприкосновенности частной жизни.

В ходе саммита ЕС, который прошел в Брюсселе в октябре 2017 года, лидеры европейских стран договорились в начале 2018 года разработать европейский подход к проблеме искусственного интеллекта. В официальных документах саммита также говорилось о необходимости активнее реагировать на новые мировые тенденции, к которым относится развитие искусственного интеллекта.

Подробнее на РБК:
https://www.rbc.ru/newspaper/2017/11/21/5a0ef3ac9a79474efac57ea3

Юрий Магаршак – главный редактор New Concepts Journal, Нью-Йорк.

Известный британский физик-теоретик и космолог Стивен Хокинг начиная с 2001 года регулярно формулирует возможные сценарии самоуничтожения человечества. Ввиду исключительной серьезности этих предостережений приведем главные утверждения, сформулированные в выступлениях и статьях великого физика нашего времени.

Четыре сценария апокалипсиса

Развитие полноценного искусственного интеллекта (ИИ) может означать конец человеческой расы. Уже созданные примитивные формы ИИ оказались очень полезными, но опасения по поводу создания интеллекта, который будет соответствовать человеческому или даже превзойдет его, очень серьезны. Такой ИИ начнет развиваться самостоятельно и переделывать себя со всевозрастающей скоростью.

Ядерная война. Если нас не погубят созданные нами разумные машины, мы вполне можем сделать это сами. Сегодня агрессивность вида homo sapiens грозит уничтожить самого человека разумного.

Вирусы, созданные генной инженерией. Для создания ядерного оружия нужны крупные предприятия, а генной инженерией можно заниматься и в маленькой лаборатории. Опасность в том, что случайно или умышленно мы можем создать вирус, который нас же и погубит.

Наконец, одним из самых серьезных последствий деятельности человека на планете является глобальное потепление, вызванное увеличением в атмосфере диоксида углерода при сжигании ископаемых видов топлива. Мы не знаем, остановится ли когда-нибудь процесс глобального потепления, но в худшем случае Земля уподобится Венере, где температура на поверхности достигает 250 градусов и идут дожди из серной кислоты.

Генно-модифицированное человечество

Стивен Хокинг в связи с самоуничтожением человека как вида в качестве эффекта положительной обратной связи упоминает только повышение температуры. Однако, как представляется, это верно и для искусственного интеллекта, и для генной инженерии. Причем опасности генной инженерии не только в создании генно-модифицированных вирусов. Опасность многих других применений генной инженерии также абсолютно реальна.

Создание гибридных видов живых существ, а то и вовсе не существовавших в природе и ни на живое существо из прошлого не похожих, может стать абсолютно реальной опасностью для существования человека как вида. Драконы, «змеи горынычи», годзиллы и другие монстры из сказок превратятся в живых существ. Перспектива абсолютно реальная!

Птицы, которые налетают стаей, существуют только в фильмах Хичкока. Ни один пернатый хищник (по не вполне понятной причине – табу, наложенное кем-то или чем-то?) не охотится стаей. Грифы слетаются на падаль – но не орлы или ястребы на живую жертву. Создание генно-модифицированных хищных птиц, которые будут охотиться и при этом размножаться, как воробьи, может явиться абсолютно реальной опасностью для человечества как такового.

Количество любителей совершить генно-инженерное нападение на человечество в будущем наверняка будет не меньше, чем сегодня число хакеров и создателей компьютерных вирусов. Обнаружить их будет очень непросто.

Поскольку число сперматозоидов в теле мужчины составляет примерно 100 млн, вынашивание зародыша не только суррогатной матерью, а вообще вне матки делает возможным родить от одного самца (царя, диктатора или миллиардера) миллионы детей.

Это может стать не только демографической или социальной проблемой. Ненужных или нежелательных не генно-модифицированных представителей вида homo sapiens правители смогут тем или иным способом удалять. Оставив, кроме своих потомков, генно-модифицированных слуг с ограниченным интеллектом, генно-модифицированных солдат, генно-модифицированных женщин (а может быть, и мужчин, и существ комбинированных полов, в природе не существующих) для утех.

Последней из известных нам битв человека с конкурирующим с ним видом были битвы homo sapiens с неандертальцами. Грядущие битвы не генно-модифицированных людей с генно-модифицированными существами могут стать реальной опасностью в будущем.

Технобиотеорема

По мере создания все новых и новых устройств, использующих Интернет, дистанционное управление и передачу информации с помощью электромагнитных волн, проблема компьютерных вирусов и компьютерных хакеров становится общецивилизационной. Возникает фундаментальный вопрос: можно ли побороть вирусы и хакеров в принципе или они в конце концов разрушат цивилизацию, основанную на дистанционном управлении и Интернете?

В земной биосфере нет ни одного примера живых существ, которые функционировали бы с использованием передачи информации подобно передачи информации по Интернету. Ни один из десятков миллионов видов живых существ, известных в настоящее время, способностями, подобными дистанционной перекачке файлов и дистанционному управлению функционирующими системами, не обладает. Возникает вопрос: почему в живой природе не существует ничего подобного Интернету – вопреки Дарвину?

Ответ может быть только один: прямой передачи информации из мозга в мозг не происходит, потому что на это в живой природе наложено табу. Можно даже сформулировать этот запрет в виде технобиотеоремы (пока не доказанной): «Невозможно предотвратить вмешательство хакеров и компьютерных вирусов в системы, вмешательство в которые извне на каком-либо этапе их функционирования не невозможно».

Сумма всех случайностей

С учетом сказанного зададимся более общим вопросом: а может ли разумная жизнь на Земле не уничтожить саму себя? Положительный ответ на этот вопрос вовсе не очевиден. Поставим также и более общий вопрос: может ли цивилизация где-либо и в какой-либо форме, достигнув определенного уровня технологического развития, не уничтожить саму себя?

Ответ на этот вопрос в виде гипотезы, объясняющей отрицательные результаты экспериментов, проведенных по его инициативе, был дан одним из самых известных астрофизиков ХХ века Иосифом Шкловским. Он был главным инициатором поиска во Вселенной радиосигналов, которые можно было бы интерпретировать как посланные разумными существами.

Однако после того, как никаких сигналов, которые можно трактовать как посланные внеземными разумными существами, не было получено на протяжении более 10 лет (и, кстати сказать, и ныне, через 30 лет после смерти Шкловского, не получено), Иосиф Самуилович выдвинул смелую гипотезу. Он предположил, что отсутствие сигналов других цивилизаций объясняется тем, что после того, как любая цивилизация достигнет уровня, на котором она способна производить ядерное оружие, она не может не уничтожить саму себя.

Во времена Шкловского генная инженерия, Интернет и создание искусственного интеллекта были еще вполне фантастическими технологиями. Возможно, поэтому Иосиф Самуилович не видел опасности их развития. Сформулируем гипотезу о неизбежности самоуничтожения цивилизаций где бы то ни было соответственно уровню развития технологий в настоящий момент.

Может ли разумная жизнь в любой форме выжить, достигнув уровня цивилизации, на котором она способна: 1) уничтожить планету своего обитания ядерным оружием; 2) создать искусственный интеллект и 3) манипулировать с генами?

А если не может, что нужно сделать, чтобы отдалить момент самоуничтожения как можно дальше во времени? Или (в качестве альтернативы) продолжить разумную жизнь даже после полного уничтожения цивилизации, являющейся ее носителем. Например, создав другие формы разума/жизни, переселившись на другие планеты или переселив на них разумных существ (киборгов или генно-преобразованных разумных существ, чтобы они могли выжить на этих планетах).

В русле исследования этой проблемы естественно рассмотреть существование Бога, создавшего человека, не с точки зрения религий и догм, а с точки зрения самоуничтожения коллективного разума где бы то ни было во Вселенной. Возможно, что Создатель нас являлся коллективным Создателем (наподобие того, как люди коллективно создали генную инженерию и Интернет). При этом Бог воспринимается нами как единосущностное существо (наподобие того, как мы воспринимаем компьютер с несколькими hard drives как один компьютер и человеческий мозг, состоящий из миллиардов нейронов, не как множество взаимодействующих живых существ, а как один человеческий мозг).

Рассуждая теоретически, возможно, создавший нас самоуничтожил себя. И в настоящее время жизнь на Земле – а с ней вершина всего живущего – человек – является его продолжением, когда создателя (или создателей) человечества давно нет. Если человечество создаст нечеловеческую цивилизацию, которая после самоуничтожения homo sapiens продолжит жизнь на других планетах, это будет именно так.

Впрочем, неизбежность самоуничтожения цивилизаций относится только к случаю, когда цивилизация не состоит из единственного разумного сверхсущества. Цивилизация, состоящая из одного-единственного суперразумного носителя знаний (в терминах монотеизма – Творца), сама себя не разрушит и существовать может на любом уровне своего интеллекта и технологий. Теорема о саморазрушении цивилизаций после достижения ими примерно нашего современного уровня к цивилизациям, состоящим из одного разумного Существа (в терминах религии – Бога), не относится.

Вопрос «может ли разум выжить?» – относится не только к формам разума, носители которых состоят из нуклеиновых кислот и белков, но и к формам любых других материальных носителей, например компьютерных чипов. Если искусственный разум роботов и компьютеров, созданных человеком, достигнет уровня, когда они бросят вызов человечеству, то варианты развития в принципе не ограничены. Во-первых, видов искусственного интеллекта может быть много. Во-вторых, кто из них одержит победу, во многом зависит от того, какие именно формы искусственного разума будут созданы первыми. И в-третьих – совершенно не очевидно, что созданные людьми нечеловеческие цивилизации, достигнув уровня расщепления атома и генной инженерии, не будут саморазрушены так же, как их создавшая цивилизация людей.

http://www.ng.ru/nauka/2017-10-25/9_7102_civilizations.html