Законы о роботах

Законы о роботах

Закон об отношениях робота и человека может появиться через полгода

Спикер Госдумы РФ Вячеслав Володин и робот во время расширенного заседания Совета по законодательному обеспечению цифровой экономики при спикере Госдумы РФ

По мнению депутатов Государственной думы, отсутствие соответствующего закона мешает воспользоваться «колоссальными возможностями в робототехнике». Аналитики скептичны. Депутаты пока намного умнее роботов, для которых мог бы пригодиться такой закон. С другой стороны, надо смотреть вперед.

Законопослушность роботов пока под вопросом

«В наш созыв точно примем этот закон; может не в эту сессию, но в следующую постараемся», — передает ТАСС слова Сергея Жигарева. Он выступил в ходе расширенного заседания Совета по законодательному обеспечению развития цифровой экономики при председателе Госдумы Вячеславе Володине. «Мы сегодня имеем колоссальные возможности в робототехнике, которыми не пользуемся, и именно отсутствие законов создает такой барьер»,— отметил он.

Говоря об аспектах законодательства, которое могло бы регулировать отношения робота и человека, он называет этические нормы, возможности взаимодействия, а также создание фондов, которые могли бы компенсировать вышеупомянутый вред, а также «создание системы беспрерывного образования».

На самом деле, говорит Никита Куликов учредитель АНО «ПравоРоботов», руководитель рабочих групп по законодательному регулированию цифровой экономики при Госдуме, какой бы то ни было острой необходимости принятия такого закона ни сейчас, ни в ближайшие лет пять не будет, в связи с тем, что ни робототехника, ни ИИ еще не достигли той стадии развития, когда эти взаимоотношения следует разграничить и зарегулировать.

То, что данный вопрос обсуждается на уровне Госдумы, говорит о том, что законодатели взяли верный курс на подготовку законодательных инициатив в высокотехнологичной сфере, считает Куликов. Но, к сожалению, правовая мысль в данном случае опережает инженерную, и наши разработчики попросту пока не готовы представить проекты техники, для которой данный закон был бы актуален.

Они не машины?

Стоит отметить, продолжает тему руководитель проектного департамента компании Bell Integrator Михаил Лапин, что робот уже не просто машина, способная выполнять определенные функции, а своего рода «организм» имеющий искусственный интеллект, способный к саморазвитию и самообучению.

Да, говорит специалист, пока мы не видим роботов на улице, однако, через 10-15 лет они будут частью социальной жизни человека и поэтому возникает много вопросов к адаптации человека и робота. Мы должны смотреть на много лет вперед, чтобы понять каким будет мироустростройство с учетом современных тенденций.

Есть риск того, говорит он, что в ближайшие 15-20 лет роботы заменят до 50% человеческого рабочего потенциала в таких сферах как: опасное производство, транспорт, деятельность по соблюдению правопорядка и пр. По мнению Михаила Лапина, превентивные правовые меры являются поэтому вполне оправданными.

Три закона уже есть

Писатель-фантаст правда не предусмотрел, что законами должен быть предусмотрен еще и фонд, из которого роботы и люди смогут компенсировать друг другу ущерб. Этот вопрос, наряду с некоторыми другими, подлежит теперь законодательному регулированию.

expert.ru

В Эстонии разрабатывают закон о роботах

Создание нового правового субъекта, так называемой электронной личности, — одна из тем, которую обсуждает рабочая группа

РИГА, 26 сентября. /Корр. ТАСС Евгений Антонов/. Эстония может стать первой страной мира, в которой деятельность роботов будет регулироваться законом. Соответствующий нормативный акт обсуждает специальная рабочая группа, в которую вошли сотрудники Госканцелярии и министерства экономики и коммуникаций республики.

В Сбербанке прогнозируют появление роботов-гуманоидов через 10-15 лет

Госдума может принять закон по развитию робототехники в следующую сессию

Изначально рабочая группа обсуждала лишь регулирование самоуправляющихся транспортных средств. Однако, говорит советник по вопросам цифровых инноваций Госканцелярии Мартен Каеватс, эксперты быстро осознали, что ограничиваться только самоуправляемыми автомобилями и законом о дорожном движении неразумно.

«Для того, чтобы в будущем законы были более простыми и понятными, и чтобы не приходилось постоянно вносить в них изменения, возникла мысль заниматься искусственным интеллектом в более широком смысле. Главный вопрос заключается в степени ответственности этого искусственного интеллекта», — сказал он газете Eesti Päevaleht .

Одна из тем, которую обсуждает рабочая группа, — это создание нового правового субъекта, так называемой электронной личности. Это, говорят авторы идеи, позволит определить ответственность в случаях, когда беспилотный автомобиль попадает в аварию или защититься от действий недоброжелателя, если тот попытается использовать робота в противоправных целях. Эстонские эксперты говорят, что все эти вопросы надо прописать в законе уже сегодня, так как через пять лет может быть слишком поздно.

«Я не вижу иной возможности. Робототехника развивается бешеными темпами», — говорит представитель адвокатского бюро Triniti Кармен Турк. В качестве примера он приводит роботов-опекунов, которые, с его точки зрения, являются технологией ближайшего будущего. «Они помогают пожилым людям, а также людям с травмами. Поднимают их с кроватей, помогают передвигаться и прочее. Потом они начнут покупать в аптеках лекарства для своих пациентов», — говорит он.

Разработчики проекта рассчитывают подготовить документ в ближайшие пару лет. Тогда бы, говорит Каеватс, Эстония опередила в этой области все страны мира.

Читайте так же:  Правило первое слагаемое второе слагаемое

На прошлой неделе в Эстонии произошло первое ДТП с участием робота: в Таллине на пешеходном переходе столкнулись автомобиль и робот-курьер, который осуществлял доставку заказа. От столкновения робот упал на бок, но серьезных повреждений не получил. Коммерческий директор производителя робота компании Starship Technologies Аллан Мартинсон говорит, что вина ДТП полностью лежит на водителе, поскольку доставщик переходил дорогу на зеленый свет. «Когда горит зеленый свет, то водитель должен пропустить пешехода, велосипедиста и робота», — говорит Мартинсон.

tass.ru

Новые законы робототехники: как в Европе регулируют права роботов

Роботы и искусственный интеллект все шире проникают в нашу жизнь. Мы уже свыклись с мыслью о том, что скоро они будут окружать людей повсюду и станут, видимо, умнее нас. Смогут не только управлять полетом или выигрывать в шахматы, но и принимать решения, как настоящая электронная личность. Какими правами будет обладать такой интеллект? Нужен ли ему паспорт? Резолюция, принятая Европарламентом несколько месяцев назад, предусматривает и такое: специализированное агентство по робототехнике и искусственному интеллекту будет заносить умные машины в особый реестр. А что еще?

Конкуренция законов

Еще в 2006 году Германия одной из первых в мире приступила к широкой программе роботизации и информатизации промышленности. Сегодня о четвертой промышленной революции не говорит только ленивый. Постепенно этот вопрос стал одним из основных в стратегической повестке всего Евросоюза. В 2013 году власти ЕС создали частно-государственное партнерство SPARC — проект, целиком посвященный финансированию и развитию робототехники.

Андрей Незнамов, кандидат юридических наук, руководитель Исследовательского центра проблем регулирования робототехники и искусственного интеллекта «Робоправо»

«Без сомнений, проблема регулирования робототехники скоро станет актуальной и для России. Вижу по опыту других стран: правительства США, Китая, Японии, ЕС, Южной Кореи совершенно серьезно видят за роботами будущее и признают это официально. Роботы должны справиться с теми проблемами, которые сейчас не может решить никто, поэтому мы все становимся свидетелями невероятной конкуренции, не уступающей космической гонке. Все хотят победить, и законам отводится особое место в этой борьбе. Главное — сделать так, чтобы роботизации ничего не мешало».

Однако конкуренция в этой сфере очень высока. Китай не горит желанием терять звание «мировой фабрики» и внедряет промышленных роботов тысячами. Япония ищет в роботах возможность решить проблему стареющего населения. США лидирует по числу компаний, занимающихся исследованиями и разработкой роботов, а Южная Корея — по их использованию в промышленном производстве.

При таком активном соперничестве на первый план выходят вопросы регулирования робототехники, которые могут принести вполне осязаемые экономические и технологические результаты. Так, принятый в Корее в 2008 году закон «О развитии и распространении умных роботов» позволил поднять их производство к 2016 году на 80% и принес стране 4 млрд долларов. Господдержка может ускорить или затормозить развитие отрасли, а государство, принявшее всестороннее законодательство в этой сфере, задаст стандарты, на которые будут ориентироваться и остальные страны.

Первый робоевропейский

В феврале 2017 года Европарламент принял резолюцию «Нормы гражданского права о робототехнике». Документ, состоящий из более чем сотни пунктов, посвящен самым разным аспектам и проблемам робототехники и искусственного интеллекта. В частности, предлагается внедрение общеевропейской системы регистрации умных машин.

По замыслу парламентариев, отдельным категориям роботов следует присвоить индивидуальный регистрационный номер, который будет заноситься в специальный реестр. Здесь желающие смогут найти детальную информацию о роботе, включая данные о производителе, владельце и условиях выплаты компенсации в случае причинения вреда. Поддержанием системы и контролем должно заниматься специализированное агентство по робототехнике и искусственному интеллекту, которое могло бы взяться и за другие аспекты регулирования в этой области.

Кроме того, Европарламент совершенно справедливо заметил, что одной из самых быстрорастущих областей остается роботизация человеческого организма, которая ведет к возрастанию нашей зависимости от гаджетов. Но что делать человеку, если производитель имплантата по каким-то причинам перестанет его поддерживать — например, обанкротится.

Проблему предлагается решить созданием независимых доверенных организаций, которые займутся сохранением работоспособности жизненно важных носимых медицинских устройств — от технического обслуживания до ремонта и апгрейда. Для таких фирм производители обязаны будут сохранять и предоставлять всю техническую информацию о своих устройствах, включая копию исходного кода программ.

Страховка для робота

Парламентарии выступают и за введение страхования ответственности за причиненный роботом вред — по аналогии с ОСАГО. В самом деле, чем выше уровень автоматизации машины, тем сложнее установить лицо, несущее ответственность за нанесенный ею ущерб. Поэтому обязательное страхование рисков, связанных с действиями роботов, позволит пострадавшему гарантированно получить компенсацию, а на случаи, которые не покрываются страховкой, может быть использован резервный компенсационный фонд.

Впрочем, Европарламент заглянул и дальше — в эру полностью самостоятельных машин, которые смогут сами находить себе контрагентов-работодателей, обсуждать условия договоров и решать, как их исполнять. Пока что чиновники не смогли договориться, по каким именно правилам будет наступать ответственность за вред, причиненный такой полностью автономной машиной. Этот вопрос оставлен на ближайшее будущее.

Хартия робовольностей

Беспокоит Европарламент и нравственная сторона развития робототехники. Поэтому в качестве приложения к резолюции парламентарии представили «кодекс этики», которым разработчикам робототехники предлагают руководствоваться добровольно. Пожалуй, с ключевыми принципами кодекса легко согласятся все: «делай благо» и «не навреди» заимствованы из знаменитых «законов роботехники» Айзека Азимова. Принцип самостоятельности подразумевает добровольное информированное согласие человека на взаимодействие с роботом, а принцип справедливости — правильное распределение созданных при этом благ.

Читайте так же:  Выплата пенсий в почтовых отделениях

Интересный пункт этого документа — «право на undo», возможность отмены действия, которая должна стать обязательной функцией системы контроля робота. Кроме того, парламентарии задали рамки будущей всеобъемлющей «Хартии робототехники». Предлагается подумать даже о том, должны ли в перспективе самые совершенные автономные роботы получить особый правовой статус электронных лиц — «с их особыми правами и обязанностями, включая обязанность возмещения любого причиненного ими вреда».

Неудивительно, что именно это (в общем, второстепенное) положение резолюции стало самым обсуждаемым публикой. Однако многие юристы рассматривают такие планы как уж слишком преждевременные. В исследовании, которое Натали Невеянс из Центра изучения права, этики и процедур (Университет Артуа) провела для Европарламента, идея названа «бесполезной и неуместной». По мнению ученой, сторонники электронной личности слишком ориентируются на научную фантастику, воспринимая роботов как железных человеческих двойников. Придавать им особый общественный статус — «значит размывать границы между человеком и машиной, между живым и мертвым, человеческим и нечеловеческим».

Юридические итоги

Стоит сказать, что законотворческий процесс в ЕС очень специфичен. Принятая резолюция технически еще не закон: правом законодательной инициативы здесь обладает лишь Еврокомиссия. Поэтому резолюцию Европарламента стоит рассматривать как формальное обращение к ней с просьбой принять те или иные конкретные меры. Шар на стороне законодателей — и хотя реагировать на такие документы Еврокомиссия не обязана, мало кто сомневается в том, что в ближайшее время будет принят и четкий закон, регулирующий робототехнику. Возможно, он ляжет в основу законодательств других стран — и всего нашего будущего.

Законы роботехники

Человечеству не привыкать к тому, что законы нового общественного уклада сперва обдумывают философы, фантасты — и лишь затем к ним подступаются юристы и экономисты. Законы роботехники пережили ту же эволюцию, начиная от первого появления на книжных страницах, через сатиру, фантастику и любительские дискуссии до обсуждения серьезными бизнесменами и официальными лицами.

Вариант: Айзек Азимов*

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому закону.

3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму законам.

*В 1986 году в романе Азимова «Академия и Земля» появляется Нулевой закон роботехники: «Робот не может навредить человечеству или своим бездействием допустить, чтобы ему был нанесен вред». В 2016 году американский профессор-юрист Марк Ротенберг выдвинул Четвертый и Пятый законы: «Робот должен открыто идентифицировать себя» и «Робот должен быть способен публично обосновать свои действия».

1. Роботы не должны разрабатываться с единственной целью уничтожения или причинения вреда людям.

2. Ответственным лицом выступает человек, а не робот. Робот — инструмент для достижения человеческих целей.

3. Роботы должны разрабатываться с учетом безопасности их использования.

4. Роботы — искусственные создания, они не должны играть на эмоциях чувствительных людей. Робот не может быть неотличимым от человека.

5. Всегда должна иметься возможность узнать лицо, юридически ответственное за данного робота.

*Комитет по инженерии и научным исследованиям (Engineering and Physical Sciences Research Council) — британское государственное агентство, занимающееся регулированием научно-технической сферы в стране.

Вариант:
Сатья Наделла*

1. Искусственный интеллект (ИИ) должен создаваться, чтобы помогать человечеству.

2. ИИ должен быть прозрачен: всегда должна иметься возможность выяснить, как он работает.

3. ИИ должен приводить к росту эффективности решения задач, не нарушая достоинства людей.

4. ИИ должен поддерживать разумную конфиденциальность и заслужить доверие, защищая вверенную ему информацию.

5. ИИ должен контролироваться алгоритмически: человек имеет возможность «отменить» ненамеренно причиненный им вред.

6. ИИ должен быть защищен от помех и относиться ко всем людям одинаково.

*В то время глава Microsoft; правила были перечислены в интервью журналу Slate.

Вариант: Марк Тильден*

1. Робот должен защищать свое существование любой ценой.

2. Робот должен находить и поддерживать доступ к источнику энергии.

3. Робот должен постоянно искать новые, лучшие источники энергии.

*Крупный робототехник, основатель компании WowWee, автор концепции BEAM. Его правила созданы именно для BEAM-роботов, которые построены на основе простых аналоговых цепей — нехитрых, зато надежных и эффективных.

www.popmech.ru

Законы о роботах будут приняты к 2025 году — «Ростех»

Специалисты госкорпорации «Ростех» прогнозируют, что к 2025 году большинство стран мира примут законы, регулирующие деятельность роботов. Также к этому времени во сём мире появятся государственные валюты на основе технологии блокчейн.

«Уже через 2-3 года ключевые технологии перевернут существующие уклады и создадут новые рынки. К 2025 году ряд стран выпустят цифровые государственные валюты на базе блокчейна и примут законы о роботах. К этому же времени объем мирового рынка искусственного интеллекта увеличится почти в 30 раз и достигнет 60 млрд долларов. А объем рынка Интернета вещей, одного из самых крупных и перспективных, -$4.3 трлн. Развитие IoTи беспроводной связи становится одним из ключевых элементов оптимизации труда. Численность операторов станков сократится на 40%, станки будут управляться искусственным интеллектом и взаимодействовать
друг с другом через сети 5G. Мы стоим на пороге колоссальных перемен, и у нас уже есть определенные сферы, в которых мы достаточно успешны, есть достижения и решения, которые мы можем предложить. В России развитый IT рынок, большое количество компаний создают свой высококонкурентный продукт. Теперь это будет работать в едином механизме и позволит добиться тех результатов, которые перед нами поставил президент», — отметил директор по особым поручениям «Ростеха» Василий Бровко.

Василий Бровко представил футурологическое исследование «Видение 2025» по пяти технологическим направлениям, которые закреплены за «Ростехом» в рамках реализации программы «Цифровая экономика РФ»: нейротехнологии и искусственный интеллект, системы распределенного реестра, промышленный интернет, робототехника и сенсорика, технологии беспроводной связи.

Читайте так же:  Форма заявление в пфр об уточнении платежа

Госкорпорация «Ростех» – российская корпорация, созданная в 2007 г. для содействия разработке, производству и экспорту высокотехнологичной промышленной продукции гражданского и военного назначения.

robotoved.ru

Apparat — Журнал о новом обществе

Какие законы будут применяться к роботам

Недавно основатель Tesla и SpaceX Илон Маск в очередной раз заявил об опасности, исходящей от роботов и искусственного интеллекта. Мы собрали уже существующие законодательные инициативы по регулированию машин с искусственным интеллектом.

Маск считает, что искусственный интеллект — «самый большой риск, с которым мы сталкиваемся как цивилизация». Недавно он заявил, что те, кто говорят о «Боге искусственного интеллекта», не должны иметь возможность что-либо делать в области ИИ.

Перед Маском с другим алармистским заявлением выступил Владимир Путин: российский президент заявил, что «властелином мира» станет лидер в сфере создания искусственного интеллекта.

China, Russia, soon all countries w strong computer science. Competition for AI superiority at national level most likely cause of WW3 imo.

«Это начинается…Китай, Россия, вскоре и все страны, которые сильны в компьютерных науках. Конкуренция за превосходство в области искусственного интеллекта на национальном уровне — наиболее вероятная причина начала Третьей мировой войны»

После выступления Маска в заочный спор с ним вступил основатель Facebook Марк Цукерберг. Общаясь с пользователями, он заявил, что не понимает, как основатель Tesla может призывать к замедлению прогресса. В ответ Маск рассказал, что общался с Цукербергом про роботов и у последнего — «ограниченное понимание» вопроса.

На очередной волне этой дискуссии мы решили посмотреть, что думают законодатели в ЕС, Великобритании, США и России по поводу регулирования роботов и искусственного интеллекта.

Европарламент: налог на «электронных личностей»

В мае 2016 года комиссия по законодательству Европарламента предложила считать роботов «электронными личностями», а их владельцам — платить за них налоги. Эту норму предполагалось распространить на все государства — члены ЕС. Парламент отклонил это предложение в феврале 2017 года. Международная федерация робототехники считает предложение опасным: комментируя февральские слушания в ЕП, там заявили, что введение налогов окажет «негативное влияние на конкуренцию и трудоустройство». Чтобы компенсировать ущерб от роботов, в ЕС предлагали собирать деньги с их производителей в специальный фонд. Если бы кто-то пострадал от машины, ему выделили средства из этого фонда.

Великобритания: народное обсуждение влияния ИИ

Британские парламентарии тоже озабочены растущей автономностью роботов и развитием систем искусственного интеллекта. В июле профильный комитет предложил всем заинтересованным лицам и организациям высказаться о возможном влиянии ИИ на общество и экономику, а также обсудить этические вопросы, связанные с искусственным интеллектом. Дедлайн для подачи предложений был 6 сентября.

Весной 2016 года Британский институт стандартов опубликовал «Свод этических правил для роботов». Согласно ему, например, нельзя делать роботов, которые приносят вред человеку, в том числе психологический: то есть пользователю не должно быть неуютно, он не должен испытывать тревогу и стресс. Софт для роботов должен быть прозрачным, за каждой машиной нужно будет закрепить ответственного.

США: ещё налоги

В февральском интервью основатель Microsoft Билл Гейтс предложил облагать роботов таким же налогом, как и людей. Логика проста: если человек на заводе платит каждый месяц определённую сумму в виде налогов, то робот — нет. В предложении Гейтса эксперты отмечают два основных слабых места: во-первых, любые финансовые ограничения в высокотехнологичных сферах серьёзно тормозят прогресс, во-вторых, сейчас роботы всё-таки не заменяют людей, а дополняют их. Опасения Гейтса на более дальнюю перспективу разобрал Bloomberg.

Свой вариант законов робототехники предложил и нынешний CEO Microsoft Сатья Наделла. Среди прочего — прозрачность софта, безвредность роботов, а также ответственность человека за действия машины. Однако его проект, как и похожий список от Google, — это скорее декларация, нежели реальные предложения по регулированию законов.

Тем временем власти некоторых американских городов и штатов уже занялись регулированием робототехники. Так, в Сан-Франциско власти решили запретить роботов, используемых службами доставки. А Департамент транспорта США в сентябре 2016 года выпустил правила для беспилотных автомобилей: они предписывают машинам минимизировать ущерб для людей — как пассажиров, так и прохожих, а производителям — собирать данные о поездках и при необходимости выдавать их регулирующим органам. В ноябре 2016 года замминистра транспорта РФ Николай Асуал заявил, что Россия, США, Евросоюз и Япония разработают единый свод правил эксплуатации беспилотных машин

Россия: роботы как животные

В декабре 2016 года газета «Ведомости» написала о концепции закона, регулирующего роботов. Автор идеи — сооснователь Mail.Ru и Grishin Robotics Дмитрий Гришин. Проект документа он составлял с помощью юристов. Гришин предлагает создать реестр роботов и наказывать их владельцев или производителей в зависимости от нанесённого вреда: например, за «отключение функций, блокирующих возможность причинения вреда человеку». Основа проекта Гришина — законы робототехники Айзека Азимова (робот не может причинить вред человеку; робот должен подчиняться человеку; робот должен заботиться о своей безопасности, если это не противоречит первым двум законам).

В июле 2017 года пресс-секретарь российского президента Дмитрий Песков заявил, что власти ко II кварталу 2019 года должны отрегулировать правовые вопросы робототехники и искусственного интеллекта. Заняться этим также пообещал спикер Госдумы РФ Вячеслав Володин. Учтут ли законодатели предложения Гришина, неизвестно.

apparat.cc


Обсуждение закрыто.