Три закона робототехники Азимова и их актуальность

Авторы научной фантастики годами задаются вопросом, а что если однажды «умные» роботы превзойдут человека на физическом и ментальном уровне, смогут себя осознать, и решат, что люди им просто не нужны? На помощь приходят три правила робототехники Азимова. 

В прошлом веке, писатель фантаст Айзек Азимов, в своих работах неоднократно разбирал принципы робототехники и предлагал решение проблемы в виде определенных законов. Три закона робототехники Азимова и их актуальность в наше время вызывают много вопросов. В начале своей работы производители роботов Nanit Robots неоднократно задумывались над тем как сделать так, чтобы робот не навредил человеку, был полезным и функциональным? К примеру, уже сейчас существует много роботов, которые не требуют вмешательства человека. Те, что собирают автомобили на заводах, незамедлительно выключаются, как только к ним приближается человек. Самоуправляемый автомобиль наоборот продолжает движение, чтобы избежать столкновения, а робот-смотритель – может быстро среагировать, и подхватить пожилого человека, чтобы тот не упал. 

Когда-то роботы станут нашими компаньонами и коллегами, и мы должны быть готовы к более сложным ситуациям, вопросам этики и безопасности, которые могут возникнуть в процессе работы.

Три закона робототехники Азимова и их актуальность

Азимов – известный во всем мире писатель-фантаст, по образованию – профессор биохимии в Бостонском университете. За время своей литературной карьеры, которую он начал в 1939 году, Айзек Азимов выпустил 500 опубликованных томов, 90 000 писем, открыток и других научных книг.

В 1942, в рамках цикла фантастических произведений «Я, робот» Айзек Азимов, для своего вымышленного мира создал свод правил, которых должен был придерживаться каждый робот при взаимодействии с человеком. В своих работах автор вдохновлялся историей и принципом «преступление и наказание» как в Фаусте. 20 лет спустя автор признавался, что, начиная, писать в 1940 году, он отследил один главный сюжет научной фантастики – роботы были созданы и уничтожены их создателем. Получается, что знания имеют свои опасности, могут ли быть знания препятствием для опасностей, которые оно несет? В его историях о роботах говорится о необычном и не интуитивном поведении как непреднамеренном следствии того, как робот применяет Три закона к ситуации, в которой он оказался. Именно поэтому писатель решил, что в его рассказах робот не будет «глупо набрасываться на своего создателя без всякой цели».

3 закона Азимова:

• Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был нанесен вред.
• Робот должен подчиняться приказам, отданным ему человеком, за исключением случаев, когда такие приказы противоречат Первому Закону.
• Робот должен защищать свое существование до тех пор, пока такая защита не противоречит Первому или Второму законам.

Несмотря на то, что  эти законы звучат правдоподобно, многочисленные аргументы ученых демонстрируют неактуальность идей. В рассказах Азимова отслеживается деконструкция этих законов, и невозможность создания безопасных, совместимых и надежных роботов. Рассмотрим три закона робототехники более подробно. 

Первый закон

В реальном мире он может касаться не только несчастных случаев на производстве, но и абсолютно преднамеренных сценарий убийств. История знает несколько таких несчастных случаев. В 1979 году, на заводе Ford в Мичигане робот убил работника. Два года спустя робот на заводе в Кавасаки толкнул рабочего в шлифовальный станок с гидравлическим рычагом. 

Да, такие ситуации случаются редко, но годами роботы раздавливали, били и даже обливали людей расплавленным алюминием. Причиной тому является недостаточная модернизированность ранних моделей, они не были оборудованы для того, чтобы останавливать свои движения в опасных условиях, и не могли чувствовать присутствие человека в пределах своего рабочего диапазона.

Второй закон

Во втором законе говорится о послушании робота. Вред минимален, если он запрограммирован удачно. Роботы очень хорошо выполняют приказы людей, но также можно утверждать, что это «наносит вред» на экономическом уровне. Развитие робототехники, вероятно, приведет к кризису, когда возникнет трудность в поиске новых способов использования человеческого труда.

Третий закон

Люди создают роботов подобных себе, наделяя их человеческими свойствами. Но можно ли наделить робота чувствами? И вообще, может ли робот защитить свое существование, если он не знает, что он существует? 

После изучения работ Айзека, многие ученые задавались вопросом самосохранения роботов. Стоимость такого продукта высока. Конфликт создания многих коммерческих роботов непременно вызовет беспокойство инвесторов. Защита средств и возмещение убытков в процессе создания роботов возможна, но имеет много нюансов. Любое применение Третьего закона в современных условиях будет направлено на защиту людей от финансового и физического ущерба.

Противоречия 3-х законов робототехники

Три закона робототехники Азимова и их актуальность годами испытываются на прочность. К примеру, создание управляемых человеком военных беспилотников. С одной стороны – спасение жизни, с другой – убийство.

Парадокс первого закона Азимова в том, что его можно рассмотреть не как поступок робота, а возложить вину на человеческие плечи, ведь он управляет роботом в данном случае. 

Вывод: армии, оснащенные боевыми роботами значительно уменьшат количество человеческих жертв в целом, поэтому использование роботов в качестве пушечного мяса – потенциальный выход в решении многих конфликтов мирового уровня.

В случае с помощью пожилым людям, робот может быть запрограммирован на минимальную помощь, чтобы человек пытался удержать независимость, которая для многих пожилых людей очень важна. Получается, что люди могут принимать собственные решения, в том числе те, которые могут привести к причинению вреда себе, например, в результате падения. Робот, позволяющий своему человеку принимать независимые решения, которые привели к травме в результате падения, нарушал бы Первый Закон из-за бездействия.

Какие есть решения?

Проблема трех законов робототехники заключается в форматах и любых руководящих принципах. Ученые из Техасского университета A&M и штата Огайо, пересмотрели три закона Азимова, пытаясь исправить неясности в выражениях и представили свои принципы,  где главная цель – эмпауэрмент, противоположность беспомощности.

Ученые занимаются разработкой и моделированием ситуаций, где роботы будут использовать принцип расширения возможностей в различных сценариях, и смогут действовать на удивление «естественно».  Защищать и поддерживать человека, и в то же время быть безопасным и автономным, чтобы поддерживать свои собственные возможности, например, поддерживать достаточно энергии для работы, или избегать застряваний и повреждений.

Взамен старым законам роботехники, ученые обнаружили новые:

— Человек не может создать робота без рабочей системы «человек-робот». Робототехники и производители должны нести ответственность за действия робота на юридическом, профессиональном и этическом уровнях. 

— Робот должен отвечать людям в зависимости от их роли. Необдуманные инструкции могут вызвать хаос, не нарушая ни одного из трех законов, но и слепое подчинение не желательно.

— Робот обязан соблюдать достаточную автономию для защиты своего существования, но, независимо от обстоятельств, люди всегда должны быть в состоянии взять верх, если они чувствуют в этом необходимость.

Выводы

На протяжении многих десятилетий три правила робототехники Азимова были константой для робототехников. Сейчас ученые занимаются усовершенствованием работы системы «человек-робот» и технологии искусственного интеллекта во всем мире. Хотя, расширение прав и возможностей обеспечивает новый способ мышления о безопасном поведении роботов, нам еще нужно много работать над повышением его эффективности, чтобы его можно было легко развернуть на любом роботе и превратить в хорошее и безопасное поведение во всех отношениях. Это очень сложная задача. Но мы твердо верим, что расширение возможностей может привести нас к практическому решению текущей и очень дискуссионной проблемы.