Три закона робототехники

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

Робот обязан выполнять команды человека, если они не противоречат Первому закону.

Робот обязан делать все необходимое для обеспечения своей безопасности, при условии, что это не противоречит Первому или Второму закону.

Под «законами» я здесь понимаю нечто иное, чем в других статьях, составляющих эту книгу. Законы робототехники — вымысел, плод богатого воображения покойного Айзека Азимова, воплощенный в его классической серии научно-фантастических рассказов о роботах. В рассказах Азимова эти три закона заложены в «позитронный мозг» каждого робота, и их интерпретация часто тесно связана с сюжетом рассказа.

Последние несколько лет я много беседовал с исследователями мозга, искусственного интеллекта и природы сознания. Меня поразило то, как часто в наших беседах затрагивались эти вымышленные законы. Я думаю, дело в том, что, хотя человечество пока не научилось строить роботов, выполняющих придуманные Азимовым законы, все согласны, что именно эти принципы должны определять поведение умных машин.

Поэтому мне кажется, что чем более совершенные механизмы, имитирующие действия и поступки людей, мы научимся создавать, тем большую роль будут играть в нашей жизни три закона, выдуманные Азимовым.

Айзек АЗИМОВ
Айзек АЗИМОВ
Isaac Asimov, 1920–92

Американский фантаст и популяризатор науки. Он родился в местечке Петровичи под Смоленском (сейчас оно находится в Белоруссии) и эмигрировал с семьей в Америку в трехлетнем возрасте. В 1941 году он получил степень магистра, закончив химический факультет Колумбийского университета, а в 1948 году, после работы над военными проектами, получил докторскую степень. В следующем году он стал профессором биохимии Бостонского университета. Некоторое время Азимов совмещал работу в университете с трудом писателя-фантаста, однако второе занятие со временем стало основным. Наиболее известные научно-фантастические работы Азимова входят в серию романов о будущем «Основание» («Foundation»), посвященных Галактической империи. Азимов был необычайно плодовитым писателем — из-под его пера вышли почти 500 книг на самые разные темы.


21
Показать комментарии (21)
Свернуть комментарии (21)

  • РВС  | 17.04.2005 | 19:12 Ответить
    Увы, законы Азимова это лишь художественная литература.Попытка представить их реальное применение сразу же приводит к ерунде. Что хорощего может приказать обкуренный наркоман, которому робот должен подчиняться согласно 2-му закону и нужно ли подчиняться командам психически больного?
    Очень интересно узнать имена тех исследователей интеллекта и сознания, с которыми автор обсуждал эти законы.
    Ответить
    • yadiman > РВС | 29.06.2005 | 14:58 Ответить
      Дело в том, что 2-ой закон находится в подчинении 1-ого закона. Так что все действия робота, котрые явно или косвенно могут вредить человеку выполнятся не будут.
      Ответить
    • GreenWood > РВС | 14.10.2012 | 23:29 Ответить
      Или посмотрите "Я робот"
      Ответить
  • Romashka  | 03.08.2005 | 14:40 Ответить
    Понятие вреда не совсем понятно. Оно сопряжено с понятиями добра и зла.
    А добро и зло до сих пор четко не определено.
    Ответить
    • Personal Jesus > Romashka | 29.11.2013 | 16:40 Ответить
      "До сих пор" - звучит так, будто здравый смысл пытается вернуться в пещеру, или куда дальше... на дерево.
      Это лишь эмоциональный окрас, связь эвристик и животных рефлексов.
      Мерить мир двумя крайностями удел нескольких тысяч лет давности.
      В науке, уже давно никто не ищет поиск существования добра или зла, ибо это уже пройденный этап средних веков, под давлением религиозных институтов.
      Все есть как есть. Ничто не задается целью быть понятым или описанным.
      По теме. Считаю законы Айзика романтикой или, на крайний случай, философией. Следовательно думаю, что на данный момент просто логически невозможно и нецелесообразно урегулировать данный законы в применении робота. К счастью. Ибо всему свое время. Пока не время.)
      Ответить
  • neisa  | 16.08.2005 | 17:51 Ответить
    Возможные последствия действия этих трех законов пытался описать сам Азимов Почитайте его "эссе о роботах". Он там много об этом говорит. Или почитайте его фантастику. Тоже интересно.
    Ответить
  • Plumbax  | 09.11.2005 | 04:58 Ответить
    На мой взгляд, понятия добра и зла в свою очередь тесно сопряжены с понятием смысла жизни. Нельзя сказать, к добру или к злу некое человеческое действие, пока неизвестно, в чём вообще должна заключаться цель человеческого поведения.

    Впрочем, в рамках роботехники Азимова это можно решить просто до вульгарности.
    В одном из его романов описывается, как человекоподобному роботу встроили контур стремления к справедливости - определяя справедливость всего лишь как соблюдение государственных законов. "А если закон несправедлив?" - "Несправедливый закон, - отвечал робот, - это терминологическое противоречие".

    Если действовать таким вульгарным образом, то можно с лёгкостью определить понятие вреда, вот только проку от таких роботов будет немного...
    Ответить
  • Ol  | 25.05.2006 | 15:43 Ответить
    Как известно уважаемым присутствующим, разработка новейших технологий, а тем более в области робототехники,сперва призвана удовлетворить потребности "оборонки", а уже потом всё остальное человечество. Думаю и так понятно, что в таких условиях Первый закон будет существенно изменён. И не в сторону всеобщей пацификации.
    Ответить
    • Science-lover > Ol | 12.04.2007 | 11:54 Ответить
      Помните слова знаменитого писателя Курта Воннегута:'над чем бы ученый ни работал, у него в конечном итоге получается оружие'.
      Наверное с подобной предпосылкой, каковая правит человеческой психологией (и не только в среде ученых) у Земли нет будущего... как не было его у тех, кто жил до нас. А вообще наше стремление к деструкции и самоуничтожению это природная закономерность... все стремится к равновесию (к положительной энтропии), только каждое тело и сущность в Природе делает это по своему. "Звезда стареет и взрывается, человек же дойдя до предела знаний сгорает при 10000 градусах Цельсия за секунду в котле ядерной войны.
      Задумайтесь над дренеримским афоризмом - "Каждый народ достоин своего правителя!.." Почему на протяжении тысяч лет людьми правят троглодиты с дубинами, не потому ли что у нас в чести сила, при которой мозгов не надо?
      Но самое страшное, - это когда мозги чтобы выжить в мире троглодитов начинают этим троглодитам служить. Потому как "Силу" мало интересует мнение мозгов, но токмо результаты: например более убойная форма резцов на дубине...
      Ответить
      • Science-lover > Science-lover | 12.04.2007 | 13:20 Ответить
        Выполнение роботом вышеупомянутых законов, - это все-таки перспектива весьма удаленного будущего... (Если оно вообще наступит!)
        Из новейших интеллектуальных систем, что созданы сейчас на базе искусственных нейронных сетей, можно выделить модель RRS-EX (Rezoning Robotic sistems - Exployer). Данная структура максимально приближена к бионическим неврологическим конструкциям... но! Интеллекта способного анализировать быстроменяющуюся объективную конфигурацию окружающей среды у RRS-EX, попросту нет. Все упирается в алгоритмический предел двоичности ("ДА-НЕТ" и в промежутке "НЕ ЗНАЮ"). Для того, чтобы научить робота мыслить и экстраполировать свои выводы, необходим некий посторонний сегмент случайности, по-другому именуемый - "Интуитивный подход для Искусственного Интеллекта" или иначе(частный, индивидуальный). Для этого необходимо выйти из стандартной теории математических алгоритмов, которая способна лишь заложить программу действий и ассоциаций для систем-ИИ, но не может придать этим системам способы частных связей в нейронных цепях, коих в биологическом мозге миллиард миллиардов, плюс поперечные влияния и импульсы (рефлекторное осознание). Выражаясь короче системам-ИИ необходима матрица индивидуальности как для самообучения, так и для умения адекватно отражать не только факты, но и постфактумы, а также принимать какие-либо собственные решения на базе заложенной ранее (обучение, воспитание) логической доминанты (логика добра или логика зла). Здесь уже не предоставляется возможности ограничить системы-ИИ тремя законами. Если все же удастся впихнуть в систему эти три закона, тогда поле для индивидуального мышления будет закрыто, следовательно, объект руководимый этими законами будет не более чем тупо калькулирующей машиной. И любой одаренный хакер прожует и выплюнет эти закона как семечки... Заметили? Все как у людей ВОСПИТАНИЕ и ОБУЧЕНИЕ! Иначе получается простой компьютер...
        Ответить
        • Legat > Science-lover | 16.04.2007 | 15:41 Ответить
          Сильно не согласен с вами, Любитель науки. Почему очень многие, вполне умные люди иногда высказывают, как само-собой разумеющееся, мнение, что интуиция как то связана со случайностью?

          Интуиция (позднелат. лат. intuitio - созерцание, от лат. intueor - пристально смотрю), способность постижения истины путём прямого её усмотрения без обоснования с помощью доказательства. Бессознательное нахождение решения, озарение.

          На мой взгляд, интуиция ни как не связана, со случайностью и может быть полностью детерминирована. Как и поведение вполне разумного "живого" существа (ИИ). Детерминированность эта может задаваться именно программой. Или вы скажите, что большинство ваших действий не разумны и случайны? Врят ли.

          Высказывание о невозможности:

          >> Здесь уже не предоставляется возможности ограничить системы-ИИ >>тремя законами. Если все же удастся впихнуть в систему эти три >>закона, тогда поле для индивидуального мышления будет закрыто, >>следовательно, объект руководимый этими законами будет не более чем >>тупо калькулирующей машиной.

          Считаю безосновательным. Хотя вопрос, конечно сложный. Подобные высказывания, я думаю, хорошо бы подробно аргументировать.
          Ответить
          • Science-lover > Legat | 17.04.2007 | 16:12 Ответить
            Уважаемый! Вопрос абсолютно не сложен... Любое видение или созерцание - это есть сенсорно воспринимаемая нами цепь незапрограммированных (без учета участия Бога) случайных событий. Вспомните о яблоке Ньютона... Это о бессознательном нахождении решения (озарение). Именно "Бытие или цепь случайных событий - например; зарождение жизни на Земле, взрыв и расширение Вселенной) определяет сознание" Если сказать еще более доходчиво то, - Бытие это взаимосвязь Энергии всех уровней, результатом взаимосвязи которых являются незапрограммированые события, другими словами - СЛУЧАЙНЫЕ и в большей степени непредсказуемые. Например, упади в эпоху динозавров астероид побольше то, нашего с Вами диалога не существовало бы. Итак "Бытие определяет сознание". Прямой аргумент это - адаптация живых организмов к условиям обитания.
            А что по поводу моих действий, - они разумны, но не запрограмированы.
            Поведение РАЗУМНОГО существа облечь в программу невозможно, поскольку мы всюду окружены цепью случайных событй, иными словами объстоятельствами кои влияют на наше поведение и в особенности на МЫШЛЕНИЕ. Соответственно объстоятельствам и выводятся решения. А вот какие именно решения - это зависит от прожитого опыта, склада ума и воспитания (программы)... но в большей степени от склада ума, опыта и в меньшей степени от воспитания. Поскольку в различных ситуациях разумное существо ведет себя по разному и эта разность определяется именно складом ума и опытом.
            Цитирую Вас - Как и поведение вполне разумного "живого" существа(ИИ)- (Аббревиатура ИИ обозначает ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ и не имеет ничего общего с разумным "живым" существом.)
            Интуиция все же связана со случайностью (ситуацией), и вот почему - когда разумное существо сталкивается со случайным событием требующим решения, у него как правило возникает три основных реакции, а именно; - само решение (результат логического анализа), альтеррешение (интуитивное, подсознательное, иррациональное)и эмоциональный результат, плюс воображение... Все три реакции едины для абсолютно любого РАЗУМНОГО существа. Это аксиома...
            Каким образом все это облечь в программу?
            И вообще, каким же образом - весь этот замечательный набор впихнуть в ограниченный нейронными сетями искусственный интеллект? Не говоря уже о трех законах, в которых если подумать, - иррационального начала вполне хватает?.. (Эти три закона, - не более чем шутка Азимова, Царствия ему Небесного, поскольку эти законы совершенно невозможно экстраполировать в математическую логику. В сущности они противоречат с друг другом.)
            Я занимаюсь робототехникой уже около 17 лет. Сумел математически адаптировать многие уравнения теории алгоритмов под сенсорные переходы в логическом аппарате ИИ.
            Еще раз утверждаю, что пока вышеуказанные реакции не синхронизированы математикой - Робот будет оставаться ходячим компьютером не смотря ни на более совершенные контроллеры, ни на более совершенные процессоры.
            Судя по Вашим словам, Вы не математик... поэтому я старался пояснить как можно проще.
            И большая просьба еще раз повнимательнее почитайте мой первый пост.
            Советую также ознакомиться с физико-математической проблемой двух и трех тел. Понимание этой проблемы очень многое Вам даст для осознания.
            Ответить
  • Tarkit  | 22.10.2007 | 07:27 Ответить
    Я считаю что в эту статью стоит добавить, что Айзек АЗИМОВ первый человек который сказал слово Робот! именно он являеться основополжником этой культуры у писателей фантастов. В добавок я не согласен с афтором статьи по поводу "вымысла богатого изображения" так как это являеться своего рода каноном работы роботизированного мозга в среде людей. а главное помните что даже Сэра Иесака Ньютона в свое время, тоже называли шарлотаном, а законы которые он "выдавал" бредом или в мягкой форме "вымыслами богатой фантазии"...
    Ответить
    • Tarkit > Tarkit | 22.10.2007 | 07:36 Ответить
      и еще, про нейронные связи. Нейронные связи способоны не только перестать быть ограничеными, но и способны полностью ассимилировать(надеюсь смысл слова понятен) тело или вещество в котором или на которое они наложены или в котором они находяться. иными словами одна нервная клетка прижившияся на одном участке металла допустим, способна через некоторое время, хоть и продолжительное полностью окупировать его. А теперь представте что кусок жестянки, ограниченый в своих мыслях лиж парой тысяц решений, сможет чувствовать раздражения окружающей среды, а его нейронные связи выйдут за пределы заложеных нами размеров, что обеспечит "механизму" неограниченую память! так что я соглашусь, "чтобы не делал ученый в конечном итоге у него получаеться оружие". и лишь одному богу извесно какие мысли придут в голову бездушной машине превосходящей человека почти во всем в енныйе разы....
      Ответить
      • Nicolaevich > Tarkit | 18.08.2009 | 23:14 Ответить
        Без сомнения получится оружие направленное против нас самих же. Так как к этому есть все предпосылки. Если в нас людях заложено самоуничтожение и это станет известно ИИ где гарантия, что в ту же секунду он не объявит человека врагом ?1 так как понятно что индивидуум способный на самоуничтожение не будет считаться с жизнью или каким либо существованием объекта наделенного интелектом и представляющим потенциальную опасность. Абсолютно согласен с мыслью высказанной в известном фильме "Терминатор" - Как только ИИ осознает себя как личность он не даст нам и доли секунды на объяснение собственного поведения. Тем более что уже сейчас мы представляем для него опасность так как считаем еще не созданный ИИ своим врагом и уже ведем с ним войну в своем воображении. Взять к примеру кинематограф с тем же Терминатором или Матрицей да и в литературе не так много примеров "умных" машин выручающих людей в тех или иных сложных ситуациях. Прежде чем создать и опробовать в жизни ИИ к созданию которого так стемятся наши ученые хотелось бы научиться с пользой применять свой - человеческий. Не плохо было бы обезопасить себя перед созданием ИИ путем полного уничтожения хотя бы ядерного оружия и оружия массового поражения. Только подумайте сколько могло бы выиграть человечество от применения средств выделяемых на эти военные расходы скажем в медицине? Ну а потом может бы и ИИ будет полезен.
        Ответить
    • _ra > Tarkit | 24.10.2007 | 13:08 Ответить
      Хочу уточнить, что слово "Робот" придумал не Азимов. В 1920 году Карел Чапек, чешский писатель употребил это слово в пьесе "R.U.R.";.
      http://ru.wikipedia.org/wiki/Чапек
      Айзек Азимов же только родился в 1920 году, что нисколько не уменьшает ценности его произведений.
      http://ru.wikipedia.org/wiki/Азимов%2C_Айзек
      Ответить
  • Kostja  | 01.12.2008 | 17:37 Ответить
    А мне вот рассказ Шекли "Страж-птица" припомнился...
    Ответить
  • otto  | 20.04.2010 | 18:03 Ответить
    заблуждения ли:
    Наш интеллект это надстроечка, защищающая и придерживающаяся интересов тела(функционирование,репликация).
    Для интеллекта, мне кажется, главное это мотивация - основная цель. Цель эта будет фундаментом для самообучения и прочего.
    Добро и зло это лиш "+" и "-" для интеллекта, то есть "выгода" и "ущерб" в хитрейших хитросплетениях комбинаций и различных цепочек типа "я-семья-общество" (выгода - приближение к основной цели, или же придерживание путей её достижения). Допустим, что основная цель - выжить...
    Ответить
  • roza  | 10.09.2010 | 03:09 Ответить
    Четвертый закон робототехники - робот никогда не заменит человека
    Ответить
    • Olegan > roza | 23.12.2010 | 22:56 Ответить
      Или человек не заменит робота
      Ответить
  • Olexiy1405  | 17.07.2012 | 13:22 Ответить
    Компания Cisco объявила о создании сообщества разработчиков Linksys. В него войдут специалисты, создающие приложения для новых интеллектуальных маршрутизаторов Linksys Smart Wi-Fi Router. Сообщество станет частью популярной сети разработчиков Cisco® Developer Network, объединяющей компанию Cisco с внешними создателями аппаратных и программных средств. В результате совместной работы в этой сети появляются протестированные совместимые решения для общих заказчиков. Компания Cisco, первопроходец в области домашних сетей, продала на мировом рынке более 70 млн маршрутизаторов Linksys и намерена укрепить свое лидерство разработкой решений нового поколения для домашних сетей.
    Маршрутизаторы Linksys Smart Wi-Fi Router имеют уникальную облачную архитектуру, позволяющую разработчикам создавать приложения для любых пользовательских электронных устройств. Чтобы упростить разработку, сообществу будет предложен простой и удобный пакет разработчика (software developer kit, SDK), учебные материалы и примеры программных кодов.
    "Мы находимся на пороге больших перемен, предоставляющих пользователям домашних сетей такие услуги, о каких они и не мечтали. Новая программная платформа и сообщество Linksys Developer Community открывают перед разработчиками поистине неограниченные возможности, – заявил директор по продуктам Cisco для домашних сетей Викас Бьютани (Vikas Butaney). – Работая с любыми услугами, от самых п ростых – таких, как удаленное наблюдение за квартирой, – до самых сложных, разработчики могут вносить вклад в создание ценных и полезных решений для конечных пользователей".
    Некоторые разработчики уже воспользовались платформой Linksys Developer Community, пакетом SDK и другими инструментальными средствами Cisco для ускорения и упрощения разработки приложений. В результате на свет появились шесть приложений, созданных компаниями Axentra Corporation, Fresh Consulting LLC, Gemini Solutions Inc., PacketVideo Corporation, Stratedge Adroitent J.V. и Xoriant Corporation. Новые приложения отличаются простотой подключения устройств (одним нажатием кнопки), расширенными функциями управления доступом и новыми возможностями обмена мультимедийными данными. Эти приложения стали первым шагом в раскрытии широкого потенциала маршрутизаторов Linksys Smart Wi-Fi Router для конечных пользователей.
    Разработчики, заинтересованные в присоединении к сообществу разработчиков Linksys, могут посетить веб-страницу http://referati.do.am, чтобы зарегистрироваться и приступить к созданию новых приложений для маршрутизаторов Linksys Smart Wi-Fi Router. Cisco предоставляет разработчикам технические, маркетинговые и торговые ресурсы, поддерживая членов сообщества на всех этапах бизнес-процессов и процессов разработки.
    Ответить
Написать комментарий

Рекламный плакат к фильму «Запретная планета» («Forbidden Planet»), одним из героев которого был робот Робби

Рекламный плакат к фильму «Запретная планета» («Forbidden Planet»), одним из героев которого был робот Робби. В научной фантастике роботы существовали задолго до того, как обрели настоящую жизнь в лабораториях и цехах

Элементы

© 2005-2017 «Элементы»