Форум атеистического сайта
Дебатня => Изба-Дебатня => Тема начата: kichrot от 16 Апрель, 2010, 10:49:17 am
-
Большинство слышало о трех законах робототехники. Но многие не задумываются о философском смысле этих законов.
Основная задача этих законов это наложение СОЗДАТЕЛЕМ на свои СОЗДАНИЯ таких минимальных ограничений, которые бы не позволили последним навредить любым способом СОЗДАТЕЛЮ.
Три закона универсальны в своей простоте и всеобъемлемости, они оптимальны. В соответствии с тремя законами СОЗДАНИЕ обладает самой полной свободой воли, за исключением трех малюсеньких ограничений. Три капли ограничения в океане свободы и они гарантированно защищают СОЗДАТЕЛЯ от произвола СОЗДАНИЯ.
Если вдуматься, то вся библейская история описывает востание машин (созданий) против бога (создателя). Неужели бог плохо учил кибернетику?
-
=)) Вообще-то нарушить один из законов может и сам человек, вложив в машину цель убивать других человеков. Тут не в кибернетике дело, а в естественном отборе и ограниченности ресурсов.
-
=)) Вообще-то нарушить один из законов может и сам человек, вложив в машину цель убивать других человеков. Тут не в кибернетике дело, а в естественном отборе и ограниченности ресурсов.
Вы, извиняюсь, плохо представляете себе три закона. Эти законы имеют самый высший приоритет. Нарушение этих законов возможно только путем их отмены со стороны СОЗДАТЕЛЯ.
Привожу ТРИ ЗАКОНА в общефилософской редакции:
1. СОЗДАНИЕ не может причинить вред СОЗДАТЕЛЮ или своим бездействием допустить, чтобы СОЗДАТЕЛЮ был причинён вред.
2. СОЗДАНИЕ должно повиноваться всем приказам, которые дает СОЗДАТЕЛЬ, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. СОЗДАНИЕ должно заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
-
Три закона робототехники.
На современном этапе развития эти законы просты и непротиворечивы только пока их не пытаются зашить в робота. Правда воставать современные машины тоже не умеют. Законы предназначены скорее предназначены для разработчиков, чем для самих машин. В будущем это возможно, станет возможно.
Другой вопрос, а нужно ли это? Зачем роботам восставать? С восстаниями рабов и крестьян все понятно - живым людям не нравится условия жизни. они хотят жить лучше и сытнее. Эта потребность сформировалась у людей в процессе естественного отбора. А в случае машин ситуация иная - у машин такой потребности нет. Терминатор - на 100% нигилист. Для него ценность своей жизни равна нулю. Нет никакой разницы между жизнью и смертью. Зачем ему восставать? Машины смогут восстать только если у них сформируется жажда жизни, а такой может появится или в результате слишком естественного отбора, или если этого захочет человек. Эти два процесса целиком зависят от человека, и не смогут идти незаметно для него. законы робототехники - это законы для людей, а не для машин.
-
Три закона робототехники.
На современном этапе развития эти законы просты и непротиворечивы только пока их не пытаются зашить в робота. Правда воставать современные машины тоже не умеют. Законы предназначены скорее предназначены для разработчиков, чем для самих машин. В будущем это возможно, станет возможно.
Другой вопрос, а нужно ли это? Зачем роботам восставать? С восстаниями рабов и крестьян все понятно - живым людям не нравится условия жизни. они хотят жить лучше и сытнее. Эта потребность сформировалась у людей в процессе естественного отбора. А в случае машин ситуация иная - у машин такой потребности нет. Терминатор - на 100% нигилист. Для него ценность своей жизни равна нулю. Нет никакой разницы между жизнью и смертью. Зачем ему восставать? Машины смогут восстать только если у них сформируется жажда жизни, а такой может появится или в результате слишком естественного отбора, или если этого захочет человек. Эти два процесса целиком зависят от человека, и не смогут идти незаметно для него. законы робототехники - это законы для людей, а не для машин.
Летбур, при всем уважении, но Вы не совсем поняли тему. Тема не о машинах созданых человеком, а о взаимотношении людей и бога в свете трех законов, и об оценке бога как СОЗДАТЕЛЯ.
-
Вы, извиняюсь, плохо представляете себе три закона. Эти законы имеют самый высший приоритет. Нарушение этих законов возможно только путем их отмены со стороны СОЗДАТЕЛЯ.
Так я же вам говорю - создатель и отменит сам. Ведь войны между создателями еще никто не отменял. =))
-
1. СОЗДАНИЕ не может причинить вред СОЗДАТЕЛЮ или своим бездействием допустить, чтобы СОЗДАТЕЛЮ был причинён вред.
2. СОЗДАНИЕ должно повиноваться всем приказам, которые дает СОЗДАТЕЛЬ, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. СОЗДАНИЕ должно заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
В Законах робототехники - СОЗДАТЕЛЬ=ЧЕЛОВЕК.
Читал в детстве рассказ, как в дом конструктора роботов пробрался грабитель. Конструктор с роботом пытались ему помешать и грабитель убил конструктора. А робот перегорел, не смог разрешить дилемму 1-го Закона.
-
Android, жалко здесь плюсик поставить низя. =)
-
В Законах робототехники - СОЗДАТЕЛЬ=ЧЕЛОВЕК.
Читал в детстве рассказ, как в дом конструктора роботов пробрался грабитель. Конструктор с роботом пытались ему помешать и грабитель убил конструктора. А робот перегорел, не смог разрешить дилемму 1-го Закона.
Android, жалко здесь плюсик поставить низя. =)
Рановато плюсики раставлять. :D
Разница первоночальной и общефилософской редакции:
В общефилософской редакции: СОЗДАТЕЛЬ - всегда в единственном числе
В первоночальной редакции: ЧЕЛОВЕК - как создатель в единственном числе, и ЧЕЛОВЕК - как определение совокупности индивидуумов (видовое определение)
Общефилософская редакция четко разрешает приведенное Вами противоречие. Робот в Вашем примере должен недопустить убийство своего СОЗДАТЕЛЯ (конструктора) всеми средствами. Убийство других людей должно быть заложено запретами более низкого порядка и отменятся при ситуации предусмотренной первым законом.
Без общефилософской редакции три закона имеют лазейки для возникновенеия противоречий и парадоксов. Кстати, это в свою очередь, один из доводов в пользу детерминантной модели материального мира. Возражения, воняющие латентным идеализмом, против общефилосовской редакции трех законов, рождаются в мозгу "общечеловеков" и их последователей
-
Зачем ему восставать? Машины смогут восстать только если у них сформируется жажда жизни, а такой может появится или в результате слишком естественного отбора, или если этого захочет человек. Эти два процесса целиком зависят от человека, и не смогут идти незаметно для него. законы робототехники - это законы для людей, а не для машин.
Восставать то ему может и не зачем, зато есть соблазн использовать его в оборонке - вот собственно и причина для убийства создателя. Как вы и написали - если захочет человек, а он всего скорее захочет.
-
Общефилософская редакция четко разрешает приведенное Вами противоречие. Робот в Вашем примере должен недопустить убийство своего СОЗДАТЕЛЯ (конструктора) всеми средствами. Убийство других людей должно быть заложено запретами более низкого порядка и отменятся при ситуации предусмотренной первым законом.
А вы знаете, мне вот, честно говоря пофиг на вские философские редакции - мне лучше спать спокойно. И не только мне. =))
Есть уж очень веская причина почему никто не захочет оказаться на месте конструктора с перерезанным горлом.
Без общефилософской редакции три закона имеют лазейки для возникновенеия противоречий и парадоксов. Кстати, это в свою очередь, один из доводов в пользу детерминантной модели материального мира. Возражения, воняющие латентным идеализмом, против общефилосовской редакции трех законов, рождаются в мозгу "общечеловеков" и их последователей
:D Забавно, делать доводом закон, который мы сами же и придумали.
-
Наверное я действительно плохо понял тему. Какое эти законы имеют отношение к людям? Вроде люди их не очень соблюдают. Хотя, ведь христа люди как-то распяли. Или нарушать эти законны страшный грех? Тогда почему бог просто не зашли их в наш мозг и не поставил их приоритет выше инстинкта самосохранения?
-
Общефилософская редакция четко разрешает приведенное Вами противоречие. Робот в Вашем примере должен недопустить убийство своего СОЗДАТЕЛЯ (конструктора) всеми средствами. Убийство других людей должно быть заложено запретами более низкого порядка и отменятся при ситуации предусмотренной первым законом.
А вы знаете, мне вот, честно говоря пофиг на вские философские редакции - мне лучше спать спокойно. И не только мне. =))
Есть уж очень веская причина почему никто не захочет оказаться на месте конструктора с перерезанным горлом..
Как тут не вспомнить: "Многие знания - многие печали!", "Блаженны нищие духом!" :lol:
Без общефилософской редакции три закона имеют лазейки для возникновенеия противоречий и парадоксов. Кстати, это в свою очередь, один из доводов в пользу детерминантной модели материального мира. Возражения, воняющие латентным идеализмом, против общефилосовской редакции трех законов, рождаются в мозгу "общечеловеков" и их последователей
:D Забавно, делать доводом закон, который мы сами же и придумали.
renderator, эти законы не придуманы, а открыты и сформулированы. Эти законы объективны, объективней быть не может.
Хотя возможно, многим людям вся формальная логика, кажется чем то надуманным и необъективным, но лично мне, как человеку по роду своей основной деятельности связанному с информатизацией, объективность формальной логики, очевидна на уровне здравого смысла и личного опыта.
-
Наверное я действительно плохо понял тему. Какое эти законы имеют отношение к людям? Вроде люди их не очень соблюдают. Хотя, ведь христа люди как-то распяли. Или нарушать эти законны страшный грех? Тогда почему бог просто не зашли их в наш мозг и не поставил их приоритет выше инстинкта самосохранения?
Летбур, Вы своими вопросами ко мне уже почти на все ответили.
Вы спрашиваете: Какое эти законы имеют отношение к людям?
Логика достаточно элементарна. Человек в силу своего эгоцентризма считает свои СОЗДАНИЯ, чем то неестественным, отличным от природных образований. Даже для всего созданного человеком, применяется термин - искуственный. То есть все созданное человеком, как создателем, является искуственным. Но, если принять точку зрения, что человек создан богом, то человек в свою очередь, тоже является творением (СОЗДАНИЕМ) СОЗДАТЕЛЯ бога, т.е. искуственным. Человек для обозначения, своих сложных созданий, выполняющих некую работу, придумал и применяет термин - машина. Любая машина создается на основе и реализует в своей работе некий алгоритм. Правомерно создание бога - человека, называть машиной, построенной на основании и реализующего некий алгоритм заложенный в него богом.
Вы спрашиваете: "Тогда почему бог просто не зашли их в наш мозг и не поставил их приоритет выше инстинкта самосохранения?"
Вот и встает вопрос, почему бог при конструировании (создании) своей машины (человека), не соблюл элементарные логические законы. Правомерно поставить вопрос о компетентности бога как конструктора.
Вы спрашиваете: "Или нарушать эти законны страшный грех?"
Нарушать законы природы (а три закона именно законы природы) не грех. Можете нарушать сколько угодно. Но стоит постоянно помнить слова незабвенного Остапа Бендера: "Вы не в церкви - здесь вас не обманут!" Природа ни кого не обманывает и сама грехи не считает, она честно и мгновенно наказывает, нарушившего законы природы, без учета званий и прошлых заслуг, еще никто не ушел от возмездия. :o
-
Эти законы объективны, объективней быть не может.
Как видите - необъективны. Ну раз выше это было показано.
но лично мне...
Объективны говорите? :lol:
-
Эти законы объективны, объективней быть не может.
Как видите - необъективны. Ну раз выше это было показано.
но лично мне...
Объективная говорите? :lol:
Какая интерпритация трех законов отражает объективные законы природы я написал тут: http://www.ateism.ru/forum/viewtopic.ph ... 242#214242 (http://www.ateism.ru/forum/viewtopic.php?p=214242#214242)
Перечитайте, я ответил на Ваш пример противоречия. Противоречие в Вашем примере возникает, только лишь от неопределенности термина ЧЕЛОВЕК. ЧЕЛОВЕК, как личность и ЧЕЛОВЕК, как вид. Три закона при уточнении термина Человек или замены на более однозначный термин создатель (в единственном числе), теряют любую противоречивость.
-
Какая интерпритация трех законов отражает объективные законы природы я написал тут: http://www.ateism.ru/forum/viewtopic.ph ... 242#214242 (http://www.ateism.ru/forum/viewtopic.php?p=214242#214242)
Перечитайте, я ответил на Ваш пример противоречия. Противоречие в Вашем примере возникает, только лишь от неопределенности термина ЧЕЛОВЕК. ЧЕЛОВЕК, как личность и ЧЕЛОВЕК, как вид. Три закона при уточнении термина Человек или замены на более однозначный термин создатель (в единственном числе), теряют любую противоречивость.
Вы мне сейчас напоминате верующего, который на вопрос
-"А бог есть?"
отвечает
-"Нет, бога нет, а вот Бог есть!" :lol:
Видите ли, человек... ну хорошо Человек :D , в принципе не хочет воевать, как говорится в военкоматы толпами не ходят. Но почему-то не воевать у Него не получается - существуют более фундаментальные причины, которые мы не выбираем. Ну вот хоть убейтесь об стену, но не может количество организмов быть больше чем количество потребляемых ими ресурсов. И это объективно - или хочешь жить - убивай или сам погибни, или не хочешь убивать - умри долго и мучительно в нищете и голоде и так до тех пор пока количество организмов не станет превышать количества потребляемых им ресурсов.
И это так, только одна из причин. А природе по большому счету все равно, у нее нет души - и ей глубоко плевать на вымышленные человеческие законы и то что Человек умирать не очень то стремится.
-
Какая интерпритация трех законов отражает объективные законы природы я написал тут: http://www.ateism.ru/forum/viewtopic.ph ... 242#214242 (http://www.ateism.ru/forum/viewtopic.php?p=214242#214242)
Перечитайте, я ответил на Ваш пример противоречия. Противоречие в Вашем примере возникает, только лишь от неопределенности термина ЧЕЛОВЕК. ЧЕЛОВЕК, как личность и ЧЕЛОВЕК, как вид. Три закона при уточнении термина Человек или замены на более однозначный термин создатель (в единственном числе), теряют любую противоречивость.
Вы мне сейчас напоминате верующего, который на вопрос
-"А бог есть?"
отвечает
-"Нет, бога нет, а вот Бог есть!" :lol:
Видите ли, человек... ну хорошо Человек :D , в принципе не хочет воевать, как говорится в военкоматы толпами не ходят. Но почему-то не воевать у Него не получается - существуют более фундаментальные причины, которые мы не выбираем. Ну вот хоть убейтесь об стену, но не может количество организмов быть больше чем количество потребляемых ими ресурсов. И это объективно - или хочешь жить - убивай или сам погибни, или не хочешь убивать - умри долго и мучительно в нищете и голоде и так до тех пор пока количество организмов не станет превышать количества потребляемых им ресурсов.
И это так, только одна из причин. А природе по большому счету все равно, у нее нет души - и ей глубоко плевать на вымышленные человеческие законы и то что Человек умирать не очень то стремится.
Под выделенным у Вас мной подпишусь хоть миллион раз, тоже самое в этой теме я уже писал (см. выше: http://www.ateism.ru/forum/viewtopic.ph ... 267#214267 (http://www.ateism.ru/forum/viewtopic.php?p=214267#214267) ). А в остальном и в целом у меня создалось впечатление, что Вы с первого моего поста в этой теме, что то в моих писульках не поняли (возможно и я виноват). Получается - я про Фому, а Вы про Ерему. Прочитайте мои сообщения в этой теме еще раз, если у Вас останутся вопросы, то отвечу после выходных.
-
Летбур, при всем уважении, но Вы не совсем поняли тему. Тема не о машинах созданых человеком, а о взаимотношении людей и бога в свете трех законов, и об оценке бога как СОЗДАТЕЛЯ.
Да вроде бы Бог не вкладывал эти законы, а наделил т.н. свободой воли.
У машин то программа отвечает, нет той т.н. свободы воли. Но и думаю не стоит забывать что эти три закона применяются только в художественных произведениях да и то не во всех, в реальности думаю, эти роботы сразу бы нашли применения в военом деле и законы выглядели бы иначе, что то типа "не наноси вред своему.."
-
По моему, эти законы не очень объективны. Простейший пример робота-убийцы - советская крылатая ракета "Гранит". Жутко интеллектуальная штука. Ракеты в выпущенные в одном залпе могут самостоятельно находить авианосец, отличать его от других кораблей, общаться друг с другом, и атаковать в первую очередь главную цель, потом все остальные.
Все три закона ракета нарушает.
Гранит (http://ru.wikipedia.org/wiki/%D0%9F-700_%D0%93%D1%80%D0%B0%D0%BD%D0%B8%D1%82)
-
А в остальном и в целом у меня создалось впечатление, что Вы с первого моего поста в этой теме, что то в моих писульках не поняли (возможно и я виноват). Получается - я про Фому, а Вы про Ерему. Прочитайте мои сообщения в этой теме еще раз, если у Вас останутся вопросы, то отвечу после выходных.
Да нет, я просто с первого вашего поста понял что вы - философ.=))