Автоэволюция

[Микротон]

Отнюдь! Всё как раз наоборот - чрезмерную наивность проявляете именно вы, если считаете, что вы знаете способ формализовать всю гамму человеческих чувств в программном обеспечении синтетического ИИ.

Вот те раз!! Это и называется "с больной головы - на здоровую".  Где это я писал, что знаю способ формализовать чувства? Ась? Не Вы ли собрались усовершенствовать велосипед? А вот еще есть народная мудрость:"НЕ ЗНАЯ БРОДУ  - НЕ СУЙСЯ В ВОДУ !" А вот как раз броду то Вы и не знаете. А хотите усовершенствовать то, чего не знаете. См. пост выше:  это преступление - изменять природу человека, не зная результатов такого вмешательства.

[Бессмертный]

1. Тут ещё есть вопрос, что такое интеллект. Из названия выходит, что это должен быть такой супер-пупер-арифмометр. Очень умный, умеет решать любые, даже не формализованные задачи. А вот кто эти задачи ставит? Наверное сознание.

Здесь про это уже говорилось. Интеллект или разум – способность организма (не обязательно биологического) строить модели окружающего мира и использовать их для обеспечения своего существования.

Подчёркнутая часть, вообще, тут лишняя. ИМХО. По ней сразу возникает вопрос: кто поставил цель (1)обеспечить выживание, причём (2) не абы каким образом (как это делают все безмозглые организмы), а с использованием моделей мира.

Чем мощнее разум, тем адекватнее его модели мира, шире кругозор и дальше в прошлое и будущее он способен заглянуть. Но в вечность (+,-) и бесконечность пространства заглянуть невозможно, поэтому процесс эволюции разума также может быть бесконечным.

Так разум/интеллект и сознание как по-Вашему соотносятся? Я, вроде бы, на него предложил обратить внимание.

В общем-то так оно и есть, но … калейдоскоп желаний возникает лишь тогда, когда жить хочется, в противном случае есть лишь одно желание – умереть, забыться вечным сном. Это от отчаянья, безнадёги, ощущения близости конца борьбы за существование и непомерного груза нерешенных жизненных проблем.

Ничего страшного. Когда вымрут все нежелающие жить, останутся желающие. Такое желание само по себе даёт эволюционное преимущество.

2. А каким образом Вы отличаете, что есть человеческое, а что искусственное? Вот скажем, если работа каждой отдельной клетки мозга будет в точности запрограммирована в какой-то железяке - будут у неё "человеческие" чувства?

1)
Но есть и 2) второй путь.

А если оба пути приведут к одному результату? Верней, как Вы различите к одному результату приведут пути, или к разным?
Да, и какие санкции предлагаются к тому, кто выберет 1-й путь?

Возможно после встречи с инопланетянами верующие некоторое время могут считать это аргументом в пользу доказательства божественного сотворения мира.

Ага, будут друг другу проповедовать свои религии. Может, подерутся даже.

ЗЫ. Так Вы всё ж какого направления трансгуманизма придерживаетесь?

[Микротон]

1. Тут ещё есть вопрос, что такое интеллект. Из названия выходит, что это должен быть такой супер-пупер-арифмометр.

Верно. Очень важный вопрос, что такое интеллект. Только я в упор не вижу, где это из названия выходит, что это арифмометр?
Вот есть определение (не моё) интеллекта:

Под интеллектом будем понимать способность любого организма (или устройства) достигать некоторой измеримой степени успеха при поиске одной из многих возможных целей в обширном многообразии сред. Будем отличать знания от интеллекта, имея в виду, что знания - полезная информация, накопленная индивидуумом, а интеллект это его способность предсказывать состояние внешней среды в сочетании с умением преобразовывать каждое предсказание в подходящую реакцию, ведущую к заданной цели.

Подчеркнуто мной. Покритикуем?

А вот кто эти задачи ставит? Наверное сознание.

Ну, это вряд ли. Тут у Вас опять "смешались в кучу кони, люди.."(с). Задачи ставит изменяющиеся условия среды обитания. Так это у животных, так это и у человека. Не думаю, что у синтетического интеллекта будет как-то иначе. Точно так же изменяющиеся условия среды обитания и будут "ставить задачи". А интеллекту их надо решить, для того, что бы "выжить" в изменившихся условиях. "Выжить" не случайно в кавычках... Под ним я понимаю продолжение существования субъекта в изменившихся условиях среды обитания.

А вот как оно работает, случайно, по алгоритму, или каким-то неведомым неалгоритмическим способом, и можно ли его запрограммировать на известной нам архитектуре фон-Неймана - большой вопрос.

Человек не может выдумать чего-то такого, что не укладывается в его логический аппарат. Поэтому компьютер работает "по образу и подобию" человеческого разума. И работать иначе не может ни как. Как говорит уважаемый Квакс - третьего не дано. Логика - она и в Африке логика. Так что ни какого большого вопроса нет. Есть вопрос только в ресурсах: объем памяти, быстродействие и т.д.

У Лазаревича есть книга, "генератор желаний", кажется, называется (или как-то похоже). Она, как раз, посвящена мысли, что сущность человека - и есть генерация желаний.

Я помню чьё-то высказывание на этом форуме: "Мы есть то, что мы желаем". Желание - это мотивация поступков. Тот, кто ничего не желает, ничего и не делает. А желания, чаще всего, вытекают из потребностей. Разберите подробно, в чем нуждается субъект, какие у него потребности, и точно сможете предсказать, что он будет желать.

2. А каким образом Вы отличаете, что есть человеческое, а что искусственное? Вот скажем, если работа каждой отдельной клетки мозга будет в точности запрограммирована в какой-то железяке - будут у неё "человеческие" чувства?

Сомнения в том, что не будут - это многовековое зомбирование человека религией. А именно - введение некой субстанции под условным названием "душа". А вот я не вижу оснований сомневаться в том, что чувства - всего лишь внешние проявления потребностей. Если у субъекта будут потребности, обязательно будут и чувства. И не важно, будет ли это синтетический субъект, или белковый инопланетянин.

Продолжим о человеческом. Бессознательное является сущностью человека, как Вы считаете?

Категорически не согласен. Бессознательное - есть механизм управления организмом. Мы не упраляем дыханием, сердцебиением, но и простейшие инфузории не управляют сознательно своим организмом. Мы не управляем сознательно отдельными мышцами для того, что бы ходить, бегать, прыгать, но вряд ли собаки и кошки это умеют делать.  Если у человека бессознательное еще и выполняет функции поиска оптимальных решений, так и у животных наверняка это так же. Во всяком случае, хищники могут предугадывать траекторию движения жертвы и делать поправки для своего броска. Вряд ли они делают это сознательно.

А не является ли бессознательное, "дверью для вора" (как сформулировал Микротон)? И не будет ли выгодным лишить свой организм этой опции?

Вряд ли это будет выгодным, да и зачем так сложно? Гораздо проще укрепить "секъюрити" сознания, что бы отличать вора от хозяина. Проще говоря - хороший фильтр, отсеивающий ложную информацию.

Где находится последний грань между человеком, и нечеловеком, которую нельзя нарушать?

Скорее всего такой четкой грани не существует и не может существовать в принципе. Так же,  как не существует четкой грани между человеком и животным. Просто синтетический разум - это следующая эволюционная ступень развития того, что мы называем разумом.

[Dig386]

Сомнения в том, что не будут - это многовековое зомбирование человека религией. А именно - введение некой субстанции под условным названием "душа". А вот я не вижу оснований сомневаться в том, что чувства - всего лишь внешние проявления потребностей.

На самом деле вопрос не такой тривиальный: представим себе "железку", в которой построена точная модель человеческого мозга и которая ведёт себя для внешнего наблюдателя неотличимо от "настоящего". Вопрос - будет ли мозг испытывать такие же ОЩУЩЕНИЯ, как и человек? Не получится ли так, что отклики будут правильные (в том числе и эмоции), а она ничего ощущать (самосознавать) не будет или будет, но принципиально иначе? Я не считаю, что существование души доказуемо, но пока физическая природа самосознания и ощущения своего бытия не вполне ясна.

Категорически не согласен. Бессознательное - есть механизм управления организмом.

Оно управляет не только физиологией организма, но и нашей личностью и является её составной частью. Например, не все наши желания и поступки логичны (например, эмоции опираются скорее не на разум, а на инстинкты). Ещё одно доказательство - невозможность обходиться без сна.

Гораздо проще укрепить "секъюрити" сознания, что бы отличать вора от хозяина. Проще говоря - хороший фильтр, отсеивающий ложную информацию.

Но ведь среда изменчива и излишне строгая фильтрация будет являться зашоренностью и может замедлить прогресс. Представьте себе гипотетическую ситуацию - через некоторое время вдруг появляются неопровержимые доказательства, что у Вселенной был разумный создатель, а такое "фильтрующее" сознание откинет факты как заведомо бредовые.

[KWAKS]

Гораздо проще укрепить "секъюрити" сознания, что бы отличать вора от хозяина. Проще говоря - хороший фильтр, отсеивающий ложную информацию.

Но ведь среда изменчива и излишне строгая фильтрация будет являться зашоренностью и может замедлить прогресс. Представьте себе гипотетическую ситуацию - ...

Представьте себе ВОВСЕ НЕ гипотетическую ситуацию - ...
У аборигенов афирики да австралии да т.д. - строгая фильтрация и следование традициям ..
вот они и поныне одеваются в набедреные повязки и питаются корешками да козявками !

[farmazon]

Если у этого сверхразума будет развитое абстрактное мышление, то он вполне сможет выдумать себе (или познать через Откровение) сверхбогов.

вот так, например :lol:

[Микротон]

На самом деле вопрос не такой тривиальный: представим себе "железку", в которой построена точная модель человеческого мозга и которая ведёт себя для внешнего наблюдателя неотличимо от "настоящего". Вопрос - будет ли мозг испытывать такие же ОЩУЩЕНИЯ, как и человек? Не получится ли так, что отклики будут правильные (в том числе и эмоции), а она ничего ощущать (самосознавать) не будет или будет, но принципиально иначе?

Вопрос вообще-то тривиален и надуман (воздействие зомбирования, как я и сказал).  Поставим эксперимент по "научному"...
Вы - наблюдатель.
Есть "железка" (точная модель человеческого мозга).
И есть "контрольная группа" (человек).
Заставляем и того и другого забивать гвоздь в стену молотком.
Но гвозди (тайно ) даем такие, что оба неминуемо должны попасть себе по пальцам.
После того, как оба одновременно попадают по пальцам, Вы, как наблюдатель наблюдаете, что оба (и человек и модель) матерятся и трясут ушибленной рукой...
Ну вот и ответьте, как наблюдатель, Вы чью-то боль почувствовали?
А что Вам даст основания сомневаться в боли модели и не сомневаться в боли человека?

Я не считаю, что существование души доказуемо, но пока физическая природа самосознания и ощущения своего бытия не вполне ясна.

Ну, Вам не ясна, а мне, допустим, ясна и что же? Что это меняет?

Оно управляет не только физиологией организма, но и нашей личностью и является её составной частью. Например, не все наши желания и поступки логичны (например, эмоции опираются скорее не на разум, а на инстинкты).

Ну, И?? Вы можете доказать, что у животных это не так?

Но ведь среда изменчива и излишне строгая фильтрация будет являться зашоренностью и может замедлить прогресс.

Гораздо сильнее вредит намеренное искажение информации. А прогресс... куда спешить то? Народ давно уже понял преимушество более строгого фильтрования: "Семь раз отмерь - один раз отрежь"(с)

Представьте себе гипотетическую ситуацию - через некоторое время вдруг появляются неопровержимые доказательства, что у Вселенной был разумный создатель, а такое "фильтрующее" сознание откинет факты как заведомо бредовые.

Вы даже не видите, что бред опять несёте: "Вдруг - бывает только "пук", остальное всё - закономерно"(с). Для того, что бы было "вдруг", этим должен кто-то заниматься, исследовать. А чего исследовать то? Бред? Чей?
Ну и правильно сделает, что отсеет как бредовые, ибо даже такой "вдруг" не изменит ни на миллиметр состояние вещей. Таким образом, без разницы, был ли создатель, небыло ли такового.. Исследовать можно и нужно только жизненно-важные проблеммы. Те, которые влияют либо на само существоание, либо на условия существования (комфорт). А знание того, был ли создатель, или небыло его -  чем важна? Что это меняет в принципе? Вода станет горячее? Или снег теплее?

[Бессмертный]

Скорее всего такой четкой грани не существует и не может существовать в принципе. Так же,  как не существует четкой грани между человеком и животным. Просто синтетический разум - это следующая эволюционная ступень развития того, что мы называем разумом.

Я-то тоже так думаю. Но теллурин считает, что есть такая грань. Плюс обратите внимание, эта грань, по-видимому, у него находится как можно дальше от нынешнего человека. Создаётся ощущение, что это просто связано с пределами понимания : вот тут мне кажется, что я понимаю - это можно; а вот там уже не понимаю - стоп, туда нельзя.

[Бессмертный]

Вот есть определение (не моё) интеллекта:

Под интеллектом будем понимать (1)способность любого организма (или устройства) достигать некоторой измеримой степени успеха при поиске одной из многих возможных целей в обширном многообразии сред. Будем отличать знания от интеллекта, имея в виду, что знания - полезная информация, накопленная индивидуумом, а (2)интеллект это его способность предсказывать состояние внешней среды в сочетании с умением преобразовывать каждое предсказание в подходящую реакцию, ведущую к заданной цели.

Подчеркнуто мной. Покритикуем?

Ну я тут вижу два определения, которые я пометил цветными буквами. (1) отлично достигают любые организмы, и не только имеющие нервную ткань, которая бы позволила говорить об условных рефлексах, т.е. о некоторых зачатках разума, но и амёбы – простейшие, одноклеточные. (2)  Эта часть мало чем отличается от приведённого tellurin определения

Здесь про это уже говорилось. Интеллект или разум – способность организма (не обязательно биологического) строить модели окружающего мира и использовать их для обеспечения своего существования.

Если убрать слова «для обеспечения своего существования» (на чём я, собственно, и настаиваю), получится практически то же самое.

Задачи ставит изменяющиеся условия среды обитания. Так это у животных, так это и у человека. Не думаю, что у синтетического интеллекта будет как-то иначе.

Это каким же образом. Попробуйте написать программу, которой бы ставила задачи среда. Интересно, что у Вас получится. Скорей всего получится то, что задачу ей поставите Вы сами, т.е. программист. Разве, что задача может быть сформирована гибко, допустим, выбирать разные цели в зависимости, от состояния среды. Может быть даже ещё более хитро, может Вы не дадите алгоритм, который выбирал бы эти задачи из заранее заготовленного списка. Но ведь это как раз означает, что Вы поставите ей сверхзадачу, решая которую, можно формулировать более мелкие подзадачи.

Точно так же изменяющиеся условия среды обитания и будут "ставить задачи". А интеллекту их надо решить, для того, что бы "выжить" в изменившихся условиях. "Выжить" не случайно в кавычках... Под ним я понимаю продолжение существования субъекта в изменившихся условиях среды обитания.

А кому выжить? Организму, или интеллекту? Если для выживания организма интеллект может в принципе прийти к решению самоуничтожиться, значит задача самовыживания для него вообще не стоит. Если задача выжить именно интеллекту, то вопрос как его понимать. Если это просто программа, то лучший способ – создать как можно больше копий и запереть по разным хранилищам, а главное не запускать её. Потому что, при запуске существует вероятность, что программа самоизменится настолько, что её уже нельзя будет назвать прежней программой, т.е. цель выживания не достигнута.

[Бессмертный]

Кстати, я полагаю, что биосфере присущ разум - посмотрите, как быстро справляются бактерии с новыми антибиотиками (которые создают люди, разумные с нашей точки зрения); многие антибиотики были сделаны на основе "творчества" бактерий - их химического оружия для подавления конкурентов. Поэтому считать, что человек разумен, а природа нет - опрометчиво.

Ну это уж Вы загнули. Природа действует методом проб и ошибок. Да и это не совсем точно. Природе же никто не ставит цель. Так что этот "метод" строго говоря и не метод вовсе. И если Вы заметили, как ловко действуют бактерии, почему приписывать наличие разума биосфере, а не самим бактериям?