Жизнь после смерти

[Angel]

Димагог, по поводу Вашего последнего сообщения у меня к Вам вопрос: Как Вы определите - есть у субъекта самосознание или нет? На основании чего?

[Димагог]

Сложные абстракции не определяет.

Правда, некоторые люди тоже не могут.

[Vivekkk]

"Искусственное сознание принципиально возможно. Его можно получить алгоритмом когнитивной аккреции (приращения – ред.). Следует ли его получать? Нет. Эта область разработок опасна. Мы не знаем, к чему это может привести", - сказал РИА Новости Анохин после доклада на тему "Грани сознания в естественных и искусственных системах" на международной междисциплинарной конференции "Искусственный интеллект и сознание" в президиуме РАН.
К сожалению, текст доклада в сети найти не удалось.

Я Вам доверяю да и мы не кафедре.
Возможно, я не прав, но по-прежнему уверен, что искусственное сознание невозможно. И пока факта такого сознания нам не предъявлено, несмотря на всю истерию ИИ с 1960-х годов (см. в 1960 году Бернард Уидроу и Тед Хофф создали модель Adaline (адаптивный линейный элемент), являющуюся одной из ранних нейронных сетей. В 1958-1960-х годах Фрэнк Розенблатт развивал перцептрон — устройство, моделирующее работу мозга).
Академик Анохин - ученый солидный, но логика признает только факты и, собственно, логические аргументы. Аргумент к авторитету, как Вы знаете, "не канает". И академики ошибаются. Тем более, тот же Анохин затруднялся дать определение сознания. Кстати, его гипотеза Когнитома не так уж бесспорна.

[Vivekkk]

Vivekkk, Но в том-то и дело, что микросхеме и не надо становиться мозгом как совокупности живых клеток, ей достаточно воспроизвести способ обработки мозгом информации, то есть лишь выполнить те же самые функции.

На основании чего вы так думаете?

Я, вот, знаю, что мышление, сознание - это продукт движения нейронных сетей, а значит, если следовать аналогии, микросхема должна получить способность к самоперепайке транзисторов, способность отвечать реакциями роста связей между транзисторами, менять электроподачу - на триггеры среды.

Вообще, надо для начало хорошенько разобраться в том, что есть сознание, мышление, что такое мозг и как он устроен, а потом уже строить аналогии.

Так, калькулятор тоже повторяет работу мозга - считает цифры и числа, но вряд ли можно ожидать, что калькулятор начнет мечтать и планировать свою деятельность на годы вперед.

Поскольку на примерах я уже показала возможность...

Постойте: каких примерах? Я не увидел никаких примеров. Повторите. 

Где Вы видите здесь логическую ошибку?

Я вижу здесь чрезвычайную вульгаризацию, примитивизацию понимания работы мозга, то есть изначально неверные большие посылки в логическом рассуждении, в аналогиях.

[Vivekkk]

Димагог, по поводу Вашего последнего сообщения у меня к Вам вопрос: Как Вы определите - есть у субъекта самосознание или нет? На основании чего?

Я могу ответить тоже: на основании деятельности субъекта, а именно опредмечивании его самосознания в социальной среде. Практика, как обычно. Деятельностный подход в объяснении сознания и самосознания. Социализация как необходимый фактор генезиса сознания и самосознания. База - живые нервные клетки, которые уникальны по строению и являются случайной мутацией, поддержанной естественным отбором, но не очень энергетически выгодной для организма.
Все это - недоступно и бессмысленно для ИИ. Роботам нет смысла общаться друг с другом, - они неорганические машины, имитирующие человека.
Забавно, человек идею Бога создал для собственной имитации, а теперь роботов с ИИ. Все ищет себя где-то, - потерянные люди. Когда найти себя можно только в другом человеке.

[Jeremy H Boob PhD]

Vivekkk

Аргумент к авторитету, как Вы знаете, "не канает". И академики ошибаются.

Я был уверен, что Вы посчитаете это "аргументом к авторитету". Нет, я только хотел показать, что не так всё однозначно. Конечно, Анохин не может претендовать на абсолютную истину, но он аргументирует свои слова "алгоритмом когнитивной аккреции", что бы это ни значило. Могу предположить, вспоминая одну из его лекций, что когнитивное приращение в результате неизбежно приводит к эмерджентному возникновению сознания в гиперсети.

мышление, сознание - это продукт движения нейронных сетей, а значит, если следовать аналогии, микросхема должна получить способность к самоперепайке транзисторов, способность отвечать реакциями роста связей между транзисторами, менять электроподачу - на триггеры среды

Ваша аналогия неверна, т.к. искусственный нейрон это не транзистор, а программный модуль, математическая модель естественного нейрона (он и называется иногда математическим нейроном), реализованная программно. И да, сеть таких виртуальных нейронов имеет способность "отвечать реакциями роста связей" друг с другом, менять электроподачу - весовые коэффициенты нейронных связей и т.п. То есть, если современная искусственная нейросеть работает не так, как мы бы ожидали от мозга, то это не потому, что она так не может, а потому, что мы не адекватно ее "запрограммировали", т.к. не до конца понимаем, как работает мозг. Другими словами, если в естественном мозге ничего, кроме нейронов и их связей не определяет наличие сознания, то в ПРАВИЛЬНО построенной виртуальной гиперсети оно ДОЛЖНО возникнуть с необходимостью в процессе обучения, как и в человеческом мозге. Другое дело, что воспроизведение уже существующего сознания в программной среде видится мне невозможным, что не позволяет рассчитывать на "жизнь после смерти".

Забавно, человек идею Бога создал для собственной имитации, а теперь роботов с ИИ.

Может, наоборот, человеком движет желание быть подобным придуманному им Богу, создавая нечто по образу и подобию СВОЕМУ.

[Behaviourist]

Напротив, искусственные нейросети, обладающие мышлением, демонстрируют нам и мышление, и память, и творчество, и даже нечто, весьма напоминающее сознание.

С нейросетями их пользователи нередко впадают в забавное когнитивное искажение: пытаются тестировать их разумность путём обсуждения околопсихологических и эмоциональных тем, теста на ложные убеждения, разговоры о сознании и разуме и т.п. А именно на эти темы у человечества накоплен большой корпус текстов. Если же прицельно бить узкоспециальными вопросами в те места, где обучающая выборка была очень мала, то можно нарваться на довольно феерические "галлюцинации", т.е. прямо видно, как нейросетью при ее обучении пытались аппроксимировать имеющиеся тексты. Ещё иногда можно получить совершенно нечеловеческие ответы при обсуждении каких-то задач, связанных с пространственным воображением.

сознание, вероятнее всего, зависит лишь от архитектуры нейросетей, а вовсе не от их природы

Возможно. Но как раз архитектурно мы сильно от них отличаемся.

Я, вот, знаю, что мышление, сознание - это продукт движения нейронных сетей, а значит, если следовать аналогии, микросхема должна получить способность к самоперепайке транзисторов, способность отвечать реакциями роста связей между транзисторами, менять электроподачу - на триггеры среды.

Вам придётся в таком случае доказывать то, что работу мозга принципиально нельзя свести к машине Тьюринга с доступом к аппаратному генератору случайных чисел. Т.е. что мышление не является вычислением. Как это сделать - неизвестно.

Так, калькулятор тоже повторяет работу мозга

Думаю, что на самом деле нет, т.к. калькулятор не опирается на костыли в виде зрительных образов, записи столбика и сознания. И за счёт того, что там всей этой ненужной для вычислений требухи нет, он то ли в сотни тысяч, то ли в миллионы раз энергоэффективнее человека. Вообще как АЛУ мозг среднестатистического человека весьма убог: размер машинного слова всего 3-4 бита, регистров мало и т.п. И персональный компьютер как вычислитель несравненно совершеннее человека за счёт лучшей элементной базы: никакого мяска с ионами, сигнал идёт намного быстрее, тактовая частоты в миллионы раз выше, сбоит тоже несравненно реже, машинное слово раз в 20 шире, система команд богаче, и всяких сознаний и рефлексий нет. Может, думать он и не умеет (во всяком случае пока), но думать должен программист.

[Vivekkk]

Я был уверен, что Вы посчитаете это "аргументом к авторитету".

Нет, я только хотел показать, что не так всё однозначно. Конечно, Анохин не может претендовать на абсолютную истину, но он аргументирует свои слова "алгоритмом когнитивной аккреции", что бы это ни значило. Могу предположить, вспоминая одну из его лекций, что когнитивное приращение в результате неизбежно приводит к эмерджентному возникновению сознания в гиперсети.

Возможно. Но пока не вижу оснований для таких предположений.
В этом же докладе 2024 года (на Президиуме РАН) Анохин добавил, что: "Сознание может существовать только в системах, обладающих когнитомом – определенной органической структурой, несущей совокупность субъективного опыта системы".
https://ria.ru/20241024/anokhin-1979824606.html
ИИ - явно не органическая структура и явно не может приобрести субъективный опыт.
Ну, да ладно. Сказал - не доказал. Мало ли кто что говорит.

Ваша аналогия неверна, т.к. искусственный нейрон это не транзистор, а программный модуль, математическая модель естественного нейрона (он и называется иногда математическим нейроном), реализованная программно.

Ничего подобного: искусственный нейрон - это именно транзистор на микросхеме. Программные элементы ИИ - это уже конкретный язык, осуществляющий команды в рамках транзисторов, припаянных на микросхему. Это как мысли  - продукты нейронов.

[Vivekkk]

Вам придётся в таком случае доказывать то, что работу мозга принципиально нельзя свести к машине Тьюринга с доступом к аппаратному генератору случайных чисел. Т.е. что мышление не является вычислением. Как это сделать - неизвестно.

Проблема всех физиков, математиков, программистов в данной сфере, полагаю, в том, что они некомпетентны в вопросах биологии, химии мозга, его генезисе. Стоит разобраться в том, что есть мозг, что такое нервная клетка на, хотя бы, уровне специалиста, и только после этого строить какие-то аналогии и гипотезы.

Думаю, что на самом деле нет, т.к. калькулятор не опирается на костыли в виде зрительных образов, записи столбика и сознания.

Пример, как раз, и был приведен для иллюстрации ошибочности аналогии между мозгом и ИИ. Вы это просто еще раз доказали. Спасибо.

[Behaviourist]

Проблема всех физиков, математиков, программистов в данной сфере, полагаю, в том, что они некомпетентны в вопросах биологии, химии мозга, его генезисе. Стоит разобраться в том, что есть мозг, что такое нервная клетка на, хотя бы, уровне специалиста, и только после этого строить какие-то аналогии и гипотезы.

Так то, что мозг делает нечто, принципиальное несводимое к вычислениям, это тоже гипотеза, причём довольно сильная. И как её доказывать или опровергать - пока не очень понятно. Вот ту же игру в шахматы или го долго считали чем-то уникально человеческим, хотя в итоге компьютер человека стал обыгрывать. В рисовании и музицировании компьютеры уже превосходят подавляющее большинство людей. Практика ещё показала, что даже в генерации связного текста очень многое сводится к вычислениям. Да, Вы скажете, что компьютер запрограммировали, но ведь человека тоже программируют воспитанием и научением, и без такого программирования разум не формируется.

Пример, как раз, и был приведен для иллюстрации ошибочности аналогии между мозгом и ИИ.

Я не спорю с тем, что современный ИИ не похож на мозг. И разумным я его пока бы не назвал. Но эта непохожесть открывает интересные возможности:
1) Радикальное улучшение элементной базы. Транзисторы намного быстрее нейронов. Даже если транзисторы окажутся тупиком, повышение скорости сигнала от 120 м/с до скорости света и повышение тактовой частоты может сулить много интересных возможностей.
2) Возможно скорее не развитие до "имитации человека", а до нечеловеческого разума.

Вообще привязывать мышление и разум к конкретному биологическому виду и конкретному субстрату - это в общем-то согласуется с реальностью, но как-то антифилософски что ли. Не даёт уйти от антропоморфизма и перейти к размышлениям, а какие вообще носители сознания, мышления и разума были бы принципиально возможны, и что именно в мозге делает разум разумом. Да, в XIX веке во времена Энгельса это всё было немыслимо, но почему надо останавливаться на XIX веке?