Коля писал (а)
Посмотрел из интереса где-то 20% статьи (кстати, а по-русски она где-нить лежит?). Дело в том, что когда у человека будут такие способности, может увеличиться вероятность уничтожения Земли по ошибке
Не. Это старая статья от 7 марта 2001 года, а речь была о названии книги, которая уже написана и издана и презентация которой будет в сентябре. По-русски перевода нет, но есть обзор проблемы за 2003 г (
http://atheism.websib.ru/articles/vasilyev02.htm) и есть масса иных материалов на сайте
http://transhumanism.org/ (там есть русская страничка и в т.ч. книга «Рассвет Сингулярности» на
http://www.transhumanism.org/index.php/WTA/more/487/). Там про ошибки сказано, но вот их то нам и надо умудриться избежать.
Попробую обрисовать положение дел касательно приближения Человечества к Технологической Сингулярности. Основным движком трансперехода Человечества в новую фазу станет сильный искусственный интеллект (ИИ). Strong Artificial Intellegence. Непонятно как он себя поведёт по отношению к людям. Вокруг этого то и идёт сейчас весь сыр бор.
В своё время мысль об опасности выпукло выразил ещё много лет назад С.Лем в своём пророческом фантастическом рассказе «Формула Лимфатера», М.: Изд. Знание, 1967 г.(текст -
http://lib.ru/LEM/limfater.txt ). Напомню тем, кто под колоколом. Лимфатер создал не просто статичный искусственный интеллект, а саморазвивающуюся компьютерную программу – зародыш разума, способный стремительно автоэволюционировать до человеческого уровня и сверх того, что тот немедленно и сделал:
Я не знал, что собой представляет тот второй вариант и что он означает. Он был почти в семь раз сложнее, чем первый.
Может, он постигал бы мгновенно знание обо всем космосе?! Может быть, это был бы синтетический бог, который, появившись, так же затмил бы е_г_о, как _о_н_ сделал это с нами? Не знаю.
Здесь Лимфатер испугался содеянного, раскаялся в совершении тяжкого греха и встал на путь праведный, как сказали бы верующие:
Я понял, что должен сделать. И уничтожил _е_г_о_ в ту же ночь. _О_н знал об этом, едва только родилась во мне эта мысль, это ужасное решение, но помешать мне не мог. Вы мне не верите. Уже давно. Я вижу. Но _о_н_ даже не пробовал.
_О_н_ только сказал: "Лимфатер, сегодня или через двести лет, или через тысячу, для меня это безразлично. Ты несколько опередил других, и если твой преемник уничтожит модель, появится еще кто-нибудь, третий. Ведь ты знаешь, что когда из высших выделился ваш вид, он не сразу утвердился и большинство его ветвей погибло в процессе эволюции, но когда высший вид однажды появляется, он уже не может исчезнуть. И я вернусь, Лимфатер. Вернусь. "
То-есть Лем вместе с Лимфатером поняли, что бесполезно остановить развитие разума – рано или поздно всё повторится сначала и надо будет что-то делать.
А сейчас я живу одним: ожиданием. Я роюсь в реферативных журналах, в специальных журналах, в специальных изданиях, ибо знаю, что кто-то снова нападет когда-нибудь на мой след, ведь я не выдумывал из ничего; я дошел до этого путем логических выводов. Каждый может пройти мой путь, повторить его, и я боюсь, хоть и знаю, что это неизбежно. Это тот самый шанс эволюции, которого она не могла достичь сама и применила ради своей цели нас, и когда-нибудь мы осуществим это на свою собственную погибель. Не на моем веку, быть может, - это меня утешает, хотя что же это за утешение?
Вот и все. Что вы сказали? Разумеется, вы можете рассказывать об этом кому пожелаете. Все равно никто не поверит. Меня считают помешанным. Думают, будто я уничтожил _е_г_о_ потому, что _о_н_ мне не удался, когда понял, что напрасно потратил одиннадцать лучших лет жизни и тот миллион. Хотел бы я, так хотел бы, чтоб они были правы, тогда я мог бы, по крайней мере, спокойно умереть.
Увы, ситуация с момента написания рассказа в корне изменилась. Вот в каком плане. Появилась сеть Интернет. Множество независимых организаций работает над проетками ИИ и ещё больше - строит андроидов с элементами ИИ. Народ не понимает, что сегодня самые выдающиеся мыслители человечества уже не могут предсказать то, что произойдёт через 20, 10, 5 и даже через 1 год. Сто лет назад любой мог предсказать, что если Солнце не погаснет, то с человечеством всё будет в порядке. Теперь этого нет.
Всё абсолютно точно указывает на то, что путём создания всё более и более мощных суперкомпьютеров человечество готовит глобально распределенную аппаратную базу для САИ – сильного автоэволюционирующего интеллекта, который в считанные секунды после своего возникновения, не самозарождения, приведёт мир к Сингулярности. Будет вам тогда, верующие, и единение с богом, и бессмертие души, и воскрешение из мёртвых, и тайная благодать, и вечная музыка. Будет вам тогда, неверующие, и неограниченная власть над силами природы, и загрузка сознания в компьютер, и подключение мозга напрямую к сенсорной системе кота в мешке, и телепатия на спутанных квантовых состояниях вместо речи, и телепузикопортация разума в любую точку пузырька нашей вселенной в бесконечной пене мультивселенных.
Да, Сингулярность может начаться уже не через 25 лет, а завтра, уже сегодня, через минуту, свалиться всем как снег на голову, внезапно ворваться в ваше сознание, как … цунами на пляж среди бела дня. О, наивные жители японских городов, они тоже думали, что атомных бомб не бывает. Но Сингулярность – близко!
Так помиритесь же, дороги, —
Одна судьба обеих ждет.
А люди? — люди станут боги,
Или их громом пришибет.
Фёдор Глинка. Между 1836-1875
Молодец композитор! Замечательные слова! Эх, на эти стихи ещё музыку, романс какой сочинил бы! Кстати, можно сказать и так, что наука и религия идут двумя разными путями к единой цели - познанию истины. Конечно, с разным пониманием того, что есть эта самая истина. Тогда будет так:
Путь атеизма: тот, кто первый создаст САИ – создаст всемогущего Бога.
Путь теизма: тот, кто первый создаст САИ – придёт к Богу и сольётся с ним.
Что в лоб, что по лбу.
Честно говоря, после размышления над проблемой Технологической Сингулярности человека и причинах парадокса Ферми (загадка отсутствия братьев по разуму), мне начинает вериться, что Церковь всё же как-то смогла бы поспособствовать прохождению Человечества через вселенский эволюционный фильтр (ВЭФ), который нам уготовила судьба (ну или пусть кто-то считает, что Бог). Ясно, что верующие имеют мощные церковные организации и через них можно было бы как-то подготовить людей что ли психологически, настроить духовно позитивно на приближение к Сингулярности. Если же верующие будут продолжать плыть против течения прогресса, восхвалять старообрядничество, биолуддизм и ретроградство, негативно относится к любым сингулярным технологиям и возможности автоэволюции природы человека, то будет возрастать противостояние между разными слоями людей. Как следствие этому – рывки развития, продолжающийся разрыв между бедными и богатыми, здоровыми и больными, счастливыми и несчастными. Короче, это прямой путь к продолжению войн, терроризму, силовой матрице напряжения в обществе и, в конечном счёте, к самоуничтожению человечества.
Надежда умирает последней.
