Всю тему не читал. Моё мнение - искусственный интеллект возможен только при наличии ВОЛИ. Неважно, на какой основе ("железа" или органики) будет комп. Продуктивные человеческие мыслительные процессы - это конкретные мотивы, цели. Без этого мыследеятельность можно поместить в область от абстрактных фантазий до бессвязного бреда. Для наличия целей, их формирования нужна определенная воля. Грубо говоря, не будет воли - поставить задачу перед компьютерным мозгом будет нечему и некому. Где-то так.
Китайцы (и не только они) уже давно корпят над атомарным компьютером. Теоретически обещают вычислительную мощь равную всем вместе взятым компьютерам планеты Земля. Посмотрим-увидим.
А какая будет у него воля? Человек, на МОЙ ВЗГЛЯД, как и животные живет по инстинктам. Только мы их, ради приличия, называем потребностями. Некоторые из них нам не даны от природы, а навязываются обществом. Вся наша воля направлена на их удовлетворение. Только мы немного умнее животных, и подходим к удовлетворению потребностей творчески. Вумные машины, наверно, будут делать по такому же принципу, но инстинкты у них будут другие, те,которые удобны людям.
Вопрос интересный. Человек может успешно стимулировать свою деятельность удовольствиями. Искусственный разум либо должен быть начисто лишен такого стимулирования, либо удовольствия ИР будут заключаться в чем-то совершенно абстрактном (для телесного существа-человека). Во многих сферах продуктивность и качество мыследеятельности зависит от таланта. Навык навыком, но нашпигованный лексиконом академик-филолог вряд ли родит что-то изящнее Пушкина) Потом, человек имеет разум ввиду взаимодействия с другими людьми, а сохраняет либо благодаря последнему, либо благодаря обретенным иллюзиям (типа персоналии бога). Отшельники, лишенные общества медленно деградируют. ИР должен постоянно с кем-то или чем-то взаимодействовать, дабы исправно формулировать и решать задачи.
Интересны проблемы юридического толка, а именно: если ИР будет тождественен личности, его дезактивация будет равносильна покушению на убийство. За неправомерные действия на основе заключений ИР человек должен привлекаться к ответственности строже (налицо предварительный сговор). Сам аппарат может быть ограничен в свободе или деактивирован не иначе как по приговору суда и т.д. Наверняка будут психушки для ИР-компов...