Т.е. получается, что если взять достаточно мощный компьютер, то он в итоге сможет мыслить как человек и осознать себя?
Да, такой компьютер сможет моделировать мышление человека. Но нужен, который не просто промоделирует нейроны мозга, но и динамику их работы, реальные и потенциальные связи между ними, все эмерджентные феномены, которые возникают на уровне групп нейронов и коннектома как такового.
ибо странно, как нечто полностью вычислимое
Вновь должен напомнить, что математика - наука абстрактная, а конкретно формальная. Мышление человека не является вычислимым, а вот описание мышления - является.
до концепций вроде теоремы Гёделя о неполноте
Все-таки теорем о неполноте. И люди склонны преувеличивать значимость этих теорем. Из теорем Геделя всего лишь следует то, что формальная система, описываемая логикой первого порядка, не может быть одновременно непротиворечивой и полной, что требует для нее существования формальной или неформальной системы, описываемой логикой второго порядка, которая бы выступила к ней как метатеория. И вообще теоремы Гёделя — это именно пример метатеорем.