Проблем в том, что иллюзия может быть только продуктом сознания (психического восприятия), ибо она и есть ничто иное как искаженное восприятие. Нет сознания - нет иллюзии, не может быть иллюзии в неинформационной системе. Сознание как иллюзия нейросети предполагает наличие у этой нейросети сознания (психического восприятия) для которого оно будет иллюзией, что лишено всякого смысла.
Я использую понимание иллюзии не в психологическом или психиатрическом ее смысле. Иллюзия, здесь, не объективное, не материальное, не опредмеченное. Иллюзия - это то, чего нет объективно, то есть то, что не дано в ощущении. И в этом смысле, сознание может быть иллюзией, - явлением, которого нет объективно, но есть субъективно.
См. Т.Метцингера, Д.Деннета.