Тут не обойтись последовательностью, тут необходимо одновременное развитие множества процессов.
Сверхцель будет очень странная, так как в результате победы мы получим то, что не сможем понять. Воистину, придётся поверить в свою победу :))) Так как победа, т. е. создание сущности сложнее человека, означает как раз невозможность оперировать тем, чем эта сущность будет оперировать очень даже легко. За аналогиями не нужно далеко ходить. Формирование нашего организма, а так же его дальнейшая жизнь, накрепко связаны с простейшими микроорганизмами, от которых произошли когда-то многоклеточные. Одноклеточные не могут понять что создали, однако этот результат их усилий — залог выживания легионов поколений в будущем. Многоклеточные могут отказаться от дальнейшего симбиоза, но ценой огромных жертв, так как маленькие друзья сдерживают армию врагов, организмов умеющих убивать многоклеточных, наравне с собственным иммунным аппаратом организма, и прочее, прочее.
( Свернуть)
Так как основной труд людей планируется перевести в интеллектуальную-творческую плоскость, то она будет крепко связана с функционированием этой вот сущности, занятой обобщением добытых нами знаний, и делегированием нам неких задач, пускай и с непонятной для нас целью, ради получения новых результатов.
Надо понимать, что сколь бы ни было могущественно это существо интеллектуально, физически оно очень даже локально, и без мощи человеческой цивилизации даже потенциально бессмертная сущность попросту не успеет выполнить даже очень ограниченный ряд задач нового уровня сложности.
Любой вопрос, например — переделать Меркурий в кольцо Дайсона, требует огромного количества мелких операций разнесённых в пространстве и времени. Люди в набедренных повязках строили пирамиды, нам то чего бояться в плане вызова и преодоления? :))) Задач навалом, знай себе думай и применяй придуманное.
Противоречие принципиально непреодолимое без ИИ: где взять ресурсы на то, чтобы каждый человек смог приобрести кругозор достаточный для того, чтобы стать коммунистом? Если прочесть Ленина внимательно, то он думал об этом, и по его словам коммунист именно что приходит к выводу о необходимости коммунизма на основе современной ему научной картины мира и принимает участие в жизни общества сознательно, как самостоятельная личность, а не является тем, кто выучил лозунги и ходит строем.
Формирование умения рефлексировать, т. е. сознательно обращаться к собственной модели мира, основная задача педагогики, должна быть подкреплена максимально сложным окружением, в котором личность сможет так же максимально ознакомиться с объективным миром, отчего будет зависеть сложность индивида и сложность того, чем он сможет оперировать. Бедность детства ведёт к бедности интеллектуальной жизни взрослых, с соответствующими последствиями в виде примитивных суждений о мире и простых, не учитывающих всех факторов, решений, ведущих к ошибкам, когда примитивность представлений о мире сталкивается со сложностью объективного мира.
Сложное окружение имеет высокую стоимость. Можно представить себе проблему в виде задачи «сводить всех учеников первых классов в Московский зоопарк». Первоклашек в РФ — 1,8 млн, зоопарк может принять
до 3,8 млн человек в год. Выходов из ситуации несколько: скопировать зоопарк в нескольких городах, или обеспечить логистику доставки первоклашек в Москву в течении года, и так далее, в любом случае придётся очень сильно потратиться в плане ресурсов. Но! Это только один фактор, который (условно) мы обязались выполнить ДЛЯ ВСЕХ согласно некоей педагогической программе, имеющей целью воспитание этих самых будущих коммунистов. Где взять ресурсы? Правильно! В Солнечной системе их навалом. А кто туда полезет без планеты Земля (богатство окружения спасающее от деградации, магнитное поле земли спасающее от потери биоты кишечника потеря которой резко сокращает срок жизни человека даже в стерильных условиях, гравитация — существенный фактор для долгосрочной трудовой деятельности в космосе, и так далее) в кармане? Правильно — искусственный интеллект. Взаправдашний, а не набор алгоритмов. С очень сложным телом, сложнее чем у человека (чем сложнее тело, тем сложнее интеллект, эт закон биологии), обеспеченный по самую небалуйку ресурсами и технической поддержкой с Земли.
Само строительство проекта будет изменять общество. Это вам не примитивщина «от каждого по способностям, каждому — по труду», здесь мы бьём под дых Вселенную. Зная, что можно быть умнее модифицируя окружение, уже нельзя будет отворачиваться от даже малейших проблем с этим самым окружением. Инвалидам — ноги и руки, вместо колясок и пандусов. Детям — станки и лаборатории вместо чугунных игрушек и лего с планшетами, набитыми безумной мультипликацией.
Если до сих пор, любой из нас погибает заблудившись в лесу за три дня, то о каком успехе цивилизации можно говорить? Если вокруг нас набитая смертью мать её вселенная, и полностью беззащитные перед ней миллиарды людей непрерывным потоком умирающие каждый день, о какой разумной жизни может идти речь? Если до сих пор сраный протез является проблемой для сотен тысяч людей, о какой научно-технической революции можно говорить? :)))
И это — только на наш с вами век должно выпасть. Откладывать вопрос — подвергать опасности всю цивилизацию, и единственную в округе планету с разумной жизнью.
Сможем смастерить ИИ — сможем и предоставить выбор для людей: жить в искусственном теле в качестве копии личности, или жить как обычно и умереть как обычно.
Разумеется, капитализм и и тут может говняшек подложить. Но это другая история. Например — ипотека на новые искусственные органы, или, искусственная личность берущая кредит для получения новых органов и конечностей требуемых для выполнения специфических задач на новой работе,
закабалить можно что угодно, человек ты, или искусственный интеллект.