(资料图)
随着人类理性主义事业的蓬勃发展，人类通过理性的技术化工程发明创造了若干机器，安置于人类社会事务之中，一方面为人类提供了各种福利，另一方面又为人类累积了各种担忧。譬如，从核技术、计算机技术、互联网技术到当今数智技术无不增加了人类生存的风险。吊诡的是：人类“明知山有虎，偏向虎山行”，其理由就在于人类非常确信“人类理性有法子发明技术，那一定有法子安顿技术”。这种理性的底气造就了人工智能发展的加速度，也就有根有据地设想了人工智能从低级到高级，再到超级的存在形式。尽管人类感触到的畏惧与日俱增，但并未减少人类想要实现它们的兴趣。这样，有人为此激进地大唱赞歌，有人为此谨慎地进行价值选择，有人为此警世名言地劝诫，还有人为此条分缕析地阐述，如此等等已成为当前人工智能发展研究的各抒己见，以求共识的祈向。
然而，就人工智能哲学研究者杨庆峰教授最近出版的《超级智能：风险与应对》（西安交通大学出版社，2026）而言，这是一部条分缕析的研究著作，在历史与文化、科学与哲学之间全面地解析超级智能（artificial superintelligence，ASI）——一种既具科幻想象又具理性依据、既有一些现实条件又未充分实现的技术造物——究竟是什么的问题，由此成为国内首部超级智能哲学专著。
全书分为四个部分：超级智能的历史想象；超级智能的现实分析；超级智能的未来应对；超级智能与人类未来。该书作者在每个部分中都按照历史文化科学哲学这四个维度进行展开论述的。
在第一个部分中，该书作者阐述了超级智能是源自于人类文化想象建构的对象，从外星人、超人、圣人等概念中叙事出来的，进而随着科幻想象与技术想象，在计算机技术造物中产生了人工智能（artificial intelligence，AI）的雏形，借助于连续论的假设，人工智能发展的必然结果就促使超级智能逐渐成为现实议题，不再是一种理性遐想了。对此，该书作者采取“一种理性的、开放的乐观主义立场，强调可以找到一种可控的方式”而撇弃了悲观主义的论调。（P6）看来，该书作者是属于理性主义事业的继承者。由此，他阐明了超级智能的科学基础、哲学基础和神话基础，以此表明当前人们混迹于四种AI 叙事方式（科学化叙事、科幻化叙事、诗意化叙事与媒介化叙事）相交错的局面中，因而难以清晰地理解超级智能的本来面目，该书作者并将此情形归结为一个实在论与非实在论的相持，但他自己却坚持“科学实在论的基本立场”，认为超级智能已具备了科学基础，有望成为一种实体。（P162）
由此，该书作者进入第二部分的讨论，将超级智能能够实现的科学基础分为三条路径：第一种路径是由专业人工智能转向通用智能，从而飞跃到超级智能，具体表现在多模态模型的出现，但该书作者一方面认可这条路径的可行性，另一方面又质疑这条路径面临的问题，如多模态论者忽视具身智能的必要性，忽视灾难性遗忘问题的产生，忽视记忆在智能中所起到的作用，以及忽视智能自主性的能力。因此，他就转向第二种路径的讨论，认为具身智能能弥补通用智能所需要的条件，并把“具身化”看成是通用智能进化的自身诉求，但又认为这只不过是一种“将大模型塞进机器盒子中”的拼装，依然难以克服灾难性遗忘与泛化能力不足的瓶颈问题。（P192-194）这样，该书作者推进到第三种路径，也就是“通过智能体在现实环境中交互来进行学习”所达到的“交互智能”（P195）。但该书作者认为第三条路径在实现上不如前两条路径来得明显，仍需要深入研究。（P196）但是，不管如何，超级智能的实现已具备了一定的科学基础，其成功的结果必然为人类社会带来许多好处，譬如，对科学与技术难题的突破、为经济繁荣与产业变革提供了动力、整体地提升了社会福祉等等，但同时也会带来其不可抹杀的伦理风险、社会风险、生存风险等问题，譬如，目标被智能体曲解的失控风险、人类生存安全受到威胁的风险、智能体的自主逻辑重构人类文明的风险、人工智能系统重置导致人类文明重置的风险。一句话说，人类社会要受到另一种比人类智能更高的智能的驱使而要失去人类中心利益的地位，该怎么办？
这就构成了该书第三部分的内容，主要阐述如何应对超级智能的未来出现。该书作者就此分为三种应对方式：技术应对、哲学应对与伦理应对。在技术应对中列举当前四种模式：价值对齐、模型崩溃、模型蒸馏与科学家AI，并分别分析其相应的强弱及其当下认识的误区，譬如，对价值对齐问题，就指出价值对齐并不是人类价值的嵌入，也不是技术处理，而是基于人类反馈的价值对齐，不该停留于AI工具主义的立场上，而要转向存在主义的关怀，从技术、哲学与伦理等多个层面上理解价值对齐。在哲学应对中，该书作者反思了人工智能连续论的假设条件，反对将人工智能或超级智能看成技术工具的升级，而将它们看成一种存在论事件的断裂或飞跃，因为它们被直观赋予的工具性逐渐被其拟主体性或主体性所替代，不知不觉地成为一种存在论的升级，冲进人类存在论领域，由此加剧人类生存的焦虑感，为此就需要始终保持“以人为目的”的AI发展理念，使超级智能可为此理念来奉献自己的进化与生命。（P299）因此，该书作者在伦理应对中就提出了智能契约的应对框架，主要以超级智能所具有的主体性为前提，并以美德伦理为基础，来设计超级智能应具的伦理品质，使其在人机共存关系中达成生命体的连续性。（P313-314）可惜的是，这些想法的论证未能完全呈现在读者面前，只提供了一些非常有益的思考方式，原因是因为这个课题的现实性正处于一个需要充分展开的前沿地带，任何主张看起来都可行一样。
但是，该书作者并不停留于此，进而看到了未来人类在超级智能实现的可能性中该如何构成其意义的存在问题。这就进入了该书第四部分的讨论当中，该书作者一方面通过对中国传统文化关于圣贤意义的理解，期盼将来可能实现超级智能的最好形态，就是“风骨智能体”——一种兼具超级能力与超级美德的存在者，另一方面又通过人类存在意义的理解而提出未来人类会呈现出超级特性，如各种能力超强、精神世界超大、道德水平超高等，由此就产生了一种与超级智能共生契约的“智能契约人”（homo contractualis/homo pactus）。（P360）这样，全书的思考终结于“智能契约人”，由此表明了超级智能的来临并不是灭顶之灾，而是人类社会自身演化的一个阶段，但其过程是需要人类自身的觉醒，有理有节地把握人工智能的发展方向，在风险共存中消除风险的极端化，从而平稳地迎接超级智能社会的到来。
总之，问题的提出并不等于问题的解决。该书有许多新颖的想法，常常因概述的需要而减弱了其论证的强度。譬如，为什么要坚持超级智能的实在论解释？为啥要选择美德伦理作为其智能契约的基础？为何要“以人为目的”来发展超级智能呢？难道一个高级存在者的存在目的是为低级存在者进行服务而不能为自己的吗？其合理性如何得证？因为人类自身的存在目的并不是为低级存在者服务的，而是为自己的，那又凭什么要具备主体性的超级智能要以人为目的呢？由此看来，这些深刻的问题更值得深究下去。
当然，随着1956年正式提出人工智能概念，紧接着1965年就有了超级智能这个概念，直到2014年才有了英国哲学家Nick Bostrom讨论超级智能的著作出版，之后有关超级智能的讨论就随着生成式人工智能大爆发而受到了严肃的对待。但是，超级智能究竟能不能成为现实？它不仅是一项艰难的技术工程问题，而且是一项巨大的社会经济问题，它不仅是一种人类理性极端痛苦的选择问题，而且是一种人类生存意义危机的存在问题。或许，人类因各种需求而急迫它的实现，或许因各种惧怕而抑制它的到来，但它已具有某种意义上的现实的可能性，而不是纯粹抽象的可能性。尽管它依然未能获得完整的哲学证明与科学证实，但它却深陷于当今人类生活世界的喜怒哀乐之中，看来人类自己对它的心愿就显得格外关键了。读者，你心愿它到来吗？
来源：刘友古（上海大学哲学系教授）