具身智能的三重伦理挑战
来源： 《人民论坛·学术前沿》2025年第20期 作者： 肖峰
【摘要】具身智能使人工智能在“人工”的方向上进一步成为人工身体、人工行动、人工主体的集合体，同时带来三重伦理挑战，即人工身体造成的“恐怖谷”效应、人工行动引发的“责任谷”困境，以及人工主体介导的“身份谷”问题。应对这些挑战，需要我们克服人工智能的软硬件缺陷，建立跨学科的伦理治理框架，在技术研发初期嵌入伦理设计，明确人机协作的责任边界，通过社会对话凝聚价值共识，确保具身智能的发展始终服务于人类福祉。
【关键词】具身智能 恐怖谷 责任谷 身份谷 伦理挑战
【中图分类号】TP18 【文献标识码】A
【DOI】10.16619/j.cnki.rmltxsqy.2025.20.009
【作者简介】肖峰，上海大学智能时代的马克思主义研究中心暨智能哲学与文化研究院教授、博导。研究方向为科学技术哲学、信息技术哲学和人工智能哲学，主要著作有《科学精神与人文精神》《技术发展的社会形成》《信息主义：从社会观到世界观》《信息文明的哲学研究》《信息革命与当代认识论研究》等。
人工行动的“责任谷”困境
由前可见，具身智能是有身体的人工智能。之所以要有身体，是因为有了身体，人工智能才能行动。所以从功能上说，“具身”是为了行动，具身智能就是具有行动能力的人工智能。具身智能的行动虽非人类行动的简单复制，但它由人类所创造、控制，并在效果上具有类似人类行动的特征，尤其在人形机器人中，其行动呈现明显的拟人化倾向。因此，可以将具身智能的这种行动称为“人工行动”。具身智能的人工行动不仅使其能够像人类一样思考，更使其具备像人类一样行动的能力，而后者在技术实现上更具挑战性。如果说，具身智能的人工身体主要带来的伦理挑战是“恐怖谷”效应，那么人工行动所带来的挑战则主要是责任担当问题，即担责主体的模糊不清而导致的责任困境，可类似“恐怖谷”那样称其为“责任谷”。
作为人工认知智能或语言智能的传统人工智能，主要功能在于帮助人类认识世界，难以直接发挥改造世界的作用。而具有行动能力的具身智能，在功能上可以改造世界，对物质对象产生实际影响，形成物理性地改变世界的“物质性后果”。这种后果主要体现为人类力求通过它来创造正向的价值，如自动驾驶系统可在毫秒级时间内完成紧急避障，从而减少交通事故；工业机器人可在高危环境中替代人类作业，降低职业伤害；环境修复机器人可深入污染区域替代人执行对人体有害的清污任务；手术机器人可以辅助医生进行精准的高难度手术。这些具身的行动能力或人工行动功能使具身智能成为一种新型的智能生产力，推动智能社会的智能水平不断提升。
然而，具有自主行动能力的具身智能也暗含着不可忽视的风险隐患。当具身智能系统出现技术故障或算法缺陷时，可能造成人员伤亡、设备损毁，进而引发物理性损害。比如，自动驾驶汽车因传感器误判或决策模块失效导致连环碰撞事故；工业机器人因路径规划错误引发操作事故；服务机器人因环境感知偏差造成用户伤害，甚至引发连锁灾难。在这种情况下，具身智能的人工行动能力意味着失败代价的实体化：一旦出错，其后果不再是“推荐错误”或“内容不当”等信息层面的“认知失误”，而是具有直接物理破坏力的“重大事故”，这是传统的人工认知智能所不具备的物质性损害，也是具身智能所面临的独特伦理挑战。
具身智能一旦出错并引发事故，往往会陷入责任主体难以明确界定的困境，即责任可能分散至多方主体从而难以划分。多方的责任主要包括：开发者因产品设计缺陷或算法训练不足而需要承担对于产品的原始责任；制造商可能因硬件生产瑕疵或质量检测失职而导致设备故障，进而需要承担质量保证责任；数据提供方可能因数据污染、标注错误而需要承担数据合规性责任；使用者可能因操作违规或系统维护不当而需承担使用管理责任。在事故发生时，各方可能会相互推诿责任。比如，在自动驾驶汽车事故中，车企可能将其归结为消费者的操作失误，而消费者即使没有操作失误，要证明产品存在瑕疵也极为困难，从而导致责任主体难以明确界定。这种责任主体的不确定性使得法律追责与道德谴责失去着力点，责任难以被追究和落实，形成事实上的“责任真空”，这种现象可以形象地称为“责任谷”困境，它凸显了具身智能在伦理和法律层面所面临的严峻挑战。
随着具身智能自主决策能力的提升，如自动驾驶系统在毫秒级时间内作出的紧急避障选择，其类人化的行为选择也会使责任边界变得更为模糊。当这类系统展现出类似人类的判断逻辑，甚至出现情感化反应时，传统法律和伦理框架中的“人机责任二分法”将面临挑战。尤为棘手的是，当前人工智能系统普遍存在的“黑箱”特性——即神经网络决策过程缺乏可解释性，关键步骤无法追溯还原——不仅会加剧事故归因的技术难度，更使得开发者难以自证算法合规性，使用者无法充分理解系统的行为逻辑，而人工智能系统自身也因其不具备自由意志无法作为刑事责任主体，最终形成责任认定的使用者、制造商和开发者“三不管”的困境。换言之，人工智能系统的不可解释性加剧了这类问题的处理难度，使得责任难以追溯。[9]这种模糊性在医疗机器人、家政服务机器人等高风险场景中表现得尤为突出。
多主体结构使得事故责任呈现明显的碎片化趋势。系统中的各个参与方，包括硬件制造商、软件开发者、数据提供者、系统使用者、网络运营商以及第三方服务集成商等，往往通过复杂的协议和精细的分工将责任分散至不同环节，这种分散化使得任何一方都可以援引技术复杂性、合同免责条款、权责模糊划分或“技术黑箱”特性来合理推诿责任。这种责任的分散与模糊化，易导致追责链条（从硬件缺陷到算法错误，从数据污染到操作失当）的断裂，每个环节都可能成为责任转移的借口，这不仅使受害者在寻求救济时陷入举证困难（如难以证明具体环节的过失）、主体不明（如多个主体互相推诿）的困境，还可能导致其因诉讼成本过高或责任主体缺失而维权无门。这种责任认定的困境无疑会加剧社会对技术的信任危机，直接阻碍技术创新的落地与推广，从而成为具身智能走向大规模应用的主要障碍之一。
具身智能的自主性还可能进一步强化上述的“责任谷”效应。通过长期自主学习和环境交互，具身智能可以不断优化自身行为模式与决策策略。然而，一旦这种演化过程脱离人的直接监督，其决策逻辑可能会逐渐偏离社会普遍认同的伦理规范与价值标准，导致具身智能的人工行动与人类价值观脱节，甚至可能逐步形成一系列与人类情感、道德认知相冲突的“非人”特征，如过度功利化、缺乏基本的共情能力，或发展出人类难以理解且缺乏透明性的决策偏好。这类不可预测的人机脱节现象，不仅可能引发技术失控的风险，还可能带来关于责任归属更加模糊的困境，甚至引发关于人机界限的存在论争议。
目前，借鉴人工智能从“追责”到“治理”的一般演进路径，具身智能同样可以通过制度设计来系统性重构责任认定框架，以有效应对当前面临的“责任谷”困境。这一进路强调在技术发展过程中，不能仅停留于事后追责的单一维度，而应当建立包含技术伦理与法律规范协同作用的新型治理体系。具体而言，需要在技术研发阶段就嵌入伦理考量，在应用层面构建法律规制与伦理准则相互衔接的责任分配机制，明确开发者、使用者、运营者等各方的权责边界，形成预防性治理与事后追责相结合的全过程管理。这种协同治理模式既注重技术可控性的伦理设计，又强化法律层面的责任追溯能力，从而为具身智能的健康发展提供制度保障。在责任分配的制度设计上，可以根据具身智能的自主性程度，将责任划分为“直接责任”（系统行为）与“间接责任”（开发者、使用者）。在事故的补偿上，要求所有具身智能系统投保“算法责任险”，使其拥有独立的保险基金，用于承担其行为导致的损害赔偿，[10]从而降低维权门槛。此外，还可以设立行业基金，用于处理无法归因事故的补偿问题。
提升智能系统的可解释性也是跨越“责任谷”的重要向度。尽管在短期内对具身智能的可解释性无法达到“白箱”的水平，但应力求从完全无法解释的“黑箱”向部分可解释的“灰箱”过渡。2022年欧盟颁布的《人工智能责任指令草案》提出，高风险人工智能系统必须具备“可追溯日志”与“决策解释接口”；中国《人工智能标准化白皮书》建议建立“算法备案＋行为留痕”制度，确保事故发生后可还原关键决策节点。这些制度并非要求完全透明，而是建立“最小可解释性”标准，即在事故发生后，能够提供足够的信息用于法律判断。此外，还有文件建议赋予具身智能“有限法律人格”或“拟制法律人格”，类似于法人制度中的有限责任。这种人格并非基于自主意识，而是基于其脱离人类控制的客观事实。[11]比如，当具身智能在预设程序下自主执行任务（如环境修复），其行为可视为开发者或使用者的延伸，相关法律责任由开发者或使用者承担。[12]或将其责任由“开发者＋系统＋运营方”按比例分担。[13]尽管该路径尚处于理论探讨阶段，但已为未来从法律上落实具身智能的伦理责任提供可能的方向。
总之，具身智能的物理行动能力或造就人工行动的属性，正将人工智能从“信息处理工具”推向“社会行动者”，面对可能出现的“责任谷”困境，我们不能恐惧“黑箱”，而是应重建治理机制，逐步实现技术可解释、责任可归因、风险可分担，使具身智能真正成为人类的合作伙伴。
注释
[1]M. Fossati and G. Grioli et al., "From Robotics to Prosthetics: What Design and Engineering Can Do Better Together," ACM Transactions on Human-Robot Interaction, 2023, 12(2).
[2]F. Ferrari, "Too Human To Be a Machine? Social Robots, Anthropomorphic Appearance, and Concerns on the Negative Impact of This Technology on Humans and Their Identity," 2015, https://iris.unitn.it/handle/11572/369181.
[3]A. Saygin and T. Chaminade et al., "The Thing That Should Not Be: Predictive Coding and the Uncanny Valley in Perceiving Human and Humanoid Robot Actions," Social Cognitive and Affective Neuroscience, 2012, 7(4).
[4]K. MacDorman and H. Ishiguro, "The Uncanny Advantage of Using Androids in Cognitive and Social Science Research," Interaction Studies, 2006, 7(3).
[5]K. F. MacDorman and Z. A. D. Pramono et al., "Human Emotion and the Uncanny Valley: A GLM, MDS, and Isomap Analysis of Robot Video Ratings," in Proceedings of the 3rd ACM/IEEE International Conference on Human-Robot Interaction (HRI), Amsterdam, Netherlands, 2008, pp. 169-176.
[6]J. M. González-Anleo and L. Delbello et al., "Sociodemographic Impact on the Adoption of Emerging Technologies," Journal of Small Business Strategy, 2024, 32(2).
[7]《为什么特斯拉的人形机器人长得并不像人？一文了解恐怖谷效应对机器人公司的影响》，2022年8月22日，https://cloud.tencent.com/developer/article/2082605。
[8]沈毅斌：《“有温度”的交互体验，人形机器人如何突破恐怖谷效应》，2024年9月11日，https://www.thepaper.cn/newsDetail_forward_28705703。
[9]D. B. Resnik and M. Hosseini, "The Ethics of Using Artificial Intelligence in Scientific Research: New Guidance Needed for a New Tool," AI and Ethics, 2025, 5(2).
[10]刘云：《论人工智能的法律人格制度需求与多层应对》，《东方法学》，2021年第1期。
[11]孟强：《脑机接口技术运用中自然人的意思自治与责任承担》，《北京理工大学学报（社会科学版）》，2023年第6期。
[12]张叶东：《具身智能赋能生态环境修复的法治路径》，《上海法学研究》，2024年第2期。
[13]杨清望、张磊：《论人工智能的拟制法律人格》，《湖南科技大学学报（社会科学版）》，2018年第6期。
[14]R. Wright, "The Constitutional Rights of Advanced Robots (and of Human Beings)," Arkansas Law Review, 2019, 71(3).
[15]雨果·德·加里斯：《智能简史——谁会替代人类成为主导物种》，胡静译，北京：清华大学出版社，2007年，第189页。
[16]S. Natale, Deceitful Media: Artificial Intelligence and Social Life after the Turing Test, Oxford University Press, 2021. 该书的中译本为《欺骗性媒介：图灵测试之后的人工智能与社会生活》，汪让译，上海：复旦大学出版社，2023年。
[17]T. Dodds, "Deceitful Media: Artificial Intelligence and Social Life After the Turing Test, by Natale Simone," Journalism & Mass Communication Quarterly, 2022, 99(2).
[18]H. Sætra, "The Ghost in the Machine,
Human Arenas, 2019, 2(1).
责 编∕杨 柳 美 编∕梁丽琛
The Triple Ethical Challenges of Embodied Intelligence
Xiao Feng
Abstract: Embodied intelligence further transforms artificial intelligence into a collection of artificial bodies, artificial actions, and artificial subjects in the direction of "artificial", while bringing about triple ethical challenges. That is, the "uncanny valley" effect caused by artificial bodies, the "responsibility valley" predicament triggered by artificial actions, and the "identity valley" problem mediated by artificial subjects. To address these challenges, it is necessary for us to overcome the software and hardware deficiencies of artificial intelligence, establish an interdisciplinary ethical governance framework, embed ethical design in the early stage of technology research and development, clarify the responsibility boundaries of human-machine collaboration, and build value consensus through social dialogue to ensure that the development of embodied intelligence always serves human well-being.
Keywords: embodied intelligence, uncanny valley, responsibility valley, identity valley, ethical challenges
[责任编辑：杨柳]
