“机械陪伴者”如何通过伦理安全关

1. dengshan是什么意思

2. dengshan功能介绍

3. dengshan使用方法

4. dengshan使用教程

5. dengshan最新版本

6. dengshan官方入口

7. dengshan下载安装

8. dengshan常见问题

9. dengshan注意事项

10. dengshan相关资讯

　　《人工智能拟人化互动服务管理暂行办法》施行

　　“机械陪伴者”如何通过伦理安全关

　　《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》)已于2026年7月15日起施行。《办法》由国家网信办、国家发展改革委、工业和信息化部、公安部、市场监管总局联合公布，对AI拟人化互动产品和服务划出了明确红线，涉及用户隐私权和个人信息保护、防止情感依赖沉迷、科技伦理审查等关键内容。

　　《办法》落地施行前，主打情感陪伴互动的“机械陪伴者”已上市开售。

　　2026年6月底，某品牌全尺寸仿生机器人正式亮相，且热度远超预期，发布会未结束，负责人就宣布相关型号全渠道订单已突破1.3万台。在市场热度之下，对于机器人科技伦理安全的讨论也随之而起。

　　近日，《法治日报》记者就情感陪伴型机器人的伦理边界、数据安全等一系列问题采访了西南政法大学民商法学院教授张力、中国人民大学法学院副教授黄尹旭，以及中国计算机行业协会数据安全专业委员会委员、京都律师事务所律师王菲。

　　治理应前置到设计阶段

　　记者：情感陪伴型机器人的伦理底线包括哪些？

　　张力：情感陪伴型机器人的伦理底线包括但不限于人身安全与内容安全底线、人机边界底线、隐私和数据底线、情感操纵底线、重点群体保护底线、责任可追溯底线等。

　　其中，人机边界底线是指服务提供者不能通过拟人化设计故意模糊人与机器的边界，不能以替代真实社会交往、控制用户心理、诱导沉迷依赖等作为产品设计导向；隐私和数据底线指企业不得超范围、超目的、超必要限度采集和使用个人信息；情感操纵底线指企业不应利用用户的疾病、年龄等客观弱势地位，诱导其作出不合理消费、财产处分等损害自身权益的决定；重点群体保护底线指对未成年人和老年人应当适用更高保护标准。

　　责任可追溯底线则强调，在发生侵权、产品缺陷、数据泄露、算法错误或广告误导时，应根据具体情形追究生产者、销售者、服务提供者、运营者、使用人或第三人的法律责任，不能以“机器自主行为”稀释前述主体的责任。

　　记者：《办法》已经施行，企业可以通过哪些举措落实伦理与安全责任？

　　黄尹旭：隐私安全与伦理治理是决定产业落地成效与公众信任的前置性条件，这需要国家通过细化场景化规则供给、在技术设计中嵌入安全伦理、建立风险预判机制、保障公众知情控制权，构建前瞻型治理框架，推动治理前置于技术发展。

　　张力：《办法》已经对持续性的情感互动服务作出规定，治理也应当前置到产品设计阶段。比如，在产品上市前，企业应当完成科技伦理审查等必要的审查、备案与评估。产品在运行过程中，应当做到数据留痕、风险监测、投诉可处理、责任可追溯。家庭场景下尤其应强调“默认隐私保护”，即非必要不开启采集，能在本地完成处理的尽量本地处理，不上传至云端保存，摄像头和麦克风等关键传感器应当有清晰明显的开启提示和便捷的关闭方式。

　　厘清交互数据权属界定

　　记者：实际上，要想做到“懂用户”、实现“专属”陪伴，机器人就不可避免地会记录用户数据。而一旦数据泄露，用户隐私就可能彻底暴露。那么，对于数据，该如何处理与规制？衍生出来的相关权利又该归属哪方？

　　张力：“数据归属于用户”可以表达价值取向，但作为法律判断并不严谨。按照民法典、个人信息保护法等有关法律规定，用户对其个人信息享有依法控制和救济的权利，企业对个人信息处理负有合法、正当、诚信、目的限制、最小必要、安全保障等义务。不得因为用户购买、使用或激活机器人，就将用户对个人信息的授权理解为概括、永久、不可撤回的同意。

　　不过，对于企业在合法合规的基础上形成的数据产品、模型参数，以及经依法匿名化处理后不能识别特定个人且不能复原的数据成果，不能简单说全部归属于某一个用户。

　　王菲：个人认为，对不同应用方向实行单一许可，更有助于找到科技发展和保障用户权利的平衡。

　　记者：防止企业私自将用户个人数据用于模型训练，可以从哪些方面建立约束？

　　张力：规则上，企业应当在用户协议和隐私政策中以清晰、易懂、显著方式说明采集哪些数据、用于何种目的、保存多久、是否用于模型训练等。需要特别注意的是，对于用作模型训练等重要处理目的的，应当以显著方式单独提示并取得用户同意，不能以概括性条款笼统覆盖。

　　技术上，可以优先采用数据脱敏、加密存储、访问控制、权限分离、日志审计等措施。对于一些原始音视频数据，原则上不宜长期留存；确需用于质量改进或模型优化的，应当经过严格授权、去标识化或匿名化处理，并为用户提供关闭、撤回、删除和导出选项。

　　监督上，对于规模较大或风险较高的产品，监管部门可以依法要求企业说明数据流向、训练数据来源、访问权限和安全事件处置情况。

　　责任上，应提高违法成本。企业违法处理个人信息，应当承担相应民事、行政及刑事责任。在纠纷处置中，可以适用个人信息保护法确立的过错推定规则，由企业就其处理个人信息没有过错承担举证责任。

　　仍需细化标准落实责任

　　记者：2026年7月4日，中国人形机器人百人会发布关于规范和引导情感陪伴人形机器人发展的倡议，其中提出，坚持科技向善，防范伦理和安全风险；坚持守正创新，推动产业高质量发展。科技伦理与商业利益并非必然对立，合规能力本身就是市场声誉的重要基础。对于相关行业而言，该如何平衡创新发展与安全伦理，依托现有法规体系完善行业合规与质量管理？

　　黄尹旭：未来，人形机器人行业要坚持以人为本的价值锚点、分级分类的治理逻辑、多元共治的治理格局与动态迭代的适配机制，同时要将安全伦理规范全面融入产品设计到应用的全流程，通过完善强制标准体系、落实全链条质量管控、强化场景化人身风险防控、明确产品责任分担等举措强化质量管理，切实防范用户人身伤害风险。

　　张力：当前，我国已经形成由民法典、个人信息保护法、数据安全法等多部法律，以及前述《办法》等部门规章共同构成的基础规范体系。但情感陪伴型机器人作为新型复合产品，仍需更细化的标准、责任规则和执法落实。

　　对此，建议在设计阶段，实行隐私保护和安全保护的前置设计。包括明确产品定位和禁止用途，限制高风险功能，设置物理急停、权限控制、传感器状态提示、摄像头和麦克风关闭方式等，建立未成年人模式和老年人保护设置，在默认状态下减少不必要的数据采集。

　　在研发阶段，应当进行模型安全测试、极端场景测试等必要性测试，同时建立伦理审查记录留存等机制。对可能诱发依赖沉迷、高额消费等风险的交互设计，应当进行专门评估和限制。

　　在广告宣传阶段，应当遵守真实性、准确性和可验证性原则。不得作出“替代亲情”“治愈孤独”等无法证明或者容易误导消费者的承诺。对产品不能完成的功能、需要联网的功能、可能采集的数据、未成年人使用限制和退出机制等，应当作出必要说明。

　　在应用阶段，应当建立持续运营责任。包括安全更新、漏洞修复、故障报告、投诉处理、数据删除和迁移、停止服务提前告知、重大风险处置、产品召回等。

　　强化质量管理、防范人身伤害，应当同时关注物理安全和网络安全。一些机器人具有移动、接触、执行动作等能力，一旦机械控制失灵、电池故障、系统被攻击或远程控制被滥用，网络风险可能转化为现实的人身伤害风险。因此，产品质量管理还应覆盖结构强度、材料安全、电池电气安全、运动碰撞检测、网络数据安全和应急停止等方面。

　　(法治日报 本报记者 赵丽)