近日，国家互联网信息办公室公布《人工智能拟人化互动服务管理暂行办法（征求意见稿）》（以下简称《办法》），标志着我国在人工智能治理领域迈出了关键一步。《办法》不仅是对当前AI伴侣、虚拟偶像等新兴业态的及时回应，也为人工智能产业健康、有序、合乎伦理的发展提供了重要指引。中国国际电视台（CGTN）连线专访研究中心秘书长姚树洁教授等多位专家学者，围绕《办法》背后的全球关切、中国在人工智能治理中的角色以及如何平衡创新激励与社会风险防控等议题，展开深度解读。

CGTN记者：姚教授，中国近日公布的《人工智能拟人化互动服务管理暂行办法（征求意见稿）》，与美国加利福尼亚州2025年通过的SB-243法案及欧盟的《人工智能法案》体现了相似的监管方向。例如，《办法》要求服务提供者显著提示其非人类身份，针对未成年人、老年人等群体提供特殊保护，并就情感依赖和心理健康风险建立心理保护机制。那么，您认为这些举措揭示了全球对人工智能深度介入人类情感领域存在哪些共同担忧？

姚树洁教授：人工智能立法确实已成为一个全球性议题。美国加利福尼亚州、欧盟和中国，作为全球人工智能技术研发与应用的重要引领者，也率先面临着人工智能深度融入社会所带来的全新挑战。人工智能能够高效处理许多个人或组织难以独立完成的复杂任务，在提升生产力、优化决策与改善生活品质等方面展现出巨大潜力。然而，人工智能的发展，尤其在涉及情感交互的层面，与其他技术存在本质区别。我们必须清醒认识到：人工智能并非人类，它不具备真实的情感或共情能力，其回应是基于对用户输入数据的学习而生成的。如果用户长期向人工智能系统输入带有情绪困扰、心理压力甚至极端倾向的内容，系统可能会在数据反馈循环中不断强化其安抚性、迎合性，甚至逐渐输出偏离正常范畴的回应。这种交互不仅无法真正解决用户的深层问题，还可能加剧其负面情绪，诱发潜在的行为风险，从而进一步恶化心理健康或加剧社会孤立现象。

因此，从技术治理的角度出发，我们有必要为拟人化人工智能设定清晰的安全边界与伦理准则。例如，当系统识别到生成内容可能对用户产生误导或伤害时，应具备相应的预警或干预机制。现实中已出现多起因人工智能情感交互失控而导致负面影响的案例，这些教训应当被切实纳入人工智能系统的设计与部署流程，以确保技术始终以“服务于人”为根本导向，而非成为加剧情感依赖或放大心理风险的载体。这也是中国、加州和欧盟相继推动相关立法与监管的核心动因之一。

CGTN记者：从更宏观的视角来看，人工智能研究领域有学者对超级智能的长期风险提出预警，认为其可能对人类生存构成根本性挑战。在您看来，这类观点属于需要严肃对待的合理风险预警，还是基于当前技术发展阶段的一种过度推演？

姚树洁教授：这是一个备受关注且富有争议的话题。的确，有观点担忧，未来可能出现超越人类控制、甚至对人类生存构成威胁的人工智能。然而，在我看来，这种情形发生的可能性极低。根本原因在于，当前及可预见的未来，人工智能仍然是由人类设计、开发、部署并管理的工具。即使未来人工智能在特定领域的任务表现超越人类，其能力框架、目标设定与运行逻辑，从根本上仍源于人类的赋予与约束。一旦其发展出现偏离可控轨道的迹象，人类完全有能力通过政策、伦理与技术手段进行干预和纠偏。

事实上，从技术发展的早期阶段起，各国政府、企业与科研机构就已将强烈的伦理考量纳入人工智能研发体系。这类似于我们在克隆技术上的做法：尽管技术上可能实现人类克隆，但全球社会普遍禁止此类行为，以防范不可控的后果。同样，若人工智能的发展完全不受伦理规范、安全标准或功能边界的约束，确实可能引发灾难性风险。因此，关键在于建立并严格执行全球性的社会规范与治理框架，尤其是确保人工智能系统始终服务于人类福祉，不得危害人类生命与基本权利。只要这些标准得以落实，人工智能就不可能脱离人类控制。

CGTN记者：在中国《办法》公布前夕，国内两家领先的人工智能聊天机器人初创企业Z.ai和Minimax已正式向香港交易所提交了首次公开募股（IPO）申请。这一动向反映出拟人化互动人工智能服务领域的活跃发展态势。那么，在推动人工智能技术创新的同时，中国能否有效防范其可能带来的社会风险，实现发展与安全的平衡？

姚树洁教授：首先，关于您提到的国内创新与风险平衡问题，近期行业企业的活跃进展本身就是一个生动例证。它表明，监管与创新并非对立，而是可以相互促进的。中国的监管《办法》旨在划定安全的边界，防范技术滥用可能带来的社会风险，如隐私侵犯、算法歧视或心理健康影响。这恰恰是为了给包括拟人化人工智能在内的长期技术创新，创造一个更可持续、更可信赖的发展环境。本质上，我们通过设立明确的安全红线与伦理要求，引导资源投向更负责任、更具实质意义的创新领域，从而在更高水平上实现发展与安全的动态平衡。

其次，中国应持续深化科学研究与技术创新，力争在基础理论、核心技术及应用场景等方面取得更多突破。人工智能作为一项具有深刻社会影响的技术，正广泛渗透至社会认知、交互模式乃至决策体系之中。当前，美国已在互联网生态的关键环节（如苹果的移动终端、微软的操作系统、亚马逊的电商、Meta的社交媒体等）占据主导地位。若在通用人工智能等前沿方向进一步形成单一主导的技术格局，将不利于全球技术生态的平衡与健康发展。因此，各国可共同探讨制定兼具广泛共识的技术标准与伦理规范，引导人工智能技术真正服务于全人类的共同福祉，而非单一国家或集团的利益。实现该目标需要长期不懈的努力。中国所发挥的引领作用，应主要体现在推动开放包容的创新环境、促进技术成果共享、支持发展中国家能力建设等方面。（编辑：龚丹；审校：聂月文、欧璟华）

原文链接：https://radio.cgtn.com/podcast/news/1/Panel-China-moves-to-mitigate-AI-chatbots-emotional-risks/596663

姚树洁个人简介

姚树洁，城市化与区域创新极发展研究中心秘书长，长江学者特聘教授（2014）。曾任英国诺丁汉大学教授、当代中国学学院创建院长，世界银行、联合国等国际组织经济顾问。2014年重庆市首席专家工作室领衔专家（经济学），2021年重庆英才·优秀科学家，2025年首届全英/全欧中国经济学会会士。在SSCI/CSSCI期刊上发表论文200余篇，出版中英文专著和编著20余部，爱思唯尔（Elsevier）高被引学者（2020-2024年）、全球2%顶尖科学家终身和年度排行榜（2021-2024年）。20余篇咨政报告获国家和省部级领导肯定性批示。在国内外主流媒体发表文章100多篇，长期担任CGTN特约评论员。