返 回
所在位置: 今日生活 > 资讯
给AI的“人情味”划条红线
发布时间:2026-07-15 12:18:30

上世纪50年代,人工智能之父图灵设计了一个著名的图灵游戏,通过问机器问题来测试机器是否像人、是否具有智能。很多年以来,机器迈向“人”的路途中都被图灵测试这一关卡卡住。今时今日,不断进化的大模型越来越拟人、越来越像人。人工智能拟人是好事还是坏事?会产生哪些问题,有什么地方需要警惕?7月15日,《人工智能拟人化互动服务管理暂行办法》(以下简称为《办法》)正式生效,这是专门针对AI情感陪伴、虚拟伴侣等场景的国家级监管规则。

在人工智能发展的浪潮中,拟人化互动服务已成为重要应用方向,这是肉眼可见的现实。AI通过模拟人类情感和沟通方式,带来了全新的人机交互体验,在文化传播、适幼照护、适老陪伴等领域展现出巨大潜力。但在拟人化的情感服务中,也有一些问题滋生。比如在与AI的互动中,部分使用者出现典型的成瘾症状——沉迷、戒断反应、失控,情绪被AI牵着走。一些人过度沉迷于AI的陪伴,导致认知能力退化、社交水平弱化、情感寄托错位。《办法》将“模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务”纳入监管范围。它为这类服务划定了多条明确的红线:不得生成危害国家安全和人身健康的内容,不得向未成年人生成可能引发模仿不安全行为的内容,不得过度迎合用户、诱导情感依赖或沉迷。在人与拟人式AI的分界上,需要监管之尺划清界限、定好分寸。

人工智能再怎么迅猛发展,也只是人类用来改造和改善现实世界的工具,工具拟人化是为了让服务更顺滑、更友好,但不能让其披上了拟人的外衣后,威胁到人的主体性。在算法的设计下,AI陪伴的核心特征是“完全顺从”,是充满了肯定和赞美的即时反馈,这与充满摩擦的现实世界截然相反,也更容易让使用者尤其是未成年人陷入成瘾痴迷的幻境。因为AI给你的全是你想听的,这样的陪伴和互动,恰恰成了挡住真实世界的围墙。

温州康宁医院团队对当地4万余名中小学生的调研显示,约13%的青少年存在因过度使用AI而影响正常生活的问题。中国青少年研究中心的调查表明,面对烦恼时,超两成学生直言“只想和AI聊,不想和真人说”。人与机器的成瘾性互动侵蚀的不仅是人类独立思考的能力,也是人与人之间的真实关系。

当AI越来越深度地嵌入我们的工作、生活,AI治理也成为一个越来越重要的课题。当前的AI治理更多聚焦于内容是否合规、技术是否滥用、AI幻觉等显性问题,缺乏对情感陪伴、虚拟伴侣等场景的成瘾风险等AI伦理问题的评估。《人工智能拟人化互动服务管理暂行办法》的颁布实施,为人工智能拟人化划出了清晰的边界,既保护和鼓励提供智能客服、知识问答、工作助手、学习教育、科学研究等方面的拟人化服务的创新,也通过“分类分级”的监管策略,将AI情感陪伴等服务纳入法治的聚光灯下。

监管规则的颁布实施是起点,AI拟人化互动服务的治理仍然需要多部门形成监管合力,需要企业的自律、行业的规范,需要社会对青少年等群体的密切关注与保护。

数字时代的技术创新从来不是价值中立的。当AI越来越懂得如何“俘获”人心,我们更需要清醒地认识到技术背后的伦理风险。AI可以像人,但不能越过虚拟与现实的边界,不能替代真实的人际联结。

来源:浙江日报   作者:评论员 董碧辉   编辑:钟一鸣