欧盟计划禁止聊天机器人在与任何18岁以下未成年人的互动中模拟情感或人际关系，因为该集团正努力阻止儿童对该技术产生情感依赖。根据WIRED看到的一份立法草案，这些规则将成为周四提出的《欧盟儿童法案》的一部分，该法案还包括对未成年人访问社交媒体和视频分享平台的类似限制。

根据草案，13岁以下的儿童将被禁止在没有监护人监督的情况下访问聊天机器人，数字平台必须在其产品中建立儿童安全保护机制，否则将面临高达全球总营业额6%的罚款。新规则还规定，在欧盟运营的聊天机器人将不允许在不同对话之间保留互动记忆，因为欧盟委员会担心这可能会导致系统随着时间推移积累未成年人的敏感数据，并可能助长有害的互动模式。

拟议的法律还规定，在线社交网站、视频分享平台和游戏的服务提供商不应在其服务中自动激活或鼓励使用人工智能聊天机器人。其中包含不得将人工智能陪伴和通用对话聊天机器人置于未成年人联系人列表顶部的要求——此前Snapchat曾这样做过。

该提案仅限于被欧盟委员会认为对未成年人健康、安全和福祉构成严重风险的人工智能陪伴和通用对话聊天机器人。位于布鲁塞尔的倡导组织“欧洲数字权利”的政策顾问西蒙·德布鲁维尔对针对聊天机器人的措施表示欢迎，但他对WIRED表示：“将它们仅限于年轻人是没有意义的。”

“难道我们大家不都应该受到保护，免受那些被设计成具有成瘾性的AI、创造情感依赖的AI，或者默认激活并强加给用户的AI功能的影响吗？”欧盟表示，其预计于今年晚些时候推出的《数字公平法案》将提出更广泛打击成瘾性设计的措施。

欧盟委员会在WIRED看到的文件中表示，其担心对聊天机器人的依赖可能会对儿童的发育及其与其他人的人际关系产生负面影响。该委员会还对聊天机器人向未成年人提供危险建议（包括关于心理健康和个人发展方面的建议）表示担忧，并称这可能会塑造和鼓励高风险行为。

“各平台一直在拿儿童的心理健康当儿戏，”乌尔苏拉·冯德莱恩主席在周四的新闻发布会上说。根据益普索在法国、德国、瑞典和爱尔兰进行的民意调查，大约有一半11至25岁的欧洲人曾与人工智能聊天机器人讨论过私密或个人问题。

澳大利亚和英国都在试图通过禁止未成年人使用社交媒体来限制他们访问聊天机器人。报告还强调了聊天机器人生成的深度伪造内容的危害，冯德莱恩在周三的盟情咨文中也对此进行了呼吁：“我们不必接受女孩的照片被用于人工智能生成的色情图像……欧洲有能力采取行动。”

尽管自8月以来，欧盟《人工智能法案》已要求将合成内容标记为人工智能生成，但这些规则目前仅适用于为商业用途生成的深度伪造内容。欧盟委员会还将数字分心归咎于年轻人基本技能的下降。

根据经济合作与发展组织跨越91个国家的研究，表示将人工智能聊天机器人用于学校作业的儿童的测试分数比不使用的儿童要低。独立网络“欧洲儿童在线”的研究人员在一份报告中写道，对认知影响和技能退化的担忧“暴露了生成式人工智能工具设计中儿童权利的缺失”。