网信办征求意见:人工智能拟人化互动服务提供者应当建立应急响应机制
发表于2025-12-30 14:31:30
摘要: 12月30日消息,国家互联网信息办公室就《人工智能拟人化互动服务管理暂行办法(征求意见稿)》公开征求意见。 人工智能拟人化互动服务,是指利用人工智

  12月30日消息,国家互联网信息办公室就《人工智能拟人化互动服务管理暂行办法(征求意见稿)》公开征求意见。

  “人工智能拟人化互动服务”,是指利用人工智能技术,向公众提供模拟人类人格特征、思维模式和沟通风格,通过文字、图片、音频、视频等方式与人类进行情感互动的产品或者服务。

  《人工智能拟人化互动服务管理暂行办法(征求意见稿)》指出,提供者应当具备用户状态识别能力,在保护用户个人隐私前提下,评估用户情绪及对产品和服务的依赖程度,发现用户存在极端情绪和沉迷的,采取必要措施予以干预。

  提供者应当预设回复模板,发现涉及威胁用户生命健康和财产安全的高风险倾向的,及时输出安抚和鼓励寻求帮助等内容,并提供专业援助方式。

  此外,其提到,提供者应当建立应急响应机制,发现用户明确提出实施自杀、自残等极端情境时,由人工接管对话,并及时采取措施联络用户监护人、紧急联系人。

  针对未成年人、老年人用户,提供者应当在注册环节要求填写用户监护人、紧急联系人等信息。

投稿:qingjuedu@163.com

Copyright © 2002-2024 青橘网