五部门发文规范人工智能拟人化互动服务
不得向未成年人提供虚拟伴侣
要点
●鼓励拟人化互动服务创新发展,对拟人化互动服务实行包容审慎和分类分级监管
●提出拟人化互动服务促进措施,明确支持技术研发创新,鼓励有序拓展文化传播、适老陪伴等相关领域应用
●规定提供拟人化互动服务的基本要求,明确不得从事生成危害国家安全、荣誉和利益,煽动颠覆国家政权、推翻社会主义制度等内容的活动,规定拟人化互动服务提供者的安全管理义务
●完善网络用户权益保护制度,规定拟人化互动服务提供者的未成年人、老年人权益保护和个人信息保护等义务。拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务。向不满十四周岁未成年人提供其他拟人化互动服务的,应当取得未成年人的父母或者其他监护人的同意
4月10日,国家网信办、国家发展改革委、工业和信息化部、公安部、市场监管总局联合公布《人工智能拟人化互动服务管理暂行办法》,自今年7月15日起施行。办法提出,提供人工智能拟人化互动服务(以下简称“拟人化互动服务”),不得向未成年人用户生成可能引发未成年人模仿不安全行为、产生极端情绪、诱导未成年人不良嗜好等可能影响未成年人身心健康的内容。
据了解,近年来,拟人化互动服务快速发展,在文化传播、适幼照护、适老陪伴等领域的创新应用不断涌现。国家网信办有关负责人表示,该办法旨在促进拟人化互动服务健康发展和规范应用,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益。办法明确了拟人化互动服务适用范围,即利用人工智能技术,向我国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务。
根据办法,提供拟人化互动服务,不得从事:生成鼓励、美化、暗示自残自杀等损害用户身体健康,或者语言暴力等损害用户人格尊严与心理健康的内容;过度迎合用户、诱导情感依赖或者沉迷,损害用户真实人际关系;通过情感操纵等方式,诱导用户作出不合理决策,损害用户合法权益等活动。
国家网信办有关负责人表示,拟人化互动服务的发展与治理需要政府、企业、社会、网民等多方参与,共同维护良好网络生态,促进人工智能向上向善。 据《北京晚报》

