上周爆火的人工人人工智能聊天机器人ChatGPT ，掀起了人工智能问答潮流；还有之前的机器久管“过气网红”Deepfake深度合成技术 ，改进了技术和用户体验 ，爆火给大家带来了不少新鲜感 。没多
但人工智能问答有时真假难辨，理规有时还会陷入伦理道德困境 。定出ChatGPT的人工人开发者曾表示 ，ChatGPT存在答案看似合理但不正确 、机器久管答案过于冗长、爆火回答模棱两可问题时猜测用户意图 、没多响应有害指令等问题 。理规
最近 ，国家互联网信息办公室等三部门发布了《互联网信息服务深度合成管理规定》 ，对深度合成技术和服务做出管理规定。
据中国网信网12月11日消息 ，近日国家互联网信息办公室 、云计算工业和信息化部 、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》） ，自2023年1月10日起施行 。
《规定》中提到 ，深度合成服务的监督管理单位为国家网信部门，负责统筹协调全国深度合成服务的治理和相关监督管理工作 。国务院电信主管部门 、公安部门依据各自职责负责深度合成服务的监督管理工作 。
《规定》对深度合成服务提供者和技术支持者提出了详细的要求 。深度合成服务提供者需落实信息安全主体责任 、依法依约履行管理责任 、加强内容管理和审核，服务器租用同时以显著方式提示深度合成服务技术支持者和使用者承担信息安全义务。
此外 ，深度合成服务提供者和技术支持者提供人脸 、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人 ，并取得其单独同意。
深度合成服务提供者提供智能对话写作 、合成人声 、人脸生成替换 、沉浸式拟真场景等深度合成服务 ，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的建站模板合理位置 、区域进行显著标识 ，向公众提示深度合成情况 。
网信部门和有关主管部门发现深度合成服务存在较大信息安全风险的 ，可以按照职责依法要求深度合成服务提供者和技术支持者采取暂停信息更新 、用户账号注册或者其他相关服务等措施 。
附《规定》原文 ：
互联网信息服务深度合成管理规定
第一章 总则
第一条为了加强互联网信息服务深度合成管理 ，弘扬社会主义核心价值观 ，维护国家安全和社会公共利益，保护公民 、法人和其他组织的合法权益，根据《中华人民共和国网络安全法》 、《中华人民共和国数据安全法》 、《中华人民共和国个人信息保护法》 、模板下载《互联网信息服务管理办法》等法律 、行政法规 ，制定本规定。
第二条在中华人民共和国境内应用深度合成技术提供互联网信息服务（以下简称深度合成服务） ，适用本规定 。法律 、行政法规另有规定的 ，依照其规定 。
第三条国家网信部门负责统筹协调全国深度合成服务的治理和相关监督管理工作 。国务院电信主管部门、公安部门依据各自职责负责深度合成服务的监督管理工作 。
地方网信部门负责统筹协调本行政区域内的深度合成服务的免费模板治理和相关监督管理工作 。地方电信主管部门 、公安部门依据各自职责负责本行政区域内的深度合成服务的监督管理工作 。
第四条提供深度合成服务，应当遵守法律法规，尊重社会公德和伦理道德 ，坚持正确政治方向 、舆论导向 、价值取向 ，促进深度合成服务向上向善 。
第五条鼓励相关行业组织加强行业自律 ，建立健全行业标准 、行业准则和自律管理制度 ，督促指导深度合成服务提供者和技术支持者制定完善业务规范 、依法开展业务和接受社会监督 。
第二章 一般规定第六条任何组织和个人不得利用深度合成服务制作 、复制 、发布 、传播法律 、行政法规禁止的信息 ，不得利用深度合成服务从事危害国家安全和利益 、损害国家形象 、侵害社会公共利益 、扰乱经济和社会秩序 、侵犯他人合法权益等法律 、行政法规禁止的活动。
深度合成服务提供者和使用者不得利用深度合成服务制作 、复制、发布、传播虚假新闻信息 。转载基于深度合成服务制作发布的新闻信息的 ，应当依法转载互联网新闻信息稿源单位发布的新闻信息 。
第七条深度合成服务提供者应当落实信息安全主体责任，建立健全用户注册 、算法机制机理审核 、科技伦理审查 、信息发布审核 、数据安全 、个人信息保护 、反电信网络诈骗 、应急处置等管理制度，具有安全可控的技术保障措施 。
第八条深度合成服务提供者应当制定和公开管理规则、平台公约 ，完善服务协议 ，依法依约履行管理责任 ，以显著方式提示深度合成服务技术支持者和使用者承担信息安全义务 。
第九条深度合成服务提供者应当基于移动电话号码、身份证件号码 、统一社会信用代码或者国家网络身份认证公共服务等方式，依法对深度合成服务使用者进行真实身份信息认证，不得向未进行真实身份信息认证的深度合成服务使用者提供信息发布服务 。
第十条深度合成服务提供者应当加强深度合成内容管理 ，采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核 。
深度合成服务提供者应当建立健全用于识别违法和不良信息的特征库 ，完善入库标准 、规则和程序 ，记录并留存相关网络日志 。
深度合成服务提供者发现违法和不良信息的，应当依法采取处置措施，保存有关记录，及时向网信部门和有关主管部门报告；对相关深度合成服务使用者依法依约采取警示、限制功能 、暂停服务 、关闭账号等处置措施 。
第十一条深度合成服务提供者应当建立健全辟谣机制，发现利用深度合成服务制作 、复制 、发布 、传播虚假信息的 ，应当及时采取辟谣措施，保存有关记录 ，并向网信部门和有关主管部门报告 。
第十二条深度合成服务提供者应当设置便捷的用户申诉和公众投诉 、举报入口 ，公布处理流程和反馈时限 ，及时受理 、处理和反馈处理结果 。
第十三条互联网应用商店等应用程序分发平台应当落实上架审核、日常管理 、应急处置等安全管理责任 ，核验深度合成类应用程序的安全评估、备案等情况；对违反国家有关规定的 ，应当及时采取不予上架、警示 、暂停服务或者下架等处置措施 。
第三章 数据和技术管理规范第十四条深度合成服务提供者和技术支持者应当加强训练数据管理，采取必要措施保障训练数据安全；训练数据包含个人信息的 ，应当遵守个人信息保护的有关规定 。
深度合成服务提供者和技术支持者提供人脸 、人声等生物识别信息编辑功能的 ，应当提示深度合成服务使用者依法告知被编辑的个人 ，并取得其单独同意 。
第十五条深度合成服务提供者和技术支持者应当加强技术管理 ，定期审核 、评估 、验证生成合成类算法机制机理 。
深度合成服务提供者和技术支持者提供具有以下功能的模型 、模板等工具的 ，应当依法自行或者委托专业机构开展安全评估 ：
（一）生成或者编辑人脸 、人声等生物识别信息的；
（二）生成或者编辑可能涉及国家安全 、国家形象 、国家利益和社会公共利益的特殊物体 、场景等非生物识别信息的 。
第十六条深度合成服务提供者对使用其服务生成或者编辑的信息内容 ，应当采取技术措施添加不影响用户使用的标识 ，并依照法律 、行政法规和国家有关规定保存日志信息 。
第十七条深度合成服务提供者提供以下深度合成服务，可能导致公众混淆或者误认的 ，应当在生成或者编辑的信息内容的合理位置 、区域进行显著标识 ，向公众提示深度合成情况 ：
（一）智能对话 、智能写作等模拟自然人进行文本的生成或者编辑服务；
（二）合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务；
（三）人脸生成 、人脸替换 、人脸操控 、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务；
（四）沉浸式拟真场景等生成或者编辑服务；
（五）其他具有生成或者显著改变信息内容功能的服务 。
深度合成服务提供者提供前款规定之外的深度合成服务的 ，应当提供显著标识功能 ，并提示深度合成服务使用者可以进行显著标识 。
第十八条任何组织和个人不得采用技术手段删除 、篡改 、隐匿本规定第十六条和第十七条规定的深度合成标识 。
第四章 监督检查与法律责任第十九条具有舆论属性或者社会动员能力的深度合成服务提供者 ，应当按照《互联网信息服务算法推荐管理规定》履行备案和变更 、注销备案手续 。
深度合成服务技术支持者应当参照前款规定履行备案和变更、注销备案手续 。
完成备案的深度合成服务提供者和技术支持者应当在其对外提供服务的网站 、应用程序等的显著位置标明其备案编号并提供公示信息链接 。
第二十条深度合成服务提供者开发上线具有舆论属性或者社会动员能力的新产品 、新应用 、新功能的 ，应当按照国家有关规定开展安全评估 。
第二十一条网信部门和电信主管部门 、公安部门依据职责对深度合成服务开展监督检查 。深度合成服务提供者和技术支持者应当依法予以配合 ，并提供必要的技术 、数据等支持和协助。
网信部门和有关主管部门发现深度合成服务存在较大信息安全风险的 ，可以按照职责依法要求深度合成服务提供者和技术支持者采取暂停信息更新 、用户账号注册或者其他相关服务等措施 。深度合成服务提供者和技术支持者应当按照要求采取措施，进行整改，消除隐患 。
第二十二条深度合成服务提供者和技术支持者违反本规定的，依照有关法律 、行政法规的规定处罚；造成严重后果的，依法从重处罚 。
构成违反治安管理行为的 ，由公安机关依法给予治安管理处罚；构成犯罪的，依法追究刑事责任 。
第五章 附则第二十三条本规定中下列用语的含义 ：
深度合成技术 ，是指利用深度学习 、虚拟现实等生成合成类算法制作文本 、图像 、音频 、视频 、虚拟场景等网络信息的技术 ，包括但不限于 ：
（一）篇章生成 、文本风格转换 、问答对话等生成或者编辑文本内容的技术；
（二）文本转语音 、语音转换 、语音属性编辑等生成或者编辑语音内容的技术；
（三）音乐生成 、场景声编辑等生成或者编辑非语音内容的技术；
（四）人脸生成 、人脸替换、人物属性编辑、人脸操控 、姿态操控等生成或者编辑图像 、视频内容中生物特征的技术；
（五）图像生成 、图像增强 、图像修复等生成或者编辑图像 、视频内容中非生物特征的技术；
（六）三维重建 、数字仿真等生成或者编辑数字人物 、虚拟场景的技术。
深度合成服务提供者 ，是指提供深度合成服务的组织 、个人。
深度合成服务技术支持者 ，是指为深度合成服务提供技术支持的组织 、个人 。
深度合成服务使用者，是指使用深度合成服务制作 、复制 、发布 、传播信息的组织 、个人 。
训练数据 ，是指被用于训练机器学习模型的标注或者基准数据集 。
沉浸式拟真场景，是指应用深度合成技术生成或者编辑的 、可供参与者体验或者互动的、具有高度真实感的虚拟场景 。
第二十四条深度合成服务提供者和技术支持者从事网络出版服务 、网络文化活动和网络视听节目服务的 ，应当同时符合新闻出版 、文化和旅游 、广播电视主管部门的规定 。
第二十五条本规定自2023年1月10日起施行 。
相关文章
精彩导读
热门资讯
关注我们
