认可，让AI的内容“揭示其身份”

景明的每日记者刘kun uningming每日通讯员刘·斯旺 当深夜时，有些人要求在线聊天并感到舒适。当它出售视频时，有些人会使用它快速生成营销副本。当同学聚集时，有些人用它来使诗歌变得乐趣……这是许多人眼中的“生活的好助手”和“良好的工作” - 人工智能的大型模型（AI）。 最近，许多大型模型已经出现并在世界各地流行，再次设定了人工智能浪潮。但与此同时，有些人使用人工智能来生产和综合错误的内容，以吸引注意力，赢得流量，或者尝试使用假货来传播谣言和欺诈，这些谣言和欺诈行为会带来一些风险和隐藏的危险，并引起社会关注。 最近，州互联网信息办公室，工业和信息技术部，公共安全部以及该人无线电和电视国家的分类已加入“人工智能中合成内容的生成步骤”（因此从因此称为“度量”）。这些建议着重于“合成内容徽标的形成”的关键点，提醒用户通过徽标识别错误信息，阐明身份的责任和相关服务生物的义务，以及每个内容和警务链接的身份标准。它将于2025年9月1日举行。 如何使人工智能生成合成内容“清晰的身份”，而不再“难以区分真实和错误”？如何解决人工智能安全管理的问题？记者对此进行了采访。 人类机器人在江苏省苏州市举行的“人工智能 +”创新与发展促进会议上展出。新华社 人工智能综合使很难分发在真实与虚假之间 小猫和狗在音乐上跳舞，以及在家中对公鸡的“可爱的孩子”……在简短的视频平台上，人们经常看到类似的视频。实际上，某些具有大量沟通和想要的“魔术视频”不是真的，但是由人工智能形成和合成。 如此被称呼的人工发电智能和人类制造是指使用人工智能技术开发和合成的文本，照片，音频，视频，虚拟场景。 近年来，人工智能技术已迅速发展，为开发合成文本，照片，音频，视频和其他信息提供了方便的工具。可以在在线平台上快速开发，合成并传播大量信息。在促进经济发展，丰富在线内容并促进公共生活的同时，它也带来了滥用生成合成技术和生态的问题E网络，吸引了社会所有部门的关注。 “一些喜欢我参加的电影和电视剧的观众被面对面的视频所欺骗，这些视频本质上是如此糟糕。”一位演员说，他希望建立更好的习俗。实际上，许多公共数字遇到了类似的问题。 根据公共安全部的数据，在过去的两年中，全国各地发生了近100起“ AI脸交换”欺诈案件，总经济损失高达2亿元。 “人工智能发展和综合内容变得越来越现实，这也提供了新的安全风险，例如错误信息，识别信息和恶意世代的内容，并削弱了公众信任的基础，以在线传播内容。”中国工程学院的学术学者，郑大学的教授说。 Chi的副首席工程师Liu QuanNA电子信息行业发展研究所认为，人工智能模型本身没有解释问题。大型模型的操作机理被模糊，“黑匣子”属性产生的特性导致无法解释。出乎意料的是，凭证会降低凭据，使输出内容具有现实的错误和偏差，尤其是在医疗，金融等领域，这很难满足严格的凭证要求。 Liu Xiaochun, director of the Internet Rule of Law Research Center of the University of the Chinese Academy of Social Sciences, said the time cost of "forgetting" and "falsification" videos, "little boy crushed under the trash", the deep forgiveness, misinformation, bad information, plagiarism and violation brings challenges to the adversity of cyberspace tools, including loveA content, and also passed the newer and higher requirements for management tools, methods and 方法。 数据表明，到了2024年，在中国国家网络空间管理局中，共有302个生成人工智能服务，其中当年注册之前有238个。 “目前，大型模型可以产生具有很高现实感的文本，图片，场景和音频。普通人通常很难在不使用发现工具的情况下识别内容的真实性。”中国科学院计算机技术研究所的数字内容综合和宽恕总监Cao Juan认为，在各种行业中实施生成人工智能技术的实施中，合成内容产生的数据的大小ay ay ay ay ay ay ay ay ay ay great a great a great a great a great a great a great a great a great a great a great a great a great a great a great a great a ay the Generated Content of Generated Content的综合检测成本很高。合成内容的开发的适当情况大大扩展，鼓励了各种欺骗情况。 在举行的科学和技术节期间在山东青岛的一所中学，学生们观看了机器人狗的表演。    张杨图片的景图 创建值得信赖的AI技术 引入步骤是我国促进人工智能领域安全管理，促进行业的标准和健康发展以及指导技术变得良好的重要一步。它标志着在生成人工智能领域开发安全可靠的生态系统的关键步骤。 根据国家互联网信息办公室负责的相关人员的说法，提案的重点是解决诸如“形成”，“生成”和“成立的地方”之类的问题，该问题促进了从世代进行全面处理的安全管理，并努力创造可靠的人工智能技术。 对于服务提供商，这些步骤清楚地表明应将明确的身份添加到生成的合成内容中，例如文本，音频，照片，vidEO，虚拟场景等。在提供诸如下载，复制和导出合成内容之类的功能时，应确保文件包含满足要求的权利；隐式标识应添加到生成合成内容的元数据文件中。 关于Internet应用程序发行的平台，Iminumusewing提案在网上启动或审查应用程序时，应向提供商解释互联网应用程序，以解释是否提供人工产生的智能和合成服务，并验证合成内容身份身份的相关材料。 对于用户，这些建议建议用户使用网络信息内容服务来发布和生成综合如果内容为，则必须主动声明并使用身份发行的身份功能来识别。 此外，没有组织或个人可以恶意删除，篡改，宽恕在这些步骤中设置的E或隐藏形成的合成内容徽标将不会为他人提供恶意性的工具或服务，并且不会通过不正确的认可来破坏他人的合法权利和利益。 “步骤以合理的成本提高了安全性，在各种应用程序中促进了人工智能的加速实施，例如与文本，内容和辅助设计进行沟通，同时减少了对人工智力和合成技术滥用滥用的损害，避免了诸如使用艺术技术的差异和井井有条的智力，并促进了人工智能的危险。 中国政治科学与法律大学法治研究所教授张·林汉（Zhang Linghan）认为，人工情报内容识别系统的人工系统具有机构的流产价值。身份可以影响Vely确定人工智能产生的信息，并防止传播和使用错误信息；身份可以帮助用户快速了解生成人造产品和服务参数的相关属性或信息；身份可以帮助监管部门实施评估，监测和其他生成人造产品或服务的管理，并促进生成和合成内容的人工智能的法律和发展。 张·林汉（Zhang Linghan）目前说，人工智能和合成内容身份系统的人工产生主要集中在“如果机器形成”的正式判断。在身份技术的发展和发展中，身份的sistema将在未来发挥更丰富的作用，逐渐从正式的酌处权转变为“如果足够可靠”的质量判断，进一步促进了健康的发展这个行业。 安全管理进入“深水区” 良好的法律和良好的治理专注于实施。 为了促进提案的实施，同时发布了国家标准“网络安全技术人工智能生成合成内容”，以更好地指导相关生物以标准方式进行身份活动。 “目前，人工安全管理的管理已从对风险的讨论中进入了实际执法的深水。” Cao Juan说，大型一代模型的PAG不同技术已经非常快速地更新，并且新的里程碑模型平均将出现两个月。提高新宽恕方法的一般能力很重要。有必要在“拍摄，射击”之后放弃思想，并开发AI伪基本模型识别，以改善伪索引的概括和性能应用模型。 曹胡安说，有必要研究准确的对策并批准避免恶意风险的方法。同时，它减少了对无害内容的分散的影响，考虑到生成的内容应用的开发和管理，创建了国家发现工具，并促进所有人使用它来识别伪造。公共安全部第三研究所副主任Jin Bo说，随着身份管理和算法的有机间隔逐步联系，安全性评估和其他机制，与内容身份的合规生成的生成可能是相关部门的主要重点领域，以执行知识管理检查和特殊Actial Acti Acti Acti Acti Acti Acti Acti Acti Acti Acti Acti Acti Acti Acti Acti Acti Acti Acti Acti Actiage Activation contimation contimation Acti Acti管理ons。在此过程中，如何平衡发展和安全，变革和责任，改善执法的专业精神，完善和智慧，从而发展智能行业的安全，开放和公平的劳动环境，仍然需要深入探索。 “此外，在管理人工智能的整个过程中，应结合'人为因素'。”金博说，有必要专注于提高公众评估资源信息的真实性和监控资源的真实性，积极培养公众人工智力素养，并确保人工智能技术的结果普遍分配。 从陈楚的角度来看，“步骤”的实施不能与整个社会的统一和协调区分开。地方部门，大学，研究和商业机构可能会一起参与，以建立CO的多点合作具有领先的徽标工作的NTENT管理网络，并在徽标中促进工作的稳定和延长。此外，有必要建立公共服务平台内容的民族身份，以促进公共和行业，以视觉和互动方式深入了解身份工作。 “遗传人工智能激发了信息技术从'伴侣的思维'的普通特征变成工具的高度智能特征，这会带来令人不安的发展机会。不可避免地是我们重要的未来技能。它要求我们真正理解和管理人造艺术。” Chen Chun说。 “每日景”（第15版，2025年3月27日）