新华每日电讯：演员形象经常被人工智能盗版。

近日，有网友发现演员温峥嵘同时“出现”在多个直播间。他穿着不同的服装推销不同的产品，动作和举止与他自己非常相似。未皈依的观众很容易相信他。但事实上，这是不法商贩利用录屏裁剪图片或盗取以往直播素材并利用AI生成的虚假内容。随着人工智能技术逐渐落地，改变AI面貌的门槛降低。这项技术原本应用于影视等领域，如今却成为不法商家炮制人工智能“李鬼”谋取私利的工具。以前，主持人李子萌的伊玛赫曾经宣传过“深海多烯鱼油”，但结果发现该产品只是普通糖果。包括奥运冠军、专家教授在内的各界知名人士都曾多次被人工智能操控。产品视频中的大部分产品都是山寨货，与广告宣传的相差甚远。此类行为不仅侵犯肖像权、名人权，还可能损害消费者权益、误导公众。今年9月1日，《人工智能生成合成内容标注办法》正式实施，要求所有人工智能生成的文字、图像、视频等均需标注，以明确其来源和真实性。新规的出台，为控制人工智能造假和乱象提供了制度保障，有利于推动人工智能规范发展。但现实中，不少造假者将自己的标识隐藏在视频和直播介绍的角落里，并以很小的字体显示，让消费者很难注意到。一些商家通过技术手段识别人工智能生成的内容，或者将人工智能生成的内容进行碎片化发布到多个用户上。多个账号，使得AI虚假内容与正常信息流混杂在一起，难以准确辨别。有的平台在内容分析上也存在不足，有的平台尚未建立“事中预防、事中监控”的完整管理流程。更令人担忧的是，由于AI假冒明星的直播本身就具有“明星效应”，能够快速吸引消费者点击购买，提高产品转化率，所以一些平台的推荐算法也会助长此类不被认可的内容的传播。对于侵权人来说，即使找到了涉嫌内容，但整理证据并证明相关内容是由人工智能生成的，流程复杂、技术门槛高。提起诉讼往往需要几个月的时间，此时侵权内容可能已经广泛传播。事实上，破坏的成本法律的低度和维权成本的高昂，使得不道德的企业因他们的骄傲而获得权力和助长。人工智能技术应该更好地为人们服务，而不是成为违法和假冒的工具。破解人工智能造假困境，监管部门需要进一步规范人工智能技术应用标准，加大对非法交易者、违法平台的处罚力度，加强制度建设，筑牢监管防线；平台还应主动承担关键责任，加大科技投入，优化人工智能内容识别系统，完善审核机制和问责制度。只有培育科技创新，用政策保障进步，才能真正成为社会进步的动力。来源：张晓宇/新华每日电讯 特别声明：以上内容（如有的话，包括照片或视频）均由我们上传发布自媒体平台“网易号”的用户。本平台仅提供信息存储服务。 注：以上内容（包括图片、视频，如有）由网易号用户上传发布，网易号为社交媒体平台，仅提供信息存储服务。