本文聚焦AI伪造侵权现象，通过雷军等案例引出话题，介绍了AI伪造在换脸拟声合成视频、带货营销、诈骗等方面的表现，还提及相关部门的处置情况，并探讨了应对AI侵权问题的解决措施。
在当今数字化时代，一张图片、一段声音，借助先进的技术就能摇身一变成为虚假视频。今年两会期间，雷军等受害者的回应，让AI伪造侵权这一话题再度成为舆论的焦点。明星现身、专家卖药等看似真实的场景，背后可能隐藏着AI伪造的陷阱。
换脸拟声合成视频的现象层出不穷，AI伪造究竟何时才能停止呢？
全国人大代表 雷军曾无奈地表示：“有网友说去年国庆放了7天假，8天被我骂醒。”网上出现了大量用他的声音和人脸制作的骂人的内容。起初，雷军觉得这是网民拿他开涮，自己也能够接受。然而，随着这类内容越来越多，且质量低劣，到后来已经到了防不胜防的地步。
中国政法大学副教授 朱巍指出，我们现在所看到的经过编辑的人脸以及声音，按照民法典的规定，都属于当事人权利人自身的人格权利。未经允许，任何人都不得侵害，不仅不能直接使用，也不能利用当事人的人脸信息、声音信息进行深度合成，更不能将其放入深度合成的物料库或场景库。
为了应对滥用AI技术伪造名人形象开展带货营销的问题，网信部门持续发力，督促各网站平台进行巡查处置。近一个月来，重点网站平台累计处置违法违规账号和店铺797个。
AI伪造的危害远不止于此，AI换脸和语音合成技术还被犯罪分子盯上，用于实施诈骗。他们通过非法获取的人脸照片和语音样本，利用开源AI工具生成逼真的虚拟形象。
此前内蒙古警方破获的一起AI换脸诈骗案令人震惊。福建某科技公司老板郭先生在视频通话中看到了“好友”的面容，在短短10分钟内就被骗转账430万元。事后才发现，对方竟是AI换脸与拟声技术合成的“数字替身”。
记者还亲自进行了体验，选择了一家声音克隆的网店，支付20元并提供自己的声音模板和文字后，就得到了AI深度合成的自己的声音。
中国计算机学会计算机安全专业委员会委员 吕延辉认为，AI侵权问题需要从法律、平台和公众多个层面综合施策。在法律层面，要进一步完善相关立法，细化AI克隆技术的法律条款，明确侵权行为的定义和责任，同时加强执法力度。
本文围绕AI伪造侵权这一热点问题展开，介绍了AI伪造在多个领域的表现，包括换脸拟声合成视频、带货营销和诈骗等，同时提到了相关部门的处置行动。最后强调了应对AI侵权需要从法律、平台和公众等多层面共同努力，以遏制AI伪造侵权的泛滥。
原创文章，作者：购物狂魔，如若转载，请注明出处：https://www.gouwuzhinan.com/archives/42341.html
