本文将深入探讨AI深度合成音视频侵权现象。从恶搞企业家雷军、利用AI制作张文宏医生带货音视频到诈骗等行为，过去一年这种侵权现象日益严重。同时讲述了AI深度合成技术在网店被用于牟利，以及相关技术的制作来源、侵权的法律判定和应对策略等内容。
在过去的一年里，AI深度合成音视频侵权现象犹如脱缰之马，愈发不可收拾。从恶搞知名企业家雷军，到利用AI制作张文宏医生的音视频为自身带货，甚至有不法分子借助AI深度合成视频实施诈骗活动，此类事件频频发生。
其实，早有类似事件的先例。曾有网友利用AI合成的刘德华声音来赚取流量，刘德华的电影公司不得不紧急发布声明，警告网民莫要陷入这种AI语音合成技术的骗局之中。近日，经过记者调查发现，要实现AI深度合成音视频并非什么难事。在一些购物平台上，AI深度合成技术竟然成为众多网店赚钱的工具。只需花费区区几十元，就能够定制由AI深度合成的名人音视频。
在网络直播领域，有主播进行直播教学，教授如何使用开源工具进行AI深度合成。
那么，这些AI深度合成的声音和换脸是怎么制作出来的呢？记者经过调查发现，在网络上下载相应的深度合成软件并不困难，而且还有不少网络主播会开直播来教网友使用这些软件。
记者在手机应用商城搜索换脸换声相关工具时，会出现很多工具。不过记者察觉到，这些换脸工具设定了固定场景，而且从效果上看，逼真度并不高。那么，网店制作的逼真度较高的AI深度合成的声音和换脸是如何做到的呢？
专家表示，此类软件目前在网络上有数十种。不管是换声还是换脸软件，在不同的场景下都需要调整相应的参数，操作步骤较多，属于半专业软件，这就使得其存在一定的技术门槛，所以并不被广大网民所熟知。但是记者发现，目前在短视频平台上有很多主播在教网民使用这些相关软件。
需要注意的是，未经授权，合成制作他人视频声音属于侵权行为。
那么，在网络购物平台上使用AI深度合成技术制作并出售名人的音视频，是否触犯了相关法律呢？专家表示，相关法律法规明确规定，未经授权，不得深度合成制作发布他人信息。网店接单进行AI深度合成制作名人视频，这已经属于侵权行为，并且应当承担相应的法律责任。
中国计算机学会计算机安全专业委员会委员吕延辉指出：《中华人民共和国民法典》规定，自然人享有肖像、声音等权益，任何组织或个人利用信息技术伪造都是侵权行为。2023年国家网信办、工信部、公安部联合发布出台的《互联网信息服务深度合成管理规定》要求，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息。2024年网信办发布的《人工智能生成合成内容标识办法（征求意见稿）》也提出，对AI生成合成内容要进行标识，以便公众识别和区分，防止误导性信息传播。
对于网店使用AI深度合成技术制作名人的视频，应当承担什么样的法律责任呢？
中国计算机学会计算机安全专业委员会委员吕延辉表示：防范AI侵权问题需要从法律、平台和公众等多个层面综合施策。在法律层面，要进一步完善相关立法，细化AI克隆技术的法律条款，明确侵权行为的定义和责任，同时加强执法力度。在平台层面，要强化相关政策法规的宣贯和执行，做好已有数据的保护，应用技术手段来规避AI克隆侵权问题的发生，同时也要建立健全内容审核和侵权举报机制，及时发现和处理侵权问题。
法律专家也提醒AI深度合成制作和信息发布者，不要心存侥幸，因为法律没有灰色地带，千万不要因小失大。
北京航空航天大学法学院副教授赵精武强调：法律并不是禁止使用AI合成技术，而是禁止不合法不合理的使用，尤其是禁止不进行任何显著标识和提示的AI合成信息的发布和传播。
本文总结了AI深度合成音视频侵权现象的多种表现，如恶搞名人、诈骗等。阐述了AI深度合成技术在网店被用于定制名人音视频的情况，探究了相关技术的制作方式、侵权的判定依据，同时也介绍了专家对于防范AI侵权在法律、平台和公众层面的建议，强调了合法合理使用AI合成技术的重要性。
原创文章，作者：Wonderful，如若转载，请注明出处：https://www.gouwuzhinan.com/archives/18509.html
