靳东和雷军在两会提出的关于AI换脸拟声治理的提案展开，讲述AI换脸拟声被滥用带来的诸如侵权、诈骗等诸多危害，同时提及其他代表委员对AI在不同领域积极作用的期待，还阐述了当前我国对AI技术应用规定存在的不足，强调各方应承担责任规范AI技术的应用。
全国政协委员、演员靳东在3月5日的政协小组讨论上表示，一些观众被AI换脸视频欺骗，情况很恶劣，他希望建立更好的规则，其提案之一是加快与AI应用相关的立法工作。无独有偶，全国人大代表、小米科技董事长兼CEO雷军在前一天公开的5条建议中，也有“加强‘AI换脸拟声’违法侵权重灾区治理”这一条。
他们关注这个问题的重要相同原因是，自己都曾是被“换”和“被拟”的对象。去年底，江西有位老人到银行要贷款200万给“男朋友靳东”拍戏，而这个“靳东”是诈骗分子用AI换脸合成的，通过视频平台与老人“网恋”。去年国庆假期，短视频平台出现大量“雷军配音”的恶搞视频，言辞犀利还爆粗口，雷军不得不专门发视频澄清语音是AI模拟生成并呼吁停止恶搞。
实际上，被AI偷走面孔和声音的远不止他们二人。从已有报道看，有“假张文宏”深夜直播带货，“假刘晓庆”分享人生鸡汤，“假古天乐”代言游戏平台。以现在的技术水平，只要有影像和声音素材，几乎任何人都可能被AI冒充。
AI换脸拟声一旦被滥用，危害非常多。首先，这涉嫌侵犯被模仿者的个人信息、肖像权和名誉权。其次，不法分子利用AI制造的虚假形象和声音，可以从事诈骗、诱导消费等违法犯罪行为，给受害者带来人身财产损失。更严重的是，为博眼球和流量，不法分子用AI制造虚假事件、新闻传播，长此以往，人们会陷入真假难辨的信息流，引发一系列社会问题。
不过，一部分代表委员关注AI应用弊端时，也有代表委员期待AI在不同行业和领域发挥实质性作用。全国政协委员、复旦大学数学科学学院教授郭坤宇提出，AI技术可带来虚拟教育资源，打破物理阻隔，让偏远地区学生有机会获得优质教育；全国人大代表、陕西师范大学黄河研究中心主任方兰希望借助AI技术推动黄河流域精准农业提升。此外，AI人才培养以及其对产业和岗位的影响等也是两会代表委员热议话题。可见，AI已走出实验室，向与大众息息相关的基础设施发展，所以为AI技术应用制定标准、规则和底线迫在眉睫。
目前，我国已出台《互联网信息服务深度合成管理规定》《生成式人工智能服务暂行管理办法》，对深度合成内容的用途、标记、使用范围和滥用处罚作出规定。2024年9月，国家互联网信息办公室发布《人工智能生成合成内容标识办法（征求意见稿）》，明确无论文本、音频、视频还是虚拟场景，都要在适当位置添加显著提示标识。但实际情况是，恶意深度合成的追责存在证据标准高、取证困难等难题，AI生成内容标注缺乏明确标准，这都导致AI换脸拟声滥用难治理。
技术本身无好坏，每次科技进步都会带来便利和“麻烦”，科技是否向上向善取决于人。对于AI技术，除了像靳东、雷军呼吁的尽快出台操作性强的法律法规，AI行业、落地平台和普通用户都应参与制定和履行标准、规则，承担责任和义务，这样AI技术才能真正助力人类实现自身飞跃。
靳东和雷军在两会提出AI换脸拟声治理提案的背景，AI换脸拟声被滥用的诸多危害，其他代表委员对AI积极作用的期待，我国现有AI技术应用规定的不足，最后强调各方需承担责任规范AI技术应用，以让AI技术更好地服务人类。
原创文章，作者：购物狂魔，如若转载，请注明出处：https://www.gouwuzhinan.com/archives/31056.html
