文章讲述了在四川宜宾山体滑坡救灾期间，有网民利用AI炮制谣言被查处的事件。还提到西藏日喀则地震时AI生成的以假乱真图片。指出AI生成内容与真实信息混合难以分辨的危害。探讨如何从源头上遏制AI谣言，如平台启动“应急预案”。同时提及利用AI造谣传谣的危害性极大，还提出了让AI成为“谣言粉碎机”的一些建议，最后强调治理AI谣言既要打击幕后黑手，也要将科技向上向善理念融入AI开发与进化中。
近日，又出现了有人利用AI编造灾情谣言并被查处的情况。2月8日11时左右，四川省宜宾市筠连县沐爱镇金坪村2组突然发生山体滑坡。就在救援救灾工作紧张进行的时候，网络上却出现了一些蹭热度的AI谣言，在网络上搅乱局面。
公安部网安局在2月15日发布通报称：近期，有网民想要借助“四川宜宾山体滑坡灾害”来获取流量，于是使用AI技术随意捏造灾害发生的时间、地点以及受灾、救灾的情况，炮制出“四川凉山发生山体滑坡灾害”这样的系列谣言并且进行传播。这一举动引发了当地群众的恐慌，也遭到了网民的质疑，严重扰乱了视听。公安机关网安部门迅速开展打击网络谣言的工作，涉事的网民周某、许某鑫都受到了行政处罚。
值得我们关注的是，在不久之前西藏日喀则发生地震的时候，也有很多AI生成的图片达到了以假乱真的程度。这或许是我们身处AI时代必须要警觉的一个问题：大量由AI生成的内容，像是文字、图片、视频等等，与人类自己创作的真实信息相互混杂，难以区分开来。其危害不仅仅是造成社会的恐慌，扰乱网络传播的秩序，更在于对整个信息生态造成污染和破坏。
监管部门及时进行打击是必不可少的，通报相关的典型案例以形成震慑力也是很有必要的。从另一方面来看，当类似的AI谣言不断地出现，当AI谣言如同灾害事故的寄生虫一般存在的时候，我们也需要思考这样一个问题：怎样从源头上对其进行遏制呢？
由于每当出现社会关注度很高、牵动人心的灾害事故时，总会有一些别有用心的人想要蹭热点、博流量，那么平台是否能够马上启动相关的“应急预案”呢？通过提前监测和预防可能出现的谣言，尽早切断其传播的路径，将其影响力控制在最小的范围之内。应急不仅仅是针对灾害、事故本身的应急，还应当同步到网络上。
利用AI来造谣传谣，其危害性是不容小觑的。去年6月的时候，浙江警方追查一则不实的火灾消息，破获了一起利用AI造谣以谋取非法利益的案件。这个团伙仅仅只有3个人，但是在一个月内就使用AI生成并且发布了3000多个虚假视频。以前造谣可能只需要一张嘴，现在可能就相当于有千张嘴、万张嘴在造谣了。
AI应该成为“谣言粉碎机”，而不是“谣言制造机”。有人提议强制AI学习法律，甚至是所有的法律条款。当使用者出现违反法律的情形时，AI能够进行警告提醒，甚至是拒绝执行命令。人们也期望有这样一款AI或者功能：输入某条消息之后，AI可以迅速找到它的制作源头，甚至是梳理出整个传播链条，从而方便监管部门查处相关的责任人。
不管怎么说，无论工具如何改变，利用工具做好事或者做坏事的始终都是人。AI的另一面，其实也是人性的另一面。
AI仅仅是一种技术工具。治理AI谣言，一方面要加大打击的力度，及时斩断制造AI谣言的幕后黑手以及背后的黑灰产业链。另一方面，也要坚持科技向上向善的理念，将这一理念深刻地融入到AI的开发与进化当中，不断地完善技术和治理规则，有效地挤压网络谣言和虚假信息的生存空间。
文章围绕AI制造灾情谣言被查处事件展开，阐述了AI谣言带来的多种危害，如造成社会恐慌、扰乱网络秩序、污染信息生态等。提出从平台和技术等方面遏制AI谣言的思考，强调治理AI谣言要打击幕后黑手与完善规则，将科技向善理念融入AI发展，因为利用AI的根本还是人。
原创文章，作者：购物狂魔，如若转载，请注明出处：https://www.gouwuzhinan.com/archives/17898.html
