生成式AI在互联网平台的应用展开，讲述其在满足创作需求、丰富互动模式方面的表现，同时也会探讨在其发展过程中出现的如内容同质化、虚假低质内容等问题，以及互联网平台针对这些问题的应对措施。
随着生成式AI大模型不断迭代升级，众多AI创作工具纷纷进驻各大互联网平台，人工智能已经渗透到内容创作生产的各个角落。首先，生成式AI在满足创作需求方面表现卓越。像北京的刘女士就热衷于用AI特效拍摄短视频，通过生成式AI大模型，她能在视频里实现多种奇妙的变化，如回到幼时、漫步洱海畔、化身冰雪公主等，甚至家中小猫也能开口讲段子。在各大平台上，这种创作需求的满足随处可见。小红书的用户借助AI能够“一句话生成配图”，让文字内容更易传播；在涂鸦界面简单画上几笔，就能生成多种风格的图片。喜马拉雅平台利用百万小时自有版权音频数据训练，用户仅需录制十几秒音频，就能生成用自己音色“朗读”的有声书，还能切换语种和方言。抖音的剪映更是强大，用户可以用AI配音、生成文案和图片，上传视频片段就能一键生成带有旁白和音乐的短视频，截至2025年2月，“AI绘画”标签已有468.8万人参与，累计播放达484.9亿次。快手的“可灵AI”能让用户上传文字描述和参考图就实现图生视频，2024年9月，人社部中国就业培训技术指导中心与“可灵AI”合作发布“职业数字展馆”短片，12月快手平台上线的生成式人工智能(AIGC)导演共创计划推出9部不同类型的电影短片。总之，生成式AI能够理解人类语言，学习海量数据，创造出文字、图像、音频和视频等内容，互联网平台借助AI大模型技术开发出更多便捷的创作工具，使得人们脑海中的想象得以实现。其次，生成式AI丰富了互动模式。石家庄的王先生发现“今日头条”新增“专属AI助理”功能，他提问“国际金价趋势是什么”，几秒内就能得到答案，还能进一步与AI讨论。其他平台如新浪微博、小红书、微信“搜一搜”、哔哩哔哩等都推出了“智能搜索”，基于平台数据库和相关技术，AI能针对用户问题生成个性化答案并筛选搜索内容。不同平台的AI搜索各有特长，如小红书的“点点”依托大量生活方式、旅行打卡类笔记，在定制旅行攻略和搜集生活妙招方面表现出色。此外，像微博上基于微博知微大模型训练而成的“罗伯特”这个AI机器人，以其对平台“热梗”的熟悉，常出现在用户评论区，拥有167万粉丝，日互动次数超11万。哔哩哔哩的网友可以把视频分享给“AI课代表”获取摘要。然而，AI在内容创作方面虽然能力出众，但也存在问题。一方面，存在内容同质化、抄袭洗稿的情况。像艺术史领域博主小铭，辛苦原创的内容被他人用AI快速洗稿，而且流量比自己还好。市面上的专业洗稿工具让抄袭洗稿变得更隐蔽。另一方面，AI可能带来虚假谣言，例如有人利用AI软件合成学校发生火灾的图片并传播，在2024年公安部公布的10起打击整治网络谣言典型案例中，有4条涉及使用AI造谣。为了让生成式AI发挥最大效能，互联网平台也在积极应对。今日头条在2024年开始治理，对抄袭、洗稿零容忍，加强AI内容审核。通过迭代模型、增强识别低质AI内容能力，加上人工审核、上线“AI创作内容”标签、发布违规治理公告等措施，管控了超过93万条低质AI内容，处罚近3万个违规账号。同时，通过完善谣言库、权威信源库，组建专业审核团队，拦截不实信息超500万条，处罚超4.7万个造谣账号。此外，还探索“用AI治理AI”，将AI模型引入识别AI生成虚假信息流程，依据不同情况分别处理。多名专家指出，AI生成内容的治理复杂，需要多方配合。执法机构要建立全链条执法标准，用户也要理性对待可疑内容，核实后再传播。
本文总结了生成式AI在互联网平台中的多方面影响，包括在创作需求满足和互动模式丰富方面的积极作用，同时也指出了其带来的内容同质化、虚假低质内容等问题，并且阐述了互联网平台针对这些问题的治理措施，强调了AI生成内容治理需要多方协作的重要性。
原创文章，作者：Sorrowful，如若转载，请注明出处：https://www.gouwuzhinan.com/archives/28186.html
