全国政协委员周鸿祎在两会期间关注的安全和人工智能两大方向相关内容，包括DeepSeek对中国AI发展的重要意义、面临的问题，以及大模型的幻觉问题和应对方式，同时也提及网络安全领域的发展现状、问题及国外的经验借鉴等。
全国政协委员、360创始人周鸿祎参加全国两会的时候表示，在今年他依旧聚焦安全和人工智能这两个方向。周鸿祎特别提到，今年春节期间，DeepSeek在全球范围内突然崛起，这一事件堪称AI发展史上一座重要的里程碑。DeepSeek的出现意义非凡，它让中国的大模型在技术层面追赶上了美国的同行，而且在中国的用户、企业以及政府之中广泛地普及了人工智能知识。由于DeepSeek具备免费、开源等诸多优势特性，它被大量应用于政府和企业内部，从而达到降本增效的目的，并且加快了中国爆发AI产业革命的速度。
不过呢，DeepSeek作为基座模型，也存在着不少问题。像是幻觉、提示注入攻击等，这些都是需要面对的挑战。并且，如果要让大模型在企业内部真正发挥出作用，那就必须连接企业的专业知识库，打造智能体，还要调用各种IT系统，而这样做会进一步提高安全风险。随着大模型渗透率不断提高，应用安全方面的问题变得越来越紧急。周鸿祎提出建议，应当由既懂安全又懂AI的企业来带头，通过打造安全大模型的方式来解决大模型应用安全的问题。
周鸿祎还谈到，在传统大模型发展的技术路线碰到瓶颈的时候，DeepSeek借助强化学习探索出了新的范式。中国应该抓住这样的机遇，大力鼓励AI应用的发展。虽然DeepSeek存在幻觉这个如同“基因问题”般的缺陷，但是从某种意义上来说，幻觉恰恰是大模型具备真正智能的一种体现，是走向通用人工智能（AGI）的基础。大模型的幻觉尽管很难消除，不过可以通过多个大模型交叉验证、搜索矫正以及和企业知识库比对等方式来进行纠正。周鸿祎呼吁，不能因为大模型存在幻觉问题就停止其发展，国家对于大模型应该实行柔性监管，秉持更加包容审慎的态度，这样才有助于促进中国人工智能长远的发展。
当回顾网络安全领域发展的时候，周鸿祎指出，在传统行业进行数字化转型的大背景之下，网络安全和大模型安全问题变得越来越突出。越来越多的企业开始着手打造自身的安全体系，然而我国的安全行业存在非常严重的内卷现象。很多厂商仅仅是单纯地销售硬件和软件，导致客户无法得到自己所需要的安全服务，这样就使得行业和客户都面临着双输的局面。与此同时，高级别的攻击日益严重，企业不仅仅需要“安全盒子”，更需要高级网络安全专家的协助。为了解决这一问题，国外早就采用SaaS方式为更多的企业提供安全服务，这样做不但提高了服务的效果，而且还大大降低了投入的成本。因此，周鸿祎呼吁国家从政策上支持采购安全服务，特别是鼓励采购SaaS化安全服务，以此来实现安全的普惠。
周鸿祎着重强调，筑牢网络安全的根基其实是在为大模型的发展铺就道路，而解决AI应用安全和幻觉问题则是让技术真正转化成为新质生产力。他期望能够和大家一起共同探讨，从而走出一条具有中国特色的安全与创新协同发展的道路，为数字中国的建设保驾护航。
周鸿祎在两会期间阐述了安全和人工智能方向的诸多观点。包括DeepSeek对中国AI发展的推动、面临的挑战，大模型幻觉的认识与应对，网络安全领域的现状和国外经验借鉴等内容，其目的是为了探寻中国特色的安全与创新协同发展之道，保障数字中国建设。
原创文章，作者：Wonderful，如若转载，请注明出处：https://www.gouwuzhinan.com/archives/29614.html
