全国政协委员齐向东：DeepSeek等人工智能大模型应重点防范代码缺陷问题

“今年全国‘两会’，我比较关注两方面，一是人工智能安全，二是软件产业健康发展。”3月3日，全国政协委员、全国工商联副主席、奇安信集团董事长齐向东接受上游新闻（报料邮箱：cnshangyou@163.com）记者采访时说。

️国产人工智能大模型面临安全挑战

齐向东表示，当前，以大模型为代表的人工智能技术正在深刻重塑生产生活方式和科技创新模式。今年春节，国产大模型DeepSeek横空出世，引发了广泛讨论，它颠覆了传统的人工智能创新模式，将推动人工智能技术加速向千行百业渗透。但是人工智能也有“成长”的烦恼，随着人工智能技术的深度应用，大模型所面临的、所带来的安全挑战也日益严峻。

全国政协委员、全国工商联副主席、奇安信集团董事长齐向东。图片来源/受访者供图

齐向东说，这次DeepSeek横空出世，彰显了我国在科技创新上的巨大潜力，不仅让创新创业企业倍感振奋、干劲十足，也为我国科技创新实现从“追赶”到“引领”的蜕变，提供了重要战略机遇。人工智能是引领未来发展的颠覆性技术和前沿技术，也是注定要走进千家万户的关键共性技术。大力发展人工智能，能切实增强我国在数字经济、高水平人才引育和产业链供应链完整性等方面的优势，提升我国在国际技术标准与安全治理等领域的话语权。

“人工智能也大幅提升了网络攻击的烈度和广度，网络攻击窗口不断扩大、网络攻击手段不断革新、网络犯罪门槛持续降低，给传统产业发展带来了新风险、新挑战，引发了社会高度关注。”齐向东说，除夕当天，奇安信针对DeepSeek攻击事件做出预警，大年初一，攻击烈度果然激增，作为职业打手的僵尸网络开始下场，DeepSeek服务器遭到重击。春节期间这波攻击峰值过后，针对DeepSeek的攻击有所下降，但依旧时有发生。2月初，奇安信通过持续跟踪监测发现，针对DeepSeek的仿冒网站、钓鱼网站数量已经超过2千个，并且在快速增加。

齐向东表示，人工智能发展面临的安全问题大致可以分三类。第一类是人工智能大模型自身的安全问题。开发风险、数据风险、应用风险和基础环境风险这四大安全风险比较突出。开发方面，开源大模型要重点防范代码缺陷和预留后门等问题；应用方面要防“内鬼”对训练数据投毒，进行模型篡改、配置篡改；数据方面，要小心内部配置错误和弱口令等造成的数据库暴露；基础环境方面要重点关注云、API、传统设备漏洞等等。“目前，已有团队发现DeepSeek存在严重漏洞，并可借此获取后端隐私数据、API 密钥、操作元数据，尽管漏洞很快被修补，但是根据我们的经验，新漏洞会不断被挖掘出来。”

第二类是利用人工智能开展网络攻击的问题。人工智能促进了网络攻击手段的更新迭代，“饱和式”攻击成为可能，攻击者可以瞬时发动海量攻击打垮已有的网络安全体系。人工智能还提升了“以假乱真”的能力，深度伪造、认知战、钓鱼等威胁加剧。攻击者可利用人工智能“换脸变声”输出虚假信息，开展网络诈骗，或输出背离主流价值观的内容危害认知安全。

第三类是通过攻击人工智能引发的“网络攻击大爆炸”。未来人工智能会成为社会的基础设施，当大模型嵌入智慧城市、工控系统、智慧政务等关键领域时，会放大漏洞等传统安全威胁，一旦人工智能大模型遭到攻击可能会牵一发而动全身，引发社会服务中断、生产停滞、隐私数据泄露等安全事件。

齐向东表示，针对这些安全问题，要从技术保障、制度保障、成果应用三方面入手，系统提升安全能力，确保人工智能安全发展。第一，建立适配大模型的纵深防御体系，筑牢人工智能的安全根基。第二，制定大模型安全强制合规要求，夯实人工智能安全发展的制度保障。第三，推广“AI+安全”创新成果落地，走好提升安全能力的必经之路。

“保障人工智能时代的网络空间安全是扛在我们肩上的重任。所以这次两会我重点关注这方面内容，期待能够用一些切实可行的举措，为人工智能安全发展贡献新力量。”齐向东说。

️AI创新的“草根化”趋势明显

齐向东表示，包括DeepSeek在内的杭州“六小龙”都是民营企业。我国AI创新的“草根化”趋势确实很明显，这跟国家的前瞻性布局、政策扶持以及全方位的资源投入密不可分。AI属于通用型创新，独特之处在于并非由权威主导，而是由广大创业者主导的。这次DeepSeek的爆火，以及杭州“六小龙”等科创企业的成功，都很好地印证了这一点。

“但我们也必须清楚，没有国家作为坚实后盾，这些‘草根’力量也是难以茁壮成长的。今年年初，国家AI产业投资基金成立，为技术创新和应用拓展释放了更多增长空间。”齐向东说。

齐向东表示，继续守护并延续AI创新的“草根化”趋势，保持“自下而上”的创新张力，对我国 AI产业发展乃至整个科技创新生态意义重大。建议国家从政策引导、优化营商环境、生态协同等维度入手，进一步激发民间创新创业热情。比如，出台专门针对科创民营企业的创新政策，酌情给予创新保护期、税收减免、财政补贴等；用好金融工具，设立专项风险补偿基金，以资金支持激发创新活力；同时优化算力调度、牵头建设公共技术服务平台等等。

随着国内AI产业步入发展黄金期，但AI行业仍然面临人才缺口。针对破除AI“人才荒”问题，齐向东表示，关键是打通企业和高校两个“蓄才池”，给青年创新人才更多施展拳脚的机会。“我拿DeepSeek来举例，DeepSeek团队的核心成员多是来自清华、北大、浙大等顶尖高校的应届生、博士生，他们大多是90后。这样一支人才队伍，学术背景扎实，富有创新精神，为我国科技创新提供关键支撑。建议加大力度推动校企融合，通过选取人工智能领域相关的骨干科技企业作为大学生就业实训基地、鼓励校企开展联合攻关等方式，给年轻人更多深入产业一线的机会，从而逐步化解我国面临的 AI‘人才荒’。”

在软件产业健康发展方面，齐向东认为，软件产业是支撑新技术发展的关键，也是助推数字经济发展的重要力量。但目前我国软件产业高质量发展遇到了不小的挑战。一方面，软件产业是“内卷式”竞争的重灾区，招投标“低价恶斗”、技术评分体系有缺陷、项目转包现象等等，都拖慢了软件产业的创新步伐。另一方面，我们软件产业的市场价值被严重低估了。有公开数据显示，中国软件产业市值前十名的总和与美国软件行业前十名的市值总和相比，差了上百倍，这不利于软件产业持续创新发展。“所以，这次两会我也格外关注这方面的内容，希望能为软件产业的健康发展出力献策。”

上游新闻记者 崔涛