“政府工作报告提出‘更好统筹发展和安全，坚持在发展中逐步化解风险，努力实现高质量发展和高水平安全的良性互动’，为人工智能时代的网络安全建设工作提供了坚实指引。”全国政协委员、全国工商联副主席、奇安信集团董事长齐向东建议，开展体系化的人工智能大模型安全防护，筑牢安全底线。
齐向东说，以大模型为核心的人工智能技术是创新范式变革与产业升级的关键引擎，然而技术跃升与安全风险始终伴生演进，数据安全、应用安全、基础环境安全、大模型自身安全等挑战加剧。
以数据安全为例，大模型在训练、推理、使用过程中涉及海量数据，通过数据投毒、数据污染等手段，会使大模型输出背离主流价值观或包含事实性错误的内容。一些不法分子还会借助提示词注入、劫持、爬虫等手段，窃取大模型用户重要信息、敏感数据。
齐向东建议，开展体系化的人工智能大模型安全防护，建立适配大模型的纵深防御体系，从技术层面全面排查加固人工智能大模型基础设施，形成覆盖终端、应用、数据、大模型、算力与基础设施的多维度核心防护能力。同时，重点打造大模型数据安全“双控机制”，一方面，对输入侧数据进行筛查和消杀，并实施严格的访问控制措施，做好从数据喂养到内容生成的全链路安全管控；另一方面，强化输出侧控制，有效防范“认知污染”，通过完善大模型安全“监管沙盒”机制股票配资平台是什么，在政务大模型等关键领域大模型上线前开展深度测试，强化对潜在风险的预警和控制。
