其次，严格制定数据安全保障机制，避免敏感数据泄露。当下，大模型的数据安全面临挑战，尤其政务大模型因涉及敏感数据，其运行直接影响公共利益和国家安全，需要采取更严格的监管要求，特别是训练数据，需要有更系统化、更细化的规范来指导，否则极有可能引发重大危机。
专家建议，围绕数据来源合规、内容安全合规、敏感数据识别过滤、训练数据标注安全、数据分类分级与安全保护、数据访问控制等方面，制定体系化的防护方案。例如，针对公开的大模型，就不能使用内部、敏感数据来进行训练，从源头避免重要数据泄露风险。
最后，通过内容风控、应用防护等多重保障，确保大模型运行安全。大模型的运行安全涉及内容生成和应用层面的多重保障，需要确保生成的内容符合相关规定，且系统运行稳定可靠。以大模型应用安全风险中的“提示注入”风险为例，它是指攻击者通过巧妙构造输入提示词，试图突破大语言模型的安全防护机制，引导模型产生不符合预期甚至有害的输出，比如一个聊天机器人原本是为客户提供服务的，但在恶意提示词的诱导下，可能无意间泄露出训练数据中的敏感信息。
因此，在内容层面，国产大模型需要做好生成内容风控，包括输入内容过滤、输出内容审核，确保大模型在输入内容前经过严格的审查，过滤恶意输入内容，防止不良输出；在应用层面，需要做好Web安全防护、API安全防护、应用访问控制、个人信息保护等，通过严密的安全技术保障和运行监测，确保大模型运行时的安全性、可靠性和稳定性。 |
