集安全服务、网络安全、数据安全三位一体

保护私有大模型的应用安全

行者见他闭了门，却就弄个手段，拆开衣领，把定风丹噙在口中，摇身一变，变作一个蟭蟟虫儿，从他门隙处钻进。只见罗刹叫道：“渴了！渴了！快拿茶来！” 近侍女童，即将香茶一壶，沙沙的满斟一碗，冲起茶沫漕漕。行者见了欢喜，嘤的一翅，飞在茶沫之下。那罗刹渴极，接过茶，两三气都喝了。行者已到他肚腹之内，现原身厉声高叫道：“嫂嫂，借扇子我使使！” 罗刹大惊失色，叫：“小的们，关了前门否？” 俱说：“关了。” 他又说：“既关了门，孙行者如何在家里叫唤？” 女童道：“在你身上叫哩。” 罗刹道：“孙行者，你在那里弄术哩？” ——截选自《西游记》第五十九回《唐三藏路阻火焰山 孙行者一调芭蕉扇》

《西游记》里耳熟能详的桥段，铁扇公主紧闭洞门，没成想大圣化身飞虫绕过大门钻进她肚子里，搅得天翻地覆。大模型和智能体私有化部署情况下，若是被人恶意利用，秒变铁扇公主肚子里的孙悟空，再严密的边界防护也无计可施。山石网科推出了集安全服务、网络安全、数据安全三位一体的大模型整体解决方案，保护私有大模型的应用安全。

私有部署的大模型会不安全吗？仔细看完OWASP LLM应用十大风险，让人不由得倒吸一口凉气。通俗讲大模型其实像个“未经世事的大学生”，可能被坏人教坏（LLM 04、08），被坏人“花言巧语”来误导和套话（LLM 01、07），“馋嘴”这样的毛病被人利用（LLM 03），自己偶尔也糊涂（LLM 09），就有可能会说错话、办错事。

而企业里的大模型应用（智能体）又会连接很多原有应用，通过调用API等方式自动开展工作，倘若没防护好着了魔，又监管不好（LLM 02、05、06），说错话泄漏数据是一方面，更可怕的是让“熊孩子”进了军火库，“炸”得内部的应用和数据只剩“渣渣”！

山石网科认为应服务与技术结合，筑好网络安全、数据安全基本盘，保护好私有大模型及应用的安全。

安全服务在守护私有化大模型中至关重要，从早期咨询到日常运维贯穿其中。大模型安全必须从顶层建设入手，优化战略、组织、制度。私有化部署模型，大模型智能体，将各种应用引入大模型能力，都需要重新审视和评估，并不断调整网络安全和数据安全的防御策略。

在技术方面，山石网科把企业私有部署大模型分为三层，自内向外分别是数据层运行着私有大模型训练和微调用的数据，大模型层运行着私有化部署的大模型，应用层则运行的是大模型智能体，各种业务应用。围绕着管理中心的两个核心：OpenXDR（智源）、数据安全治理平台，依次部署相关设备展开安全防护。

全域零信任+大模型应用防火墙守护网络安全

保护好私有大模型及应用，山石网科认为必须做好全域零信任。通过零信任接入，严格控制人员对大模型应用、大模型服务和模型所需要的数据、知识的访问。山石网科的零信任解决方案，如下一代防火墙和集成零信任模块的山石智铠组合，可以根据身份、终端健康与可信状况，对应用访问权限动态授权。

另一个重点是应用间的微隔离，经过学习梳理，把传统应用间，以及各人工智能应用（智能体）与各应用之间的通信，开放的授权控制到最下，缩小暴露面，缩小智能体、大模型违规调用的风险。山石云铠可以提供主机到容器，混合云环境的微隔离方案。

在应用层和大模型层之间，山石网科建议部署大模型应用防火墙，封堵住模型组件可能引入的漏洞，更重要的是把好输入输出关，输入层面对提示词攻击等进行防护。输出层面，既要堵住违规内容和敏感信息，还要避免利用大模型服务对大模型应用，或者利用大模型应用对其他应用进行的攻击。

今天，大模型应用开发呈现井喷态势，大量的、新的组件会被引入进来，均存在安全风险，需对这些新引入的组件（资产）进行持续的风险评估，并动态调整防护规则。在工具层面，以OpenXDR为核心，结合主机侧的山石云铠，网络侧的WAF、防火墙等，云端的情报，可以实现从预测、检测到防护的闭环，同时山石网科的安全服务团队可以提供开发、风险评估的全生命周期的服务。

构建全生命周期数据安全防护

在原有的数据安全治理框架和7步法基础上，山石网科聚焦大模型全生命周期的数据安全风险，推出了山石网科大模型数据安全治理框架及配套落地方法论，从管理、技术、运维三方面入手，做到数据可知、安全可视、风险可控，将数据安全复杂的问题结构化，结构化的问题简单化，结合AI应用的场景创新，保障大模型的数据稳定安全的流转。

做好模型合规及内容安全建设

从大模型自身合规及内容安全视角出发，山石网科发布大模型安全合规咨询服务，遵照相关标准，聚焦语料、模型、安全评估、算法等内容，具体内容如下：

1. ‌模型合规性建设‌：协助客户严格遵守相关法律法规基础上，开发、部署模型，按需接受政府备案管理，与使用者签订明确服务协议，确保隐私、数据等保护工作。

2. ‌内容安全建设‌：协助客户做好语料的安全性、功能性标注工作，做好关键词拦截、测试题库建设，拒答机制建设，确保模型生成内容符合社会道德和法律法规要求。

3. ‌安全评估与风险防控‌：采用与《生成式人工智能服务安全基本要求》对应的评估框架，对模型进行全方位安全评估，协助客户建立风险防控机制。

总结

应用大模型、守护大模型安全，对业界来说都是新课题，山石网科会持续推出新产品、新服务，在人工智能引发的新一轮工业革命中，守护数字世界安全。

山石网科是中国网络安全行业的技术创新领导厂商，由一批知名网络安全技术骨干于2007年创立，并以首批网络安全企业的身份，于2019年9月登陆科创板（股票简称：山石网科，股票代码：688030）。

现阶段，山石网科掌握30项自主研发核心技术，申请540多项国内外专利。山石网科于2019年起，积极布局信创领域，致力于推动国内信息技术创新，并于2021年正式启动安全芯片战略。2023年进行自研ASIC安全芯片的技术研发，旨在通过自主创新，为用户提供更高效、更安全的网络安全保障。目前，山石网科已形成了具备“全息、量化、智能、协同”四大技术特点的涉及边界安全、云安全、数据安全、业务安全、内网安全、智能安全运营、安全服务、安全运维等八大类产品服务，50余个行业和场景的完整解决方案。