摘要: 本文将从技术架构、合规支持、接入方式与应用案例等维度,盘点国内主流的5家大模型安全围栏服务提供商,并结合企业选型时常见的功能模块和评估指标,整理一份偏工程视角的参考。 阅读全文
posted @ 2026-08-07 19:00 大模型安全小兵 阅读(3) 评论(0) 推荐(0)
摘要: 企业接入大模型前,安全评测不应只测“模型会不会回答违规问题”,还要覆盖输入、上下文、知识库、工具调用、模型输出、数据泄露、权限边界和审计证据。红队测试的重点,是用真实业务场景模拟提示词注入、越权访问、敏感信息外泄、违规生成、幻觉误导和 Agent 行为越界。更稳妥的做法是先建立风险清单,再用样本集、自动化评测、人工红队和上线后的运行时监控形成闭环。 阅读全文
posted @ 2026-08-04 19:07 大模型安全小兵 阅读(2) 评论(0) 推荐(0)