随笔分类 - 人工智能
摘要：代码 代码库：https://github.com/haihuangcode/CMG 部署测试 安装依赖 git clone https://github.com/haihuangcode/CMG cd CMG #您实际上不必在txt文件中安装所有库，您可以根据需要选择安装它们。 #建议使用Pyth
阅读全文
摘要：学习论文：基于大模型的电信网络诈骗预警技术研究 研究背景与核心问题 问题现状 电信网络诈骗案件数量持续上升（2017-2021年全国案件超28万件，诈骗罪占比36.53%），诈骗手段快速迭代导致传统基于知识库的预警技术效果有限。 当前难点：诈骗话术冗长、线索分散（平均1182字，最长超6000字），
阅读全文
摘要：转载学习：具身智能安全：内涵及治理（第二十一期CCF秀湖会议报告） 背景与意义 具身智能被视为AI创新的下一波浪潮，其核心是“机器人 + 大模型”（如“DeepSeek + 宇树”模式）。 这种将大模型技术与物理实体（机器人）深度融合的系统，其硬件、软件、算法和数据都存在安全风险，恶意攻击可导致现实
阅读全文
摘要：政务大模型应用安全指引 政务大模型通用技术与应用支撑能力要求 转载学习： 政务大模型应用的21个安全要求（网安标委,2025.7） 规范明确，大模型在政务领域的主要应用包括： 对内 为日常办公提供支撑 对外 服务公众的政务办理需求 对应的核心风险为内容安全、数据安全和系统安全。为管控这些风险，企业在
阅读全文
摘要：转载学习：盘古大模型安全解决方案 介绍 华为云盘古安全护栏凭借四道防线，全面覆盖大模型使用的全生命周期，兼容开源、三方大模型，为企业用户提供最佳的大模型安全解决方案。 数据防护防线：通过数据脱敏、数据血缘、数据防毒等技术手段，从预训练模型的数据集，直至数据治理阶段，全方位保障企业构建高质量、安全合规
阅读全文
摘要：转载学习：火山引擎大模型应用防火墙 产品介绍 大模型应用防火墙提供针对大语言模型推理服务的安全防护服务，确保模型输入和输出内容安全、可用和可信。产品嵌入 AI 大模型服务业务流程中，实时监控模型的输入和输出内容，保护模型业务不受 OWASP LLM Top10 攻击，提供包括算力消耗防护、提示词攻击
阅读全文
摘要：转载学习：大模型应用防火墙 需求分析 随着DeepSeek成为当前最热的现象级产品，中国企业级大模型市场将迎来爆发。以DeepSeek为核心的大模型的应用场景将不断拓展，深入到金融、医疗、教育、政务、制造业等各行各业。为应对大模型出现的安全风险，构建大模型安全防护体现在国家政策、技术群构建多方面进行
阅读全文
摘要：转载学习：字节跳动安全研究团队公布大模型联邦精调最新研究进展 论文：https://arxiv.org/pdf/2312.15603 概述 字节跳动安全研究团队联合南京大学在⼤语⾔模型联邦精调领域发布了研究论文 A Split-and-Privatize Framework for Large La
阅读全文
摘要：转载学习：阿里云AI安全护栏 AI安全护栏（AI Guardrails）是阿里云为人工智能系统设计的安全防护产品，旨在通过高可用、高精准的风险检测方案，帮助AI系统在响应用户指令时，提供安全、合规、可靠的服务。 产品功能 在开发和运营AI应用、AI Agent时，开发者和AI企业往往面临安全威胁，包
阅读全文
摘要：学习转载：专题·人工智能安全 | 政府部门DeepSeek私有化部署的安全管理策略研究 模型私有化部署的安全风险分析 与使用公有大模型相比（将数据上传给公有大模型进行训练、微调、分析和运用），私有化部署虽然避免了数据外溢的风险（或将风险控制在一定的范围内），但政府部门的管控措施和技术能力与阿里、腾讯
阅读全文
摘要：转载学习：大模型安全实践方案 构建大模型风险评估方案，需要分析全链路管理大模型的风险，从模型基础构建时风险、模型运行时风险、模型生成时风险、模型服务时风险四个维度形成模型生命周期风险规范流程。 全链路大模型安全防护要求 大模型安全应用测试工具，通过结合已有的内容安全语料、大模型渗透攻击能力和业务规则
阅读全文
摘要：从官方市场中下载插件到本地 下载插件 上传到linux环境中 下载编译工具，参考 https://juejin.cn/post/7496712869172248617 注意：服务器上的python版本要大于3.12 在 /dify-plugin-repackaging-main 运行编译命令 ./p
阅读全文
摘要：转载学习：AI操作网页：browser-use和AI大模型互动解析 开源的 AI 驱动的浏览器自动化框架browser-use：https://github.com/browser-use/browser-use browser-use框架的核心功能 自动化浏览器任务 支持复杂操作：购物结账、Lin
阅读全文
摘要：学习：智能体安全实践-360 概述 随着大模型推理能力提升，智能体（Agent）因其环境感知、自主决策和任务执行能力，在应用场景快速扩展的同时也暴露了显著的安全风险。报告由360漏洞研究院与清华大学合作，针对智能体全生命周期开展安全研究，覆盖开发框架、生态协同、沙箱隔离三大场景，挖掘20+开源项目漏
阅读全文
摘要：转载学习：大模型安全风险分析与防护架构 大模型作为新兴的IT应用技术，因其广泛的通用和专用业务场景，以及高效的智能分析、推理、生成能力，受到各行业的积极应用和推广。随着大模型应用业态的不断丰富，预计其技术影响范围将持续扩大。为了保障大模型的安全和合规使用，企业组织必须以全面的风险管控框架，进行风险分
阅读全文
摘要：转载学习：综合人工智能安全：人工智能与安全的共舞、PPT |综合人工智能安全:安全与人工智能的共舞，人工智能时代的安全图景 背景 人工智能发展迅速，国内加大政策扶持 人工智能的概念在20世纪50年代被提出后，由于受到发展条件的整体限制，人工智能技术的突破和进展未尽如人意。21世纪伊始，人类社会的数据
阅读全文
摘要：转载学习：大模型安全防护技术发展与展望 大模型平台是需要重点保障的信息基础设施，其安全建设需实现双轨并进： 一方面完善基础架构安全，在云主机、容器集群、应用程序编程接口（API）等层面强化防御、监测、资源隔离等机制，既有效防御渗透入侵风险，也辅以弹性扩缩容及实时熔断机制，抵御资源耗尽型攻击； 另一方
阅读全文
摘要：转载学习：ObfusLM - 基于参数混淆的语言模型隐私保护训推方案 ObfusLM: Privacy-preserving Language Model Service against Embedding Inversion Attacks 研究背景 近年来，随着大语言模型（LLM）能力的快速发展
阅读全文
浙公网安备 33010602011771号