随笔分类 - 人工智能
摘要：2025数据智能大会--数智安全论坛成功召开 护航人工智能，首批AI安全治理能力评估启动！ 演讲内容 《可信数据空间赋能数据要素安全流通》：深入剖析可信数据空间如何构建安全可信环境，打破数据流通壁垒，保障数据在共享与交易中的安全，为企业数字化转型与社会数据高效利用提供新思路与新路径。 《AI+数据安
阅读全文
摘要：转载&学习：云上LLM数据泄露风险研究系列（一）:基于向量数据库的攻击面分析 研究背景 云计算赋能LLM发展 提供弹性算力资源，降低LLM训练/推理成本 云服务商提供预训练模型API和微调工具，加速业务部署 云生态集成数据存储与分析工具，推动LLM商业化 向量数据库的核心作用 解决非结构化数据（文本
阅读全文
摘要：主题：AI+安全，智能体技术在安全领域的应用探索 本次讨论主要围绕AI赋能安全展开： 基于agent的APT情报运营能力建设 当前困难： 人力分析耗时耗力 非中文环境阻碍 LLM分析深度不够，准确度不够 机读情报生产：LLM 人读情报生成：智能体，增加更多数据分析 第一步：数据采集 第二步：机读情报
阅读全文
摘要：基础概念与模型架构 这些问题关注模型的基本原理、架构设计、以及不同类型模型的对比。 请简述Transformer的基本原理； 为什么Transformer的架构需要多头注意力机制？ 为什么Transformer需要位置编码？ 为什么transformer块使用LayerNorm而不是BatchNor
阅读全文
摘要：LLM赋能代码审计 解决受限模型上下文长度的办法： 模型安全（阿里） 安全测评： 模型安全： 模型内生安全： 安全研究方向： 内容伪造检测： 内网模型安全（网商银行） 训练和推理安全： 应用安全： 安全护栏： 数据安全： 外接工具安全： 模型安全（中关村） 系统安全： 具身智能安全： 供应链安全：
阅读全文
摘要：学习论文：基于混合检索重排序策略的大模型增强方法 核心研究问题 如何优化检索增强生成（RAG）技术，特别是在知识库存储方式和检索结果重排序策略上，以显著提升大语言模型（LLM）在事实性问答任务中的准确率。 主要发现与贡献 知识库存储方式至关重要：段落切分优于固定长度切分 问题： 传统RAG系统常将知
阅读全文
摘要：参考：https://mp.weixin.qq.com/s/vZEYRTOvau-IFwOW_eNm_A 随着 AI 在未来的智能社会中扮演着越来越重要的角色，AI 系统需要处理更丰富更全面的个人信息，一旦 AI 系统被攻破，大量用户敏感数据可能会被窃取和滥用，此外，AI 大模型本身也可能成为攻击目
阅读全文
摘要：大小模型协作机制综述 A Survey on Collaborative Mechanisms Between Large and Small Language Models 1. 研究背景与动机 LLMs的优势与局限：大型语言模型（如GPT-4）在自然语言处理、代码生成等领域表现卓越，但存在高资源
阅读全文
摘要：转载学习：突破人工智能大模型的“数据瓶颈” ——构建国家级语料库运营平台的思考 背景与问题 全球AI大模型竞争 中美两国占全球AI大模型的80%以上，竞争集中在大模型技术、算力、产业链等方向。美国通过芯片法案等技术封锁遏制中国AI发展。 中国在政策支持和市场需求驱动下，涌现出“文心一言”“通义千问”
阅读全文
摘要：转载学习：郑志明院士：AI大模型在垂直领域面临两大困局 郑志明院士解析当前AI大模型在垂直领域面临的困局，提出破解高精产业应用难题的新思路！ 1. AI大模型垂直领域应用困局 中国科学院院士郑志明在CCBN 2025开幕式指出“复杂高精产业 + 人工智能大模型”面临应用困局，行业大模型定制有科学问题
阅读全文
摘要：转载学习：默安科技推出全场景大模型安全防护方案 构筑AI时代安全防线 默安科技针对大模型在AI时代面临的多场景安全挑战，推出了全生命周期防护方案，分为自建与公网托管两大场景。 自建大模型安全风险及防护 风险： 运行环境漏洞：如GPU漏洞CVE-2023-4969可导致敏感数据泄露。 生态组件漏洞：开
阅读全文
摘要：转载学习：Windsurf团队关于Agent认知的核心内容总结 Agent的本质定义与核心机制 基本构成 Agent是一个由推理模型（LLM）和工具集共同构成的循环系统，执行以下步骤： （1）LLM根据上下文选择行动方向和参数 （2）系统调用指定工具执行具体操作 （3）将结果反馈至LLM控制迭代 与
阅读全文
摘要：转载：结构化输出指南：三⼤必备提⽰技巧总结 结构化输出的核⼼价值 定义：指⻓⽂本→有序结构（键值对/列表/表格），适应代码解析需求。 必要性：避免⾃由⽂本带来的歧义性，提⾼⾃动化处理效率。 示例场景：客户评论分析中，结构化输出精准提取产品名/情感/摘要，代码直接读取字段省去NLP解析。 实现⽅法对⽐
阅读全文
摘要：安装部署 内网环境下以docker形式部署 需在外网环境下通过docker部署完成，具体参考：https://docs.dify.ai/zh-hans/getting-started/install-self-hosted/docker-compose 安装完成后通过docker ps能看到有以下容
阅读全文
摘要：参考：https://blog.csdn.net/hacker_Lees/article/details/146426392 服务端 选用开源的MySQL MCP Server，本地部署：https://github.com/dpflucas/mysql-mcp-server # Clone the
阅读全文
摘要：文章学习笔记：AI大模型危机-多维对抗时代的网络安全与隐私困局 AI发展引发的安全风险与日俱增，加剧了网络安全形式的复杂性。本文剖析了大模型全生命周期安全威胁图谱，揭示数据资源枯竭、隐私泄露、监管滞后等风险问题。 AI大模型驱动网络安全风险”多维裂变“ AI大模型的发展，也随之带来了深度伪造、恶意A
阅读全文
摘要：学习笔记：垂直领域大模型的定制化：理论基础与关键技术 由于通用大模型不能完全适配特定行业和应用场景，所以需要垂直领域大模型的定制化。 对特定行业的知识深度不够 垂直领域大模型：训练中使用大量特定领域数据 垂直大模型定制的理论基础 大模型定义 特点： 大数据 大参数 通用性 泛化性：在为止数据域中有良
阅读全文
摘要：转载：大模型安全防护体系研究 论文：大模型安全评估体系框架研究 摘要 随着人工智能技术的快速发展，大模型在各行各业被广泛应用的同时也带来了诸多安全挑战。首先，从内容安全、模型版权、模型推理和数据隐私4个方面分析了大模型当前存在的安全问题；其次，从数据安全与隐私保护、模型安全流转与部署、内容安全合规和
阅读全文
浙公网安备 33010602011771号