摘要：
【PPO算法介绍】 PPO（Proximal Policy Optimization）是一种强化学习算法，它的目标是找到一个策略，使得根据这个策略采取行动可以获得最大的累积奖励。PPO的主要思想是在更新策略时，尽量让新策略不要偏离旧策略太远。这是通过在目标函数中添加一个额外的项来实现的，这个额外的项 阅读全文
摘要：
针对夸夸闲聊数据集，利用UniLM模型进行模型训练及测试，更深入地了解预训练语言模型的使用方法，完成一个生成式闲聊机器人任务。 项目主要结构如下： data 存放数据的文件夹 dirty_word.txt 敏感词数据 douban_kuakua_qa.txt 原始语料 【数据量：大概20M的样子】= 阅读全文
摘要：
注入类型 C++代码实现链接和检测思考 检测优先级 备注Portable Executable Injection - PE注入 https://www.cnblogs.com/bonelee/p/17719649.html 高 核心还是创建远程线程，不过有PE重定位表的修复Thread Execu 阅读全文
摘要：
线程劫持：运行方法 C:\Users\l00379637\source\repos\thread_hijack\x64\Release\thread_hijack.exe 18132 C:\Users\l00379637\source\repos\injected_dll\x64\Release\i 阅读全文
摘要：
GPT大模型下，如何实现网络自主防御 本期解读专家 李智华 华为安全AI算法专家 近年来，随着GPT大模型的出现，安全领域的攻防对抗变得更加激烈。RSAC2023人工智能安全议题重点探讨了人工智能安全的最新发展，包括人工智能合成器安全、安全机器学习以及如何利用渗透测试和强化学习技术来确保人工智能模型 阅读全文
摘要：
从攻击视角探讨ChatGPT对网络安全的影响 专家介绍：李智华，华为安全AI算法专家，中科院博士 ChatGPT是OpenAI 发布的基于人工智能的对话机器人，上线短短2个月活跃用户就突破了1亿，成为全球关注的焦点。ChatGPT可以自动化地处理对话，可以通过基于自然语言处理技术的模型、情景模型和语 阅读全文
摘要：
从防御视角探讨ChatGPT对网络安全的影响 专家介绍：李智华，华为安全AI算法专家，中科院博士 ChatGPT的核心优势是通过基于自然语言处理技术模型、情景模型和语言模型来自动生成文章和代码。在前面的文章中，我们从攻击视角探讨了ChatGPT对网络安全的影响， 本文将从防御视角来探讨ChatGPT 阅读全文
摘要：
RSA 2022人工智能安全洞察——在对抗中前进 李智华 中科院博士，华为安全AI算法专家 人工智能和机器学习在安全中的应用是一个屡见不鲜的话题，同样在2022 RSA大会中出现了围绕AI/ML为重点的焦点议题。此次会议中重点探讨了AI对抗和隐私合规问题，还有时下热门的零信任、API安全和威胁狩猎等 阅读全文
摘要：
ReAct论文解读：LLM ReAct范式，在大语言模型中结合推理和动作 最近在研究如何让GPT正确做动作，比如搜索内容，发现了《SYNERGIZING REASONING AND ACTING IN LANGUAGE MODELS》这篇论文。作者提出了ReAct范式，通过将推理和动作相结合来克服L 阅读全文
摘要：
Reflexion: Language Agents withVerbal Reinforcement Learning 该文章的要点和关键技术，算法流程 该文章提出了一种名为"Reflexion"的新型框架,用于通过语言反馈来强化语言智能体的学习。主要包含以下几个关键点: 框架组成: Actor模 阅读全文
摘要：
ROUGE（Recall-Oriented Understudy for Gisting Evaluation）指标是用于评估文本摘要质量的一种常用指标。它通过比较生成的摘要与参考摘要之间的重叠词语或短语来衡量它们之间的相似度。ROUGE指标通常包括多个子指标，如ROUGE-N（考虑n-gram重叠 阅读全文
摘要：
大模型评估指标 1.基础评估指标 参考klu.ai和Microsoft.com的评估指标列表如下：https://klu.ai/glossary/llm-evaluation 类别 度量 描述 用户参与度和效用指标 访问 访问LLM应用程序功能的用户数 提交 提交提示词的用户数 响应 LLM应用程序 阅读全文
摘要：
大语言模型（LLM）评价指标小汇总（也许会更新） from：https://zhuanlan.zhihu.com/p/641416694 目录 总之就是接了个小项目，这些天统计了一些LLM评价指标，不算很全面，很多方法的具体操作都不是很熟悉，参考论文也没找全，大家就凑合着看： 1. 榜单、论文统 阅读全文
摘要：
什么是Auto-GPT 地址：github.com/Torantulino… 这个程序由GPT-4驱动，将LLM"思想"链接在一起，以自主实现您设定的任何目标。 Auto-GPT是将OpenAI的GPT模型的多个实例链接在一起，使其能够在没有帮助的情况下完成任务、编写和调试代码以及纠正自己的编写错误 阅读全文
摘要：
KG2Prompts是什么？ KG2Prompts 是一个用于将知识图谱转换为自然语言提示的工具。它使用预训练的语言模型来生成提示，这些提示可以用于各种任务，例如文本生成、问答和摘要。 KG2Prompts 的工作原理如下： 首先，它将知识图谱转换为一个图结构，其中节点代表实体，边代表实体之间的关系 阅读全文
摘要：
基于预训练模型的相似度度量方式 BERTScore BERTScore 是一种基于 BERT（双向编码器表示器转换器）语言模型的相似度度量。它将问题和回答编码为 BERT 向量，然后计算两个向量的余弦相似度。与传统的基于重叠词语的相似度度量不同，BERTScore 能够捕获语义相似性，即使两个句子不 阅读全文
摘要：
关于参数冻结： 在业界使用BERT模型做分类任务时，是否冻结预训练模型的参数取决于具体的应用场景和目标。下面是一些常见的考虑因素： 不冻结参数（全参数微调） 数据量较大：如果有足够多的标注数据，全参数微调可以充分利用这些数据来调整预训练模型的参数，以更好地适应特定任务。 任务特异性较强：对于与预训练 阅读全文
摘要：
摘要 业界首个网络安全大模型评测平台SecBench正式发布(2024-1-19)，主要解决开源大模型在网络安全应用中安全能力的评估难题，旨在为大模型在安全领域的落地应用选择基座模型提供参考，加速大模型落地进程。同时，通过建设安全大模型评测基准，为安全大模型研发提供公平、公正、客观、全面的评测能力， 阅读全文