自我认知微调 我们期望微调后的大模型是专属于我们自己的。比如询问大模型是谁或由谁训练的，大模型应当回复是由我们训练的。可以使用自我认知微调来实现这一点。自我认知微调与之前实践过的全参微调和LoRA微调并没有本质上的区别，我们既可以使用任意的微调方式来实现自我认知微调。区别在于，自我认知微调需要使用专 ...

在Chain of Thought出来后，出现过许多的优化方案，这一章我们类比人类已有的思维方式，就抽象思维和发散思维这两个方向，聊聊step back和diversity prompt ...

It's quite easy to build a chatbot with Azure, following the steps below to build your first chatbot; Precondition: An Azure subscription 1. Create a ...

当我们写技术文档时，一张系统用例图，平时要花费10分钟才完成，而ChatGPT绘图过程只用了10秒钟，基本可以达到同样的水平，通过ChatGPT可以显著提高画流程图的效率。 什么是用例图 用例图是统一建模语言（UML）的一部分，用于描述系统的功能以及与之交互的外部实体（如人、系统或设备）。 它是一种 ...

无模型的强化学习算法 学习「强化学习」（基于这本教材，强烈推荐）时的一些总结，在此记录一下。 动态规划算法需要马尔可夫决策过程是已知的（状态转移函数、奖励函数已知），智能体不用真正地与环境互动也能在「理性」世界里求得最优策略。 现实通常并非如此，环境已知恰恰是很少见的。所以这里来看看「无模型的强化学 ...

SadTalker是一款先进的人工智能模型，它通过从音频中学习生成3D运动系数，并使用全新的三维面部渲染器来生成头部运动，只需传入一张照片和一段音频，就能生成高质量的AI数字人视频 工作原理 1、显式地对音频和不同类型的运动系数之间的联系进行单独建模 2、通过蒸馏系数和3D渲染的脸部，从音频中学习准 ...

最近Mac系统在运行大语言模型（LLMs）方面的性能已经得到了显著提升，尤其是随着苹果M系列芯片的不断迭代，本次我们在最新的MacOs系统Sonoma中本地部署无内容审查大语言量化模型Causallm。 这里推荐使用koboldcpp项目，它是由c++编写的kobold项目，而MacOS又是典型的U ...

RAG实战4-RAG过程中发生了什么？ 在RAG实战3中我们介绍了如何追踪哪些文档片段被用于检索增强生成，但我们仍不知道RAG过程中到底发生了什么，为什么大模型能够根据检索出的文档片段进行回复？本文将用一个简单的例子来解释前面的问题。 在阅读本文之前，请先阅读RAG实战3。 回答：为什么大模型能够根 ...

感知机 基本形式 感知机是一种线性分类模型，同时也为判别模型。其形式如下： \begin{equation} f(x) = \mathrm{sign}(w \cdot x + b) \end{equation} 其中\(\mathrm{sign}\)为符号函数满足下式： \[\begin{equat ...

原作：伊格纳西奥·德格雷戈里奥 引言：语言时代的终结？ 昨天，AI 领域的另一个关键参与者 Anthropic 宣布了生成式 AI 王座的新竞争者，即 Claude 的最新版本 Claude 3。 它展示了三种模型Opus、Sonnet 和 Haiku ，每种模型都适用于特定的场景，一些初步结果显示 ...

最近用到百度飞桨的 PaddleOCR，研究了一下PaddleOCR的服务化部署，简单记录一些部署过程和碰到的问题。 基础环境 paddlepaddle 2.5.2 python 3.7 paddlehub 2.1.0 PaddleOCR 2.6 pip 20 #查看 python 版本 pytho ...

基于动态规划的强化学习算法 学习「强化学习」（基于这本教材，强烈推荐）时的一些总结，在此记录一下。 在马尔可夫决策过程 环境模型已知（也就是状态转移函数P、奖励函数r已知）的情况下，我们可以通过 「动态规划」 求得马尔可夫决策过程的最优策略 \(\pi^*\) 。 1. 动态规划 对于做过算法题目的 ...

背景 Mixup（混合） 定义 对于一个样本\((x_i,y_i)\)，将其与另一个样本\((x_j,y_j)\)混合： \[\begin{aligned} \tilde{x}_i &= \lambda x_i + (1-\lambda)x_j, \\ \tilde{y}_i &= \lambda ...

本文分享自华为云社区《爆圈Sora横空出世，AGI通用人工智能时代真的要来了吗？一键Run带你体验扩散模型的魅力！》，作者： 码上开花_Lancer。 Sora这几天的爆炸性新闻，让所有人工智能相关从业者及对应用感兴趣的人群都感到沸腾，震撼到央视也在进行相关的讨论，简直可以和2023年初ChatGP ...

国内外AI大模型层出不穷，训练数据复杂程度更是呈指数级增加。如今，在万亿级参数时代，单个资源池已无法满足大模型训练场景中动辄PB级的数据存储量，对于企业来说，启用多个资源池构成的分布式存储势在必行。 ...

FastGPT 是一个基于 LLM 大语言模型的知识库问答系统，提供开箱即用的数据处理、模型调用等能力，它背后依赖OneApi开源项目来访问各种大语言模型提供的能力。各大语言模型提供的访问接口规范不尽相同，为此OneApi项目提供了统一的API接口去对接各种大语言模型。FastGPT的部署架构如图所 ...

基于SWIFT和Qwen1.5-14B-Chat进行大模型LoRA微调测试 环境准备 基础环境 操作系统：Ubuntu 18.04.5 LTS (GNU/Linux 3.10.0-1127.el7.x86_64 x86_64) Anaconda3：Anaconda3-2023.03-1-Linux- ...

1. 基本信息 人工不智能：计算机如何误解世界笔记 Artificial Unintelligence: How Computers Misunderstand the World [美]梅瑞狄斯·布鲁萨德 著 著 中信出版社,2021年5月出版 1.1. 读薄率 书籍总字数218千字，笔记总字数2 ...

Sealos 经过 23 年一年的迭代，获得了用户的广泛好评，注册用户已破十万，应用数量也突破一万，24 年的工作重心会放在价格上，在我们不死掉的情况下尽可能为用户谋福利！ 好消息是 Sealos 与各大云厂商深度合作，加上 Sealos 本身的多租户云版拼多多的业务模式，终于能把价格打下来了！ 本 ...

RAG实战3-如何追踪哪些文档片段被用于检索增强生成 本文是RAG实战2-如何使用LlamaIndex存储和读取embedding向量的续集，在阅读本文之前请先阅读前篇。 在前篇中，我们介绍了如何使用LlamaIndex存储和读取embedding向量。在本文中，我们将介绍在LlamaIndex中如 ...