摘要：
https://arxiv.org/pdf/2304.13712.pdf 这篇论文中有个现代大型语言模型（LLM）的演变树，可以看出：同一分支上的模型关系更为紧密。 图说明： 基于 Transformer 模型以非灰色显示： decoder-only 模型在蓝色分支， encoder-only 模型 阅读全文
posted @ 2023-11-14 13:53 蝈蝈俊 阅读(925) 评论(0) 推荐(0) 编辑
摘要：
Transformer的注意力机制被广泛应用于自然语言处理（NLP）领域中，它主要用于解决序列到序列的模型中长距离依赖问题。 长距离依赖问题 举个例子，考虑这个句子： “The cat, which was very hungry, finally found its food in the kit 阅读全文
posted @ 2023-11-10 22:11 蝈蝈俊 阅读(342) 评论(0) 推荐(0) 编辑
摘要：
词向量是自然语言处理（NLP）中的一个重要概念，它是将词语转换成计算机能理解的数值形式的方法。 图：现实世界的图书、文字会被映射成计算机世界的向量。 简单来说，词向量就是将每个词表示为一个实数向量，使得这些向量能够捕捉词语之间的含义和语义关系。 词向量发展历程 简单来说，进化历程如下： 对比如下表： 阅读全文
posted @ 2023-11-08 17:47 蝈蝈俊 阅读(79) 评论(0) 推荐(0) 编辑
摘要：
要让LLMs(Large Language Models，大型语言模型)生成文字，首先得让它们“懂”单词。 什么样算懂单词？可以续写单词就是： 视频：[单词续写演示](media/16985452706037/token01.mp4) 视频，续写：这是它如何***? 有多种选择可供续写的单词，应该用 阅读全文
posted @ 2023-10-29 12:37 蝈蝈俊 阅读(136) 评论(0) 推荐(0) 编辑
摘要：
PPA，即Personal Package Archive（个人软件包档案），是**Ubuntu**系统中一个用于存储和分发软件包的在线仓库。 ## PPA的主要功能 * PPA允许开发人员和维护人员将软件包上传到Launchpad()（一个由Canonical Ltd提供支持的项目和代码托管平台） 阅读全文
posted @ 2023-10-27 10:38 蝈蝈俊 阅读(71) 评论(0) 推荐(0) 编辑
摘要：
``` # Install music-related libs sudo apt-get install -y libsndfile1-dev sudo apt-get install -y fluidsynth sudo apt-get install -y ffmpeg sudo apt-ge 阅读全文
posted @ 2023-10-25 09:49 蝈蝈俊 阅读(31) 评论(0) 推荐(0) 编辑
摘要：
apt-get 是 Debian 及其衍生版本（如 Ubuntu）中的命令行工具，用于处理与软件包相关的任务，如安装、更新、升级和删除软件包。apt-get 是 APT（Advanced Package Tool）工具集的一部分，它提供了一个用于软件包管理的高级界面。 以下是 apt-get 的一些 阅读全文
posted @ 2023-10-25 09:26 蝈蝈俊 阅读(12) 评论(0) 推荐(0) 编辑
摘要：
不想装虚机或双系统，在Win下使用WSL是一个不错的选择。 WSL是什么？ WSL，全称为“Windows Subsystem for Linux”，译为“Windows的Linux子系统”。简单来说，它允许您在Windows操作系统上直接运行Linux的命令行工具、实用程序和应用程序，而无需启动完 阅读全文
posted @ 2023-10-25 08:38 蝈蝈俊 阅读(239) 评论(0) 推荐(0) 编辑
摘要：
在由北京大学与微软研究院共同发表的《MusicAgent: 用大语言模型理解和创造音乐的 AI 智能体》论文中，深入探索了AI在音乐处理领域的应用。 * 论文： * 项目： 下图是这个项目的图标Logo：  评论(0) 推荐(0) 编辑