绝不原创的飞龙

2024年6月22日

摘要： SqlAlchemy 2.0 中文文档（二）原文：docs.sqlalchemy.org/en/20/contents.html 使用 UPDATE 和 DELETE 语句原文：docs.sqlalchemy.org/en/20/tutorial/data_update.html 到目前为止，我阅读全文

posted @ 2024-06-22 11:33 绝不原创的飞龙阅读(181) 评论(0) 推荐(0)

SqlAlchemy-2-0-中文文档-八-

摘要： SqlAlchemy 2.0 中文文档（八）原文：docs.sqlalchemy.org/en/20/contents.html 编写继承映射的 SELECT 语句原文：docs.sqlalchemy.org/en/20/orm/queryguide/inheritance.html 关于本文档阅读全文

posted @ 2024-06-22 11:33 绝不原创的飞龙阅读(80) 评论(0) 推荐(0)

2024年6月21日

大语言模型 MOE 简明实现指南

摘要：这篇文章中，我简要实现一下大语言模型的 MOE 模块。MOE 模块位于每个GPT层中，位于注意力模块的后面，每个MOE模块包含若干个MLP模块作为专家。这些专家是稀疏的，也就是每次选择部分来调用，并不会调用全部，从而节省宝贵的算力。首先定义一些常量，通常应该在模型配置文件里面。 bs = 5 # 阅读全文

posted @ 2024-06-21 15:52 绝不原创的飞龙阅读(160) 评论(0) 推荐(0)

JAX-中文文档-一-

摘要： JAX 中文文档（一）原文：jax.readthedocs.io/en/latest/ 开始入门安装 JAX 原文：jax.readthedocs.io/en/latest/installation.html 使用 JAX 需要安装两个包：jax 是纯 Python 的跨平台库，jaxlib 包阅读全文

posted @ 2024-06-21 14:07 绝不原创的飞龙阅读(923) 评论(0) 推荐(0)

JAX-中文文档-五-

摘要： JAX 中文文档（五）原文：jax.readthedocs.io/en/latest/ 形状多态性原文：jax.readthedocs.io/en/latest/export/shape_poly.html 当使用 JIT 模式的 JAX 时，函数将被跟踪、降级到 StableHLO，并针对每种阅读全文

posted @ 2024-06-21 14:07 绝不原创的飞龙阅读(272) 评论(0) 推荐(0)

JAX-中文文档-四-

摘要： JAX 中文文档（四）原文：jax.readthedocs.io/en/latest/ 理解 Jaxpr 原文：jax.readthedocs.io/en/latest/jaxpr.html 更新日期：2020 年 5 月 3 日（提交标识为 f1a46fe）。从概念上讲，可以将 JAX 转换看阅读全文

posted @ 2024-06-21 14:07 绝不原创的飞龙阅读(274) 评论(0) 推荐(0)

JAX-中文文档-十一-

摘要： JAX 中文文档（十一）原文：jax.readthedocs.io/en/latest/ JAX 增强提案（JEPs）原文：jax.readthedocs.io/en/latest/jep/index.html 大多数改动可以通过简单的问题/讨论和拉取请求进行讨论。然而，有些变更范围较大或需要阅读全文

posted @ 2024-06-21 14:07 绝不原创的飞龙阅读(117) 评论(0) 推荐(0)

JAX-中文文档-十五-

摘要： JAX 中文文档（十五）原文：jax.readthedocs.io/en/latest/ jax.tree 模块原文：jax.readthedocs.io/en/latest/jax.tree.html 用于处理树形容器数据结构的实用工具。 jax.tree 命名空间包含了来自 jax.tree 阅读全文

posted @ 2024-06-21 14:07 绝不原创的飞龙阅读(141) 评论(0) 推荐(0)

JAX-中文文档-十四-

摘要： JAX 中文文档（十四）原文：jax.readthedocs.io/en/latest/ jax.scipy 模块原文：jax.readthedocs.io/en/latest/jax.scipy.html jax.scipy.cluster | vq(obs, code_book[, chec 阅读全文

posted @ 2024-06-21 14:07 绝不原创的飞龙阅读(115) 评论(0) 推荐(0)

JAX-中文文档-十三-

摘要： JAX 中文文档（十三）原文：jax.readthedocs.io/en/latest/ 在 JAX 之上构建原文：jax.readthedocs.io/en/latest/building_on_jax.html 学习高级 JAX 使用的一种很好的方法是看看其他库如何使用 JAX，它们如何将库阅读全文

posted @ 2024-06-21 14:07 绝不原创的飞龙阅读(337) 评论(0) 推荐(0)

龙哥盟

掠夺·扩张·投机·博弈

公告