摘要: 🔗:https://www.youtube.com/watch?v=ahnGLM-RC1Y 这次不是文章,是OpenAI的talk,干货满满。 直接把在飞书文档上记的笔记当过来了。 【我学到了什么】首先PE和FSL,低成本快速迭代并和评估结合,建立baseline;通过RAG引入新知识&减少幻觉, 阅读全文
posted @ 2024-02-22 12:30 Aikoin 阅读(387) 评论(1) 推荐(0)
摘要: 有两篇文章里的想法很有帮助,记录一下: https://jiayuan.zhubai.love/posts/2117979470253125632 https://sheracaolity.ghost.io/seven-things/ 我根本不应该去想「MVP 要有哪些功能才能 launch,做出这 阅读全文
posted @ 2024-02-20 17:03 Aikoin 阅读(38) 评论(0) 推荐(0)
摘要: 很早之前就想了解一下LLM到底是怎么和强化学习结合的,今天凑巧查资料的时候看到亚马逊的一篇文章,把知识点整理记录一下。 1 什么是RLHF RLHF 代表“Reinforcement Learning from Human Feedback”,即基于人类反馈的强化学习。它是一种机器学习技术,利用人类 阅读全文
posted @ 2024-02-13 18:56 Aikoin 阅读(1001) 评论(0) 推荐(0)
摘要: 原文🔗:https://pub.aimind.so/llm-embeddings-explained-simply-f7536d3d0e4b 原文作者:Sandi Besen 今天这篇文章非常简练,逐词解释了“embeddings are vectors stored in an index wi 阅读全文
posted @ 2024-02-01 12:54 Aikoin 阅读(186) 评论(0) 推荐(0)
摘要: 今天与其说是阅读笔记更像是摘录与翻译...本来都用了引用块,但格式不太好看就还是改成正文了。 以下英文部分全是原文引用。 原文🔗:https://textgeneration.substack.com/p/optimize-your-rag-pt1-data-ingestion 原文作者:Iuli 阅读全文
posted @ 2024-01-31 12:52 Aikoin 阅读(119) 评论(0) 推荐(0)
摘要: 换电脑用的Clash X Pro,开着增强模式,结果终端ssh连接gituhub一直报错: kex_exchange_identification: Connection closed by remote host Connection closed by 20.205.243.166 port 2 阅读全文
posted @ 2024-01-18 07:29 Aikoin 阅读(911) 评论(0) 推荐(0)
摘要: 1 栈与队列理论基础 队列先进先出,栈先进后出;不允许有遍历行为,不提供迭代器 2 用栈实现队列 题目:请你仅使用两个栈实现先入先出队列。队列应当支持一般队列支持的所有操作(push、pop、peek、empty): 实现 MyQueue 类: void push(int x) 将元素 x 推到队列 阅读全文
posted @ 2023-09-26 11:05 Aikoin 阅读(67) 评论(1) 推荐(0)
摘要: BERT问答 BERT分为哪两种任务,各自的作用是什么; 在计算MLM预训练任务的损失函数的时候,参与计算的Tokens有哪些?是全部的15%的词汇还是15%词汇中真正被Mask的那些tokens? 在实现损失函数的时候,怎么确保没有被 Mask 的函数不参与到损失计算中去; BERT的三个Embe 阅读全文
posted @ 2023-09-26 01:44 Aikoin 阅读(768) 评论(0) 推荐(1)
摘要: 1 反转字符串 题目:编写一个函数,其作用是将输入的字符串反转过来。输入字符串以字符数组 s 的形式给出。 不要给另外的数组分配额外的空间,你必须原地修改输入数组、使用 O(1) 的额外空间解决这一问题。 1. 双指针 class Solution: def reverseString(self, 阅读全文
posted @ 2023-09-23 12:39 Aikoin 阅读(40) 评论(0) 推荐(0)
摘要: 1 哈希表理论基础 1.1 哈希表 哈希表是根据关键码的值而直接进行访问的数据结构。一般哈希表都是用来快速判断一个元素是否出现集合里。 1.2 哈希函数 哈希函数如下图所示,通过hashCode把名字转化为数值,一般hashcode是通过特定编码方式,可以将其他数据格式转化为不同的数值。如果hash 阅读全文
posted @ 2023-09-23 12:31 Aikoin 阅读(120) 评论(0) 推荐(0)