摘要：
参考: https://blog.csdn.net/chacha_/article/details/134527000 这个讲的很好. \(\pi_r\)是我们要的解,我们(4)两边取log得到. y1,y2是两个生成的句子,x是prompt.p是y1比y2好的优化函数.r是reward函数. 机器 阅读全文
posted @ 2023-12-25 17:21
张博的博客
阅读(921)
评论(4)
推荐(0)
2023年12月25日
摘要：
修复wifi上网卡: https://haokan.baidu.com/v?pd=wisenatural&vid=15093590422726149586 我用的最后释放静电的方法, 一下就好了!!!!!! 以后笔记本注意,断电之后再放入书包里面,否则很麻烦. 阅读全文
posted @ 2023-12-25 10:00
张博的博客
阅读(1149)
评论(0)
推荐(0)
2023年12月24日
摘要：
https://hf-mirror.com/spaces/HuggingFaceH4/open_llm_leaderboard How it works 📈 We evaluate models on 7 key benchmarks using the Eleuther AI Language 阅读全文
posted @ 2023-12-24 14:53
张博的博客
阅读(148)
评论(0)
推荐(0)
2023年12月23日
摘要：
视频里面的布局: 跳的人绕一圈, 看的人在圆心上. 大概一共走了6步多. 其他的布局观看应该会稍微差点意思. 飞翔的感觉会差一点. 至于跳跃者的细节可以看我之前的博客. 身体的起伏 后脚才是发力点 先踩下再滑动.(不要边踩边滑)熟练后链接要丝滑. 踩跟滑动之间丝滑过度! 阅读全文
posted @ 2023-12-23 13:11
张博的博客
阅读(52)
评论(0)
推荐(0)
2023年12月22日
摘要：
看模型加载的参数设置. import torch # 初始化Half Tensor h = torch.tensor([1.0,2.0,3.0], dtype=torch.half) # h = torch.tensor([1.0,2.0,3.0], dtype=torch.float16) # 跟 阅读全文
posted @ 2023-12-22 17:31
张博的博客
阅读(125)
评论(0)
推荐(0)
摘要：
那段时间背单词总结出来的词根记忆一种规则: 比如: doctor document paradox 这些需要一个词根doc那就是写的意思. 电脑文档*.doc就是文档. 他怎么来的. 我认为一种方法就是单词缩写变成词根. 缩写的方法之一就是前缀document 只取前3个字幕就是这个词根了. 然后c 阅读全文
posted @ 2023-12-22 08:42
张博的博客
阅读(66)
评论(0)
推荐(0)
2023年12月21日
摘要：
上一个博客我们看了rope. 那么llama的hidden_states就没啥难点了. 再整体把握一下hf里面llama的代码结构. 文件是:D:\Users\admin\miniconda3\Lib\site-packages\transformers\models\llama\modeling_ 阅读全文
posted @ 2023-12-21 23:00
张博的博客
阅读(107)
评论(0)
推荐(0)
摘要：
关键代码的理解: class LlamaRMSNorm(nn.Module): def __init__(self, hidden_size, eps=1e-6): """ LlamaRMSNorm is equivalent to T5LayerNorm """ super().__init__( 阅读全文
posted @ 2023-12-21 17:30
张博的博客
阅读(125)
评论(0)
推荐(0)
摘要：
进位尽量用脑子来记忆, 因为每一次进位只保存一个即可.进位跟下一个加完之后就更新了.所以记忆不难, 多训练即可. 举一个例子: 135*87 首先写下 135 87 75=35.所以脑子记住进位3, 写下5. 然后37=21, 所以我们写上4, 脑子记住2. 1*7=7所以我们写下9就完事了. 少写 阅读全文
posted @ 2023-12-21 11:48
张博的博客
阅读(31)
评论(0)
推荐(0)
2023年12月20日
摘要：
视频地址: https://www.bilibili.com/video/BV1M64y1j7ts/?spm_id_from=333.1007.top_right_bar_window_default_collection.content.click 心得分享: 整体感觉就像在滑冰. 注意上身, 只 阅读全文
posted @ 2023-12-20 11:42
张博的博客
阅读(66)
评论(0)
推荐(0)
浙公网安备 33010602011771号