会员
众包
新闻
博问
闪存
赞助商
HarmonyOS
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
zcry
博客园
首页
新随笔
联系
订阅
管理
2025年6月5日
大模型学习笔记(二)—— 大语言模型的结构与预训练流程
摘要: 常见的transformer架构包括:encoder-decoder, encoder only, decoder only,区别如下: 模型类型 输入 输出 示例模型 应用场景 Encoder-only 文本(如句子) 表示(embedding) BERT, RoBERTa 分类、问答、文本检索等
阅读全文
posted @ 2025-06-05 14:59 ZCry
阅读(299)
评论(0)
推荐(0)
公告