摘要: 大模型基础 5、大模型基础 一、BERT模型 核心概念 BERT是2018年10月由Google AI研究院提出的一种预训练模型. 1、BERT是transformer编码器中的预训练方法(基于Transformer的Encoder部分) 2、双向上下文建模:通过掩码机制同时学习单词两侧的上下文信息 如同把人类 阅读全文
posted @ 2025-06-24 00:58 戴莫先生Study平台 阅读(103) 评论(0) 推荐(0)