摘要: BPE分词算法 Byte Pair Encoding (BPE) 分词算法详解 Byte Pair Encoding( BPE )是一种广泛应用于自然语言处理( NLP )的分词算法,尤其在大规模预训练模型( 如GPT、BERT )中表现优异。它的核心思想是通过合并高频字符对来构建子词( subwo 阅读全文
posted @ 2025-04-11 15:06 Gold_stein 阅读(1095) 评论(0) 推荐(1)