摘要: 第5章 大模型的数据 大型语言模型背后的数据: 数据来源和广度: 大型语言模型是在原始文本上进行训练的,要求这些文本覆盖广泛的领域、类型和语言。网络是主要的文本来源,而谷歌搜索索引等网络数据庞大。 数据规模: 网络体积巨大,例如,谷歌搜索索引就有100PB。大公司的私有数据集甚至更大,比如沃尔玛每小 阅读全文
posted @ 2024-01-22 00:01 wuhaoliu 阅读(48) 评论(0) 推荐(0)