大语言模型LLM相关资料
大语言模型LLM之GPT系列 - Picassooo - 博客园
大语言模型LLM之LLaMa系列 - Picassooo - 博客园
大语言模型LLM之MoE系列 - Picassooo - 博客园
又一个多模态模型在HuggingFace上火了:参数量只有968M! (Omnivision)
张奇的《大规模语言模型-从理论到实践》的部分代码:intro-llm/intro-llm.github.io: website
Vicuna:
LLMs之Vicuna:《Vicuna: An Open-Source Chatbot Impressing GPT-4 with 90%* ChatGPT Quality》翻译与解读-CSDN博客
大模型的训练过程
从零开始训练大模型全面指南:预训练、指令微调、奖励模型、强化学习-CSDN博客
语言模型建模过程中隐含地构建了包括事实性知识(Factual Knowledge)和常识知识(Commonsense)在内的世界知识(World Knowledge)。