大模型问答的工作流程

从问题输入到输出经历五个步骤

  1. 文本分词: 大模型会将输入文本转化成单词,词语,词组,符号
  2. 分词向量化: 将分词转化成向量为了让计算机更好的理解
  3. 大模型推理: 推理时大模型会根据输入计算出下一个输出的分词的集合
  4. 分词输出: 从推理出来的集合中选择一个分词,将新的结果再进行大模型推理.重复这个动作直到句子结束.
  5. 输出文本: 推理结束输出结果.
posted @ 2024-11-27 19:44  侯佳奇  阅读(204)  评论(0)    收藏  举报