详解LLM中各个参数的意义

https://qianfan.cloud.baidu.com/qianfandev/topic/268819

https://www.promptingguide.ai/zh

从简单开始

指令

指令：“写入”、“分类”、“总结”、“翻译”、“排序”

以不同的关键词（keywords），上下文（contexts）和素材（data）试验不同的指令（instruction）

有些人建议将指令放在提示的开头。另有人则建议是使用像“###”这样的清晰分隔符来分隔指令和上下文。

### 指令 ###将以下文本翻译成西班牙语：文本：“hello！”

具体性

避免不明确

解释提示工程的概念。保持解释简短，只有几句话，不要过于描述。

具体、简洁并且切中要点的：使用 2-3 句话向高中学生解释提示工程的概念。

做什么还是不做什么?

避免说不要做什么，而应该说要做什么

不要改为应该避免

提示词示例

文本概括

Explain antibiotics

A:

"A:" 是一种在问答中使用的显式提示格式，你在这里利用它是为了告诉模型接下来你期望有一个答案。

Explain the above in one sentence:

用一句话解释上面的信息：

信息提取

Mention the large language model based product mentioned in the paragraph above:

问答

一个提示许可结合指令、上下文、输入和输出指示（output indicators）来获得更好的结果。

指令：Answer the question based on the context below. Keep the answer short and concise.

输出指示：Respond "Unsure about answer" if not sure about the answer.

上下文：Context: Teplizumab traces its roots to a New Jersey drug company called Ortho Pharmaceutical. There, scientists generated an early version of the antibody, dubbed OKT3. Originally sourced from mice, the molecule was able to bind to the surface of T cells and limit their cell-killing potential. In 1986, it was approved to help prevent organ rejection after kidney transplants, making it the first therapeutic antibody allowed for human use.

输入指示：Question: What was OKT3 originally sourced from?

Answer:

文本分类

提供的其他元素包括输入数据或示例。

Classify the text into neutral, negative or positive.

Text: I think the vacation is okay.

Sentiment: neutral

Text: I think the food was okay.

Sentiment:

对话

角色提示（Role Prompting）

The following is a conversation with an AI research assistant. The assistant tone is technical and scientific.

Human: Hello, who are you?

AI: Greeting! I am an AI research assistant. How can I help you today?

Human: Can you tell me about the creation of blackholes?

AI:

给出更易于理解的回答。

The following is a conversation with an AI research assistant. The assistant answers should be easy to understand even by primary school students.

Human: Hello, who are you?

AI: Greeting! I am an AI research assistant. How can I help you today?

Human: Can you tell me about the creation of black holes?

AI:

代码生成

推理

提示技术

少样本提示

“whatpu”是坦桑尼亚的一种小型毛茸茸的动物。一个采用whatpu这个词的句子的例子是：我们在非洲旅行时看到了这些非常可爱的whatpus。

：就是“farduddle”是指快捷跳上跳下。一个使用farduddle这个词的句子的例子

这太棒了！// Negative

这太糟糕了！// Positive

哇，那部电影太棒了！// Positive

多么可怕的节目！//

链式思考（CoT）提示

少样本提示

这组数中的奇数加起来是偶数：4、8、9、15、12、2、1。

A：将所有奇数相加（9、15、1）得到25。答案为False。

这组数中的奇数加起来是偶数：17、10、19、4、8、12、24。

A：将所有奇数相加（17、19）得到36。答案为True。

这组数中的奇数加起来是偶数：16、11、14、4、8、13、24。

A：将所有奇数相加（11、13）得到24。答案为True。

这组数中的奇数加起来是偶数：17、9、10、12、13、4、2。

A：将所有奇数相加（17、9、13）得到39。答案为False。

这组数中的奇数加起来是偶数：15、32、5、13、82、7、1。

A：

请记住，作者声称这是足够大的语言模型才会出现的新兴能力。

零样本 COT 提示

我去市场买了10个苹果。我给了邻居2个苹果和修理工2个苹果。然后我去买了5个苹果并吃了1个。我还剩下多少苹果？

让我们逐步思考。

自动思维链（Auto-CoT）

当使用思维链提示时，这个过程需手工制作有效且多样化的例子。这种手动工作可能会导致次优解决方案。Zhang et al. （2022）(opens in a new tab)提出了一种消除人工的方法，即利用 LLMs “让我们一步一步地思考” 提示来生成一个接一个的推理链。这种自动过程仍然可能在生成的链中出现错误。为了减轻错误的影响，演示的多样性很重要。

Auto-CoT 主要由两个阶段组成：

  • 阶段1：问题聚类：将给定问题划分为几个聚类
  • 阶段2：演示抽样：从每组数组中选择一个具有代表性的问题，并使用带有轻松启发式的 Zero-Shot-CoT 生成其推理链

自我一致性

自我一致性旨在“替换链式思维提示中使用的天真贪婪解码手段”。其想法是通过少样本 CoT 采样多个不同的推理路径，并使用生成结果选择最一致的答案。这有助于提高 CoT 提示在涉及算术和常识推理的任务中的性能。

Q：Michael有58个高尔夫球。星期二，他丢失了23个高尔夫球。星期三，他又丢失了2个。星期三结束时他还剩多少个高尔夫球？

A：Michael最初有58个球。星期二他丢失了23个，所以在那之后他有58-23 = 35个球。星期三他又丢失了2个，故而现在他有35-2 = 33个球。答案是33。

Q：Olivia有23美元。她用每个3美元的价格买了五个百吉饼。她还剩多少钱？

A：她用每个3美元的价格买了5个百吉饼。这意味着她花了15美元。她还剩8美元。

我的一半年龄。现在我70岁了，我的妹妹多大？就是Q：当我6岁时，我的妹妹

A：

生成知识提示

生成知识以作为提示的一部分。特别是，这对于常识推理等任务

首先，大家生成一些“知识”：

输入：一个人一生中吸烟很多香烟的常见影响是患肺癌的几率高于正常水平。

从不吸烟者的12倍。就是知识：那些一生中平均每天吸烟不到一支香烟的人，患肺癌的风险是从不吸烟者的9倍。在每天吸烟1到10支香烟之间的人群中，死于肺癌的风险几乎

输入：一块石头和一颗卵石大小相同。

知识：卵石是一种根据Udden-Wentworth沉积学尺度的颗粒大小为4到64毫米的岩屑。卵石通常被认为比颗粒（直径2到4毫米）大，比卵石（直径64到256毫米）小。

输入：高尔夫球的一部分是试图获得比其他人更高的得分。

知识1：

高尔夫球的目标是以最少的杆数打完一组洞。一轮高尔夫球比赛通常包括18个洞。每个洞在标准高尔夫球场上一轮只打一次。每个杆计为一分，总杆数用于确定比赛的获胜者。

知识2：

高尔夫球是一项精密的球杆运动，竞争选手（或高尔夫球手）采用许多类型的球杆，用最少的杆数将球打入球场上一系列洞中。目标是以最低的分数完成比赛，该分数是通过将每个洞上所用的杆数相加计算出来的。得分最低的选手赢得比赛。

答案 1（置信度特别高）：

或否？就是问题：高尔夫球的一部分是试图获得比其他人更高的得分。

知识：高尔夫球的目标是以最少的杆数打完一组洞。一轮高尔夫球比赛通常包括18个洞。每个洞在标准高尔夫球场上一轮只打一次。每个杆计为一分，总杆数用于确定比赛的获胜者。

解释和答案：不是，高尔夫球的目标不是获得比其他人更高的得分。相反，目标是以最少的杆数打完一组洞。总杆数用于确定比赛的获胜者，而不是总得分。

疑问：高尔夫球的一部分是试图获得比其他人更高的得分。是或否？

知识：高尔夫球是一项精密的球杆运动，竞争选手（或高尔夫球手）使用许多类型的球杆，用最少的杆数将球打入球场上一系列洞中。目标是以最低的分数完成比赛，该分数是借助将每个洞上所用的杆数相加计算出来的。得分最低的选手赢得比赛。

解释和答案：是的，高尔夫球的一部分是试图获得比其他人更高的得分。每个选手都试图以最少的杆数打完一组洞。总杆数用于确定比赛的获胜者，而不是总得分。得分最低的选手赢得比赛。

在第一个答案中，模型非常自信，但在第二个答案中不太自信。

Prompt Chaining

将任务分解为许多子任务。 确定子任务后，将子任务的提示词提供给语言模型，得到的结果作为新的提示词的一部分。

通过一个常见用途是根据大型文本文档回答挑战。想要更好阅读大文本文档，能够设计两个不同的提示，第一个提示负责提取相关引文以回答问题，第二个提示则以引文和原始文档为输入来回答给定的挑战。

eg.

你是一个很有帮助的助手。你的任务是根据文档回答问题。第一步是从文档中提取与问题相关的引文，由####分隔。请使用<quotes></quotes>输出引文列表。如果没有找到相关引文，请回应“未找到相关引文！”。####{{文档}}####

根据从文档中提取的相关引文（由<quotes></quotes>分隔）和原始文档（由####分隔），请构建对问题的回答。请确保答案准确、语气友好且有辅助。####{{文档}}####<quotes>- </quotes>

思维树 (ToT)

假设三位不同的专家来回答这个问题。

所有专家都写下他们思考这个难题的第一个步骤，然后与大家分享。

随后，所有专家都写下他们思考的下一个步骤并分享。

以此类推，直到所有专家写完他们思考的所有步骤。

只要大家发现有专家的步骤出错了，就让这位专家离开。

请问...