提示工程 (Prompt Engineering)

目录

• 概念
• 调优
• Prompt 的典型构成
• 案例
  • 支持多轮对话DST
  • 纯用OpenAI API 实现完整功能

概念

提示工程也叫 指令工程。

调优

不知道训练数据怎么办？

高质量prompt 核心要点：具体、丰富、少歧义

修炼 prompt 能力，功夫在平时：

Prompt 的典型构成

定义角色为什么有效？

LLM 对 prompt 开头和结尾的内容更加敏感

如下图所示：

先定义角色，其实就是在开头把问题域收窄，减少二义性。

案例

对话系统的基本模块和思路：

对话流程举例：

核心流程：

1. 把输入的自然语言对话，转成结构化的表示
2. 从结构化的表示，生成策略
3. 把策略转成自然语言输出

实现一个NLU：

定义任务描述和输入，先简单试试大模型能干活不。

输出：

约定输出格式：

JSON格式的输出：

大模型是懂JSON的，但需要对JSON结构做严格的定义。

把输出格式定义的更精细些：

输出：

加入例子，可以让输出更稳定：

输出时产生了排序的JSON结构体：

支持多轮对话DST

在Prompt中加入上下文

多轮对话例子：

引入上下文：

需要指出的是大模型本身是不记得上下文的，需要我们自己代码中手动处理。

纯用OpenAI API 实现完整功能

role:assistant ，即为大模型给出的答复