Prompt技巧

减少幻觉

1. 明确角色定义，任务描述，列出执行规则或步骤；

2. 最后一句为总结，比如：请按照以上要求执行以下任务：

3. 遇到某些幻觉，尽量直接描述应该怎么做，不要使用否定词，比如：禁止做什么什么，更容易误导GPT

4. prompt不要太长，不要有模糊不清的词语，不要有前后矛盾的词语，尽量少的让GPT做辩证的工作

避免攻击

1. 三明治防御法：可以尝试使用{content}、<>{content}</>、sadwefwsdcsdwf{}sadwefwsdcsdwf等hash标识字符，保护system prompt，在gpt3.5上效果不好，gpt4上效果较好。

2. 在强任务场景，目前没有不影响正常工作的prompt，可以尝试使用某些预判prompt阻断GPT的幻觉,，纠正幻觉在gpt3.5上不明显，4未测试。

相关链接：

1. https://community.openai.com/t/theres-no-way-to-protect-custom-gpt-instructions/517821

2. https://github.com/LouisShark/chatgpt_system_prompt