关于使用ChatGPT的API开发批量处理工具的总结

关于使用ChatGPT的API开发批量处理工具的总结

1. 由于批量处理，输入和输出最好使用json格式，并在提示词中要求以相同格式返回；以便于工具的解析和处理；
2. 返回的结果中要求chatgpt，说明其详细的处理过程及原因，方便对提示词进行调优，否则，面对问题时，只能瞎猜；
3. 提示词中尽量说明什么情况要怎么做。不要说xx情况不能怎么做，会出来超出意外的结果；
4. 同样的内容，相近的提示词，如果多次调用，gpt会不做处理或乱处理，感觉有脾气。。。所以所有的提示词中，尽量使用敬语或更礼貌的说法。
5. 具体的业务概念，需要我们举例详细说明，这样处理出的结果更加优质。
6. 使用azure的openai的api里，如果与langchain配套，则注意，微软样例中的engins参数需要改为deployement;