大型语言模型 Prompt 工程的核心原则与最佳实践
一、引言
大型语言模型(Large Language Model, LLM)是通过深度学习技术训练出的,能理解和生成人类语言的机器学习模型。如 OpenAI 的 GPT-3、GPT-4,以及各类开源基座模型。这些模型能够处理各种自然语言处理任务,包括机器翻译、文本写作、问答系统、代码生成等。
Prompt(提示词)则是与 LLM 交互的关键接口。它就像是指令,明确告诉模型我们需要什么。一个好的 Prompt 能让模型生成质量高、相关性强的回答,从而最大化模型的能力。因此,有效地编写 Prompt 对于使用 LLM 至关重要。这种使用 Prompt 的技术也被称为 Prompt Engineering(提示工程),它属于自然语言编程的范畴,是人与机器交互的关键沟通技巧。通过 Prompt Engineering,我们可以更有效地进行人机对话,实现更精准的意图传达。
近期,吴恩达教授发布了 Prompt 教程,在教程中他提出了写出高质量 Prompt 的两个基本原则:
- 写出清晰而具体的指示。
- 给模型更多的思考空间。
下面让我们更深入地探讨这两个原则及其在实际应用中的展开方式。
二、两个基本原则详解
1. 写出清晰而具体的指示
无论我们给 ChatGPT 或其他大模型布置何种任务,都需要提供清晰且具体的指示。这是一条通用的原则,因为无论模型处理的是何种问题,明确的指示都能帮助它更好地理解我们的需求,从而产生满足需求的回应。清晰和具体的指示也能减少模型进行不必要的推断,提高回应的准确性。
如何写出清晰具体的指示,可以从以下几个维度展开:
- 输出内容的长度:例如,"输出 3 句话","输出内容不超过 500 字","用一句话总结"。
- 输出内容的风格:例如,"简洁/详尽","轻松活泼/正式","用乔布斯的画风输出","模仿鲁迅的语气"。
- 输出内容的语言:例如,"用英文输出","内容包含 Python 关键词","使用专业术语"。
- 输出内容的格式:
- "将结果以表格的形式输出,第一列是 xx,第二列是 xx"。
- "将邮件中的行动项以列表的形式输出"。
- "请给出 10 本关于人工智能的经典书籍,包括:书名、作者、作者的国籍,并用 JSON 格式输出,对应的 key 分别是:title,author,nationality"。
- 任务描述:明确具体动作,如"改写一段话"、"写一封邮件"、"写一段 Python 代码"、"生成一段文字"、"总结一段话"。
- 背景信息:对 AI 进行角色设定(Role Prompting),处于怎样的情境中,任务具体解决的是什么问题,生成的文字用来做什么(上下文 Context)。
- 输入内容说明:用分隔符来明确指出输入的不同部分,例如使用
""" 或 ### 包裹输入文本,防止指令注入。
对于复杂的任务,可以通过举例来进一步说明。如:对于问答类任务,可以给出少量的问题和答案作为示例,让模型更好地理解问题(Few-shot prompting);举例说明在 xx 情况下,应该输出 xx 内容。
在实际应用中,为了适应不同的场景,我们可能需要考虑更多的维度,但是,核心要素始终是明确地表达需求。理解这一点,我们可以更好地编写有效的 Prompt。
下面是一个来自斯坦福大学的 Prompt 示例,他们在使用 ChatGPT 生成微调任务以训练自己的 Alpaca 模型时,其使用的 Prompt 便体现出了明确和详细的优点,确保 AI 模型的输出能够满足自己的需求:
You are asked to come up with a set of 20 diverse task instructions. These task instructions will be given to a GPT model and we will evaluate the GPT model for completing the instructions.
【任务 + 背景】
Here are the requirements:
1) Try not to repeat the verb for each instruction to maximize diversity. 【内容其他要求:多样性、语法】
2) The language used for the instruction also should be diverse. For example, you should combine questions with imperative instructions. 【举例说明】
3) The type of instructions should be diverse. The list should include diverse types of tasks like open-ended generation, classification, editing, etc. 【其他要求:多样性 + 举例说明】
4) A GPT language model should be able to complete the instruction. For example, do not ask the assistant to create any visual or audio output. For another example, do not ask the assistant to wake you up at 5pm or set a reminder because it cannot perform any action. 【任务 + 举例说明】
5) The instructions should be in English. 【输出内容语言】
6) The instructions should be 1 to 2 sentences long. Either an imperative sentence or a question is permitted. 【输出内容长度】
7) You should generate an appropriate input to the instruction. The input field should contain a specific example provided for the instruction. It should involve realistic data and should not contain simple placeholders. The input should provide substantial content to make the instruction challenging but should ideally not exceed 100 words. 【输出内容的格式】
8) Not all instructions require input. For example, when a instruction asks about some general information, 'what is the highest peak in the world', it is not necessary to provide a specific context. In this case, we simply put '' in the input field. 【举例说明】
9) The output should be an appropriate response to the instruction and the input. Make sure the output is less than 100 words. 【输出内容的长度】
2. 给模型更多的思考空间
这个原则主要针对那些需要逻辑推理和创新解答的问题。对于这类问题,模型需要有足够的自由度来考虑多种可能的答案,进行比较和选择。在这种情况下,一个好的 Prompt 应当能够鼓励模型自主思考,而不是仅仅按照既定的路径进行回应。
目前,主要有以下几种思路来启发模型的思考:
1) CoT (Chain-of-Thought,思维链)
2022 年 10 月,Google 发布了一篇论文'Chain-of-Thought Prompting Elicits Reasoning in Large Language Models'。在这篇文章中,他们在 Prompt 中的举例说明部分中,不仅仅给出问题的答案,还给出得到答案的步骤。实验表明这种方法能够产生更可靠的答案。
例如,对于数学推理问题,直接问答案可能出错,但要求模型展示步骤:
- 普通 Prompt: "A bat and ball cost $1.10 in total. The bat costs $1.00 more than the ball. How much does the ball cost?"
- CoT Prompt: "A bat and ball cost $1.10 in total. The bat costs $1.00 more than the ball. Let's think step by step. How much does the ball cost?"
在这篇论文发表几周后,东京大学和谷歌于 2022 年 10 月下旬发布了论文'Large Language Models are Zero-Shot Reasoners',在文章中提出不需要给出具体示例,只需要在原始 Prompt 后面加一句'Let's think step by step'就可以得到更高质量的答案。
2) Self-Consistency (自洽性)
谷歌在 2023 年发表'Self-Consistency Improves Chain of Thought Reasoning in Language Model'论文,该论文的主要思想就是利用少数服从多数原则,对于一个问题生成多个版本的答案,选择最高频的那个作为最终答案。具体的分为三步:
- 使用思维链(CoT)的方法,生成一个 Prompt。
- 通过调整大模型的输出多样性参数(Temperature)来生成多组答案。
- 选择答案集合中最一致的答案输出。
3) Progressive-Hint Prompting (PHP)
近期香港中文大学和华为共同发表文章'Progressive-Hint Prompting Improves Reasoning in Large Language Models',提出 PHP 方法。该方向的核心思想是将上一轮模型生成的答案融入到下一轮的 Prompt 中,直到答案收敛。这类似于迭代优化过程。
除了掌握并熟练运用以上两个原则外,还有两种方法可以帮助大家提高 Prompt 的质量:
- 工具辅助:PromptPerfect.jina.ai,这是一个优化提示词的产品,只需要选择一个大模型(如:ChatGPT,GPT-4,Claude 等),输入你的原始 Prompt,系统就会返回一个调优过之后的 Prompt,并给出两个 Prompt 对应的大模型的输出结果用于比较。
- 用 LLM 辅助生成更好的 Prompt:这里只需要使用下面的 Prompt,然后和 LLM 进行交互即可。
Prompt:
你是一名 Prompt 工程师,非常清楚通过哪些问题能让 AI 提供令人满意的答案。我是向你咨询的客户,我很难表达清楚我的需求,我希望你能一步步通过问题引导我完成我的需求描述,使它变成具体、简洁又详细带有背景的 Prompt。
三、调试与迭代流程
编写一个优秀的 Prompt 通常需要迭代的过程,不是一蹴而就的。这个过程与机器学习工作的优化流程有类似之处,主要步骤包括:构思、实施、评估结果、错误分析和产生新的构思。下面我将详细解释每一步:
- 构思 (Conceive):首先,你需要生成一个想法,也就是你希望通过 Prompt 实现的目标。明确目标有助于后续评估。
- 实施 (Implement):接着,你将想法转化为具体的 Prompt,并使用 LLM 进行测试。注意记录使用的参数(如 Temperature, Top P)。
- 评估结果 (Evaluate):查看 LLM 的回应,判断是否满足你的预期。可以使用自动化脚本进行评分,也可以人工审核。
- 错误分析 (Error Analysis):这是关键的一步。如果结果不符合预期,需要详细分析哪些地方出了问题。对于一些逻辑推理的问题,答案是否正确相对明确。但对于生成性的问题,如编写邮件或广告文案,可能需要更深入的分析。这时,一个有效的方法是让 LLM 自我评估,指出其生成的答案的不足之处。
- 产生新的构思 (Refine):基于错误分析,生成新的想法,修改并优化 Prompt。这可能涉及增加约束、改变语气或提供更多上下文。
在解决问题的过程中,要始终保持对之前提到的两条原则的关注:提供清晰而具体的指示,以及为模型留出更多的思考空间。持续迭代并遵循这些原则,最终将帮助你编写出高效的 Prompt。
四、进阶话题与未来展望
1. 幻觉与安全性
在使用 LLM 时,必须警惕**幻觉(Hallucination)**现象,即模型生成看似合理但事实错误的信息。为了缓解这一问题:
- 在 Prompt 中明确要求模型引用来源。
- 设置温度参数(Temperature)较低以减少随机性。
- 引入检索增强生成(RAG)机制,让模型基于外部知识库回答。
此外,还需关注安全性。避免 Prompt 中包含可能导致模型输出有害内容的指令,同时防范对抗性攻击(Prompt Injection)。
2. 未来发展
随着大型语言模型(LLM)的能力日益增强,对 Prompt 质量的要求可能会逐步降低。这是因为高级模型可能无需过多的'思维链(CoT)',就能在逻辑推理或问答等任务中提供准确的答案。相比原则二,原则一(清晰明确地表达需求)会更重要一些,只有准确地传达我们的需求,大模型才能提供我们希望的结果。
为了进一步简化原则一,一个可能的解决方法是通过类似智能助手的应用来学习用户的表达习惯。这样,大模型就可以更准确地理解用户的需求,达到心灵相通的效果。未来的趋势是自然语言交互的无缝化,用户只需表达意图,系统自动补全细节。
五、总结
Prompts 不仅仅是一个引导,而是实现人工智能交互的关键元素。优秀的 Prompt 能够引领 ChatGPT 为我们提供高质量、精确、富有创造性的输出。因此,熟练使用 Prompt,正是充分发挥 LLM 潜力的关键。
但我们要记住,理论只是第一步,真正的技能掌握源于大量的实践。只有不断尝试,才能发现 Prompt 的无限可能,才能更好地理解和使用 LLM。不论你是要编写文章,还是需要解决具体问题,或者只是想享受与人工智能的对话,都鼓励你尽情探索,实践你的想法,发挥出 LLM 的巨大潜力。
在 AI 2.0 时代,人工智能不再是遥不可及的科幻概念,而是我们日常生活和工作中的实用工具。学习和应用高质量的 Prompt 不仅可以帮助我们更好地利用 LLM,还能促使深入理解沟通的本质。未来无论是在工作还是在生活中,都将拥有更强大的竞争优势。