LLM 提示词工程入门：开发者笔记与代码实践

让模型在下结论之前给出自己的解法

Lesson 2. 迭代优化

在开发大语言模型应用时，很难通过第一次尝试就得到完美适用的 Prompt。关键是要有一个良好的迭代优化过程，不断改进 Prompt。

Lesson 3. 文本概括

LLM 文本摘要功能的优势可以为你节省时间、提高效率，以及精准获取信息。

单一文本概括

任务：商品评论总结

限制输出文本长度

注：模型在计算和判断文本长度时依赖于分词器，统计字符时并不精确。

设置侧重点

关键信息提取

多条文本概括

将多条用户评价集合在一个列表中，并利用 for 循环和文本概括提示词，将评价概括至小于 20 个词以下，并按顺序打印。

Lesson 4. 推断

一、情感推断

商品评论

lamp_review = """
我需要一盏漂亮的卧室灯，这款灯具有额外的储物功能，价格也不算太高。\我很快就收到了它。在运输过程中，我们的灯绳断了，但是公司很乐意寄送了一个新的。\几天后就收到了。这款灯很容易组装。我发现少了一个零件，于是联系了他们的客服，他们很快就给我寄来了缺失的零件！\在我看来，Lumina 是一家非常关心顾客和产品的优秀公司！
"""

判断商品评论的情感 prompt

识别情感类型 prompt

识别愤怒 prompt

二、信息提取

商品信息提取

综合情感推断和信息提取

prompt = f"""
从评论中识别以下内容：
- 情绪（正面/负面）
- 评论者是否感到生气？（是/否）
- 评论者购买的物品
- 制造该物品的公司

评论用三个反引号分隔。将回答转换为 JSON 对象，以'情感倾向'、'是否生气'、'物品类型'和'品牌'作为 key。
如果信息不存在，请使用'未知'作为值。
回答应尽可能简短。
将'是否生气'值转换为布尔值。

评论文本：```{lamp_review}```
"""
response = get_completion(prompt)
print(response)

三、主题推断

判断一段文本的主旨，它涉及了哪些主题。

story = """
在政府最近进行的一项调查中，要求公共部门的员工对他们所在部门的满意度进行评分。
调查结果显示，NASA 是最受欢迎的部门，满意度为 95％。

一位 NASA 员工 John Smith 对这一发现发表了评论，他表示：
'我对 NASA 排名第一并不感到惊讶。这是一个与了不起的人们和令人难以置信的机会共事的好地方。我为成为这样一个创新组织的一员感到自豪。'

NASA 的管理团队也对这一结果表示欢迎，主管 Tom Johnson 表示：
'我们很高兴听到我们的员工对 NASA 的工作感到满意。
我们拥有一支才华横溢、忠诚敬业的团队，他们为实现我们的目标不懈努力，看到他们的辛勤工作得到回报是太棒了。'

调查还显示，社会保障管理局的满意度最低，只有 45％的员工表示他们对工作满意。
政府承诺解决调查中员工提出的问题，并努力提高所有部门的工作满意度。
"""

推断讨论主题 prompt

为特定主题制作新闻提醒

假设有一个新闻网站，我们感兴趣的主题：美国航空航天局、当地政府、工程、员工满意度、联邦政府等。判断一篇文章，是否包含这些主题。

可以在此基础上制定新闻提醒：

Lesson 5. 文本转换

一、文本翻译

相比于传统统计机器翻译系统，大语言模型翻译更加流畅自然，还原度更高。通过在大规模高质量平行语料上进行 Fine-Tune，大语言模型可以深入学习不同语言间的词汇、语法、语义等层面的对应关系，模拟双语者的转换思维，进行意义传递的精准转换，而非简单的逐词替换。

二、语气与写作风格调整

三、文件格式转换

大模型可以轻松实现 JSON 到 HTML、XML、Markdown 等格式的相互转化，掌握这一转换技巧可更高效地处理结构化数据。

# 假设有一个 JSON 数据，包含餐厅员工的姓名和邮箱。现在将这个 JSON 转换为 HTML 表格格式，以便在网页中展示
data_json = { "resturant employees" :[
    {"name":"Shyam", "email":"[email protected]"},    
    {"name":"Bob", "email":"[email protected]"},    
    {"name":"Jai", "email":"[email protected]"}
]}

prompt = f"""
将以下 Python 字典从 JSON 转换为 HTML 表格，保留表格标题和列名：{data_json}
"""
response = get_completion(prompt)
print(response)

四、拼写及语法纠正

假设一篇文章的部分句子存在错误。可以遍历每个句子，要求模型进行检查，如果句子正确就输出'未发现错误'，如果有错误就输出修改后的正确版本。

text = [
   "The girl with the black and white puppies have a ball.",  # The girl has a ball.  
   "Yolanda has her notebook.", # ok  
   "Its going to be a long day. Does the car need it's oil changed?",  # Homonyms  
   "Their goes my freedom. There going to bring they're suitcases.",  # Homonyms  "Your going to need you're notebook.",  # Homonyms  
   "That medicine effects my ability to sleep. Have you heard of the butterfly affect?", # Homonyms  
   "This phrase is to cherck chatGPT for spelling abilitty"  # spelling
]

for i in range(len(text)):
    time.sleep(20)    
    prompt = f"""请校对并更正以下文本，注意纠正文本保持原始语种，无需输出原始文本。    
    如果您没有发现任何错误，请说'未发现错误'。    
        
    例如：    
    输入：I are happy.    
    输出：I am happy.    
    ```{text[i]}```"""    
    response = get_completion(prompt)    
    print(i, response)

五、综合样例

同时对一段文本进行翻译、拼写纠正、语气调整和格式转换等操作。

Lesson 6. 文本扩展

文本扩展可以输入简短文本，生成更加丰富的长文。

一、定制客户邮件

将根据客户评价和情感倾向生成回复邮件。

二、温度系数

大语言模型中的'温度'(temperature) 参数可以控制生成文本的随机性和多样性。temperature 的值越大，语言模型输出的多样性越大；temperature 的值越小，输出越倾向高概率的文本。

举个例子，在某一上下文中，语言模型可能认为'比萨'是接下来最可能的词，其次是'寿司'和'塔可'。若 temperature 为 0，则每次都会生成'比萨'；而当 temperature 越接近 1 时，生成结果是'寿司'或'塔可'的可能性越大，使文本更加多样。

如果需要可预测、可靠的输出，则将 temperature 设置为 0；如果需要更具创意的文本，可适当提高 temperature。

Lesson 7. 聊天机器人

一、给定身份

在 ChatGPT 网页界面中，消息分为用户消息和助手消息。但在构建聊天机器人时，在发送了系统消息之后，您的角色可以仅作为用户 (user)；也可以在用户和助手 (assistant) 之间交替来提供对话上下文。

二、构建上下文

每次与语言模型的交互都互相独立，这意味着要提供所有相关的消息，以便模型在当前对话中进行引用。如果想让模型引用或'记住'对话的早期部分，则必须在输入中提供对话历史，也就是上下文 (context)。

三、订餐机器人

机器人会自动收集用户信息，并接收来自比萨饼店的订单。

collect_messages() 函数收集用户消息，从用户界面中收集 Prompt，然后将其附加到一个名为上下文 (context) 的列表中，并在每次调用模型时使用该上下文。模型的回答也会添加到上下文中，上下文逐渐变长。这样模型就知道下一步要做什么。

def collect_messages(_):
    prompt = inp.value_input    
    inp.value = ''    
    context.append({'role':'user', 'content':f"{prompt}"})    
    response = get_completion_from_messages(context)    
    context.append({'role':'assistant', 'content':f"{response}"})    
    panels.append(     
        pn.Row('User:', pn.pane.Markdown(prompt, width=600)))    
    panels.append(    
        pn.Row('Assistant:', pn.pane.Markdown(response, width=600, style={'background-color': '#F6F6F6'})))    
    return pn.Column(*panels)

现在，我们将设置并运行这个 UI 来显示订单机器人。初始的上下文包含了包含菜单的系统消息，在每次调用时都会使用。此后随着对话进行，上下文也会不断增长。需要用 pip 安装 panelCopy 库（用于可视化界面）。

运行如上代码可以得到一个点餐机器人，下图展示了一个点餐的完整流程：

创建 JSON 摘要

接下来要求模型创建一个 JSON 摘要，发送给订单系统。（此处也可以定义为用户消息，不一定是系统消息）

请注意，这里使用了一个较低的温度，因为对于这些类型的任务，我们希望输出相对可预测。

messages =  context.copy()
messages.append(
{'role':'system', 'content':
'''创建上一个食品订单的 json 摘要。\逐项列出每件商品的价格，字段应该是 1) 披萨，包括大小 2) 配料列表 3) 饮料列表，包括大小 4) 配菜列表包括大小 5) 总价
你应该给我返回一个可解析的 Json 对象，包括上述字段'''},
)

response = get_completion_from_messages(messages, temperature=0)
print(response)

总结

Prompt 的两个核心原则：

• 编写清晰具体的指令；
• 给模型一些思考时间。

我们还学习了迭代式 Prompt 开发的方法，逐步找到适合的 Prompt；另外，课程还讨论了大型语言模型的许多功能，包括摘要、推断、转换和扩展。