大模型应用开发入门：GPT-4 与 ChatGPT 高级技巧实战

模型输出： 递归是一种在函数定义中调用自身的方法，常用于解决具有重复子问题的计算问题。

提高提示效果的技巧

1. 重复指示：在提示词中多次强调任务要求，确保模型理解核心约束。
2. 使用负面提示：明确指出不希望出现的内容，避免模型输出不需要的信息（如'不要包含代码注释'）。
3. 添加长度限制：控制模型输出的长度，避免回答过长或过短，提升内容密度。

示例：

给出一个简短的总结，不超过 100 字：

微调

微调的基本概念

微调是指在特定数据集上对预训练模型进行再训练，以提升其在特定任务上的性能。通过微调，模型能够更好地理解和生成与特定领域相关的内容，从而降低幻觉率并提高专业度。

使用 OpenAI API 进行微调

微调步骤如下：

1. 准备数据集

收集包含输入（prompt）和输出（completion）的高质量示例，保存为 JSONL 格式。数据质量直接影响微调效果。

{"prompt": "请编写一个 Python 函数，计算两个数的和。", "completion": "def add(a, b):\n   return a + b"}

2. 上传数据

使用 OpenAI 提供的工具将数据集上传至服务器。

openai tools fine_tunes.prepare_data -f your_data.jsonl

也可以通过代码上传：

import openai

response = openai.File.create(
    file=open("out_openai_completion_prepared.jsonl", "rb"),
    purpose='fine-tune'
)
# 两个参数是必需的：file 和 purpose

3. 启动微调

通过 API 调用开始微调过程，选择合适的基础模型和参数。

openai api fine_tunes.create -t your_prepared_data.jsonl -m davinci --suffix "custom_add"

4. 监控进度

使用命令行工具监控微调任务的进展。

openai api fine_tunes.follow -i ft-YourFineTuneID

5. 使用微调模型

在 API 调用中使用微调后的模型进行预测。

import openai
openai.api_key = "YOUR_API_KEY"

response = openai.Completion.create(
    model="davinci:ft-your-org:custom_add-2024-04-01",
    prompt="请编写一个 Python 函数，计算两个数的差。",
    max_tokens=10
)
print(response["choices"][0]["text"])

微调的应用场景

案例 1：法律文本分析

目标：让模型能够理解和分析法律文档，提供准确的分析和建议。微调后的模型能更好地识别法律术语和条款逻辑。

案例 2：自动代码审查

目标：通过微调模型，自动检测代码中的潜在问题并提供改进建议。 JSONL 文件可以包含代码及相应的审查评论。这将帮助模型学习如何提供准确且相关的代码质量反馈。

{"prompt": "Review the following Python code: 'def sum(a, b): return a + b\nresult = sum(5, '5')'" , "completion": "Type error: The 'sum' function is adding an integer and a string. Consider converting the string to an integer using int() before passing it to the function."}

案例 3：财务文档摘要

目标：生成财务报告的简明摘要，帮助用户快速了解关键内容。

案例 4：技术文档翻译

目标：精准翻译技术文档，保持术语和专业性的一致。

案例 5：为专业领域生成内容

目标：在特定专业领域内生成高质量、符合要求的内容，如医疗、金融等。

生成和微调电子邮件营销活动的合成数据

目标

基于合成数据集，微调模型以生成高效的电子邮件营销内容。

1. 创建合成数据集

使用 GPT-3.5 Turbo 生成包含营销提示词和对应邮件内容的示例。

import openai
import pandas as pd

def chat_completion(prompt, model="gpt-3.5-turbo", temperature=1):
    response = openai.ChatCompletion.create(
        model=model,
        messages=[{"role": "user", "content": prompt}],
        temperature=temperature,
    )
    return response["choices"][0]["message"]["content"]

# 示例
prompts = ["Grocery Stores, Brussels, small"]
responses = [chat_completion(f"Role: You are an expert content writer with extensive direct marketing experience.\nContext: You have to write a short message for a direct marketing campaign to sell a new e-commerce payment service to stores. The target stores have the following three characteristics: - The sector of activity: {sector} - The city where the stores are located: {city} - The size of the stores: {size}\nTask: Write a short message for the direct marketing campaign. Use the skills defined in your role to write this message! It is important that the message you create takes into account the product you are selling and the characteristics of the store you are writing to.") for sector, city, size in [("Grocery Stores", "Brussels", "small")]]

data = pd.DataFrame({"prompt": prompts, "completion": responses})
data.to_csv("out_openai_completion.csv", index=False)

微调模型

使用生成的合成数据集对模型进行微调，以生成高质量的营销邮件。

微调的成本与考量

1. 训练费用：微调涉及大量计算资源，费用较高。需根据预算评估投入产出比。
2. 成本优化：通过选择合适的基础模型和优化提示词，控制微调成本。
3. 参考：查看官方定价页面以获取最新的微调费用信息。

使用插件和微调优化 GPT 模型

GPT-4 插件

定义：插件扩展了 GPT-4 的功能，使其能够与外部系统和数据源互动。

应用：

• 实时信息检索：获取最新的体育赛事比分、股票价格等。
• 执行复杂操作：如预订航班、订购食品等。
• 接口第三方服务：集成 Google 搜索、维基百科等服务。

微调与插件的结合

结合优势：微调模型使其在特定任务上表现更优，而插件则扩展了模型的操作能力，二者结合能显著提高应用程序的智能化水平。

RAG 架构补充

除了微调，检索增强生成（RAG）也是构建企业级 AI 应用的重要架构。

• 原理：从外部知识库检索相关信息，将其作为上下文提供给 LLM，LLM 基于此生成回答。
• 优势：相比微调，RAG 更新知识无需重新训练模型，适合动态变化的数据。
• 适用场景：问答系统、内部知识库查询。

安全与伦理

在使用大模型时，必须注意以下安全问题：

1. 数据隐私：避免向公共 API 发送敏感个人信息或商业机密。
2. 内容合规：设置过滤机制，防止模型生成违规或有害内容。
3. 责任归属：明确 AI 生成内容的法律责任，建立人工审核流程。

小结

本章介绍了 GPT-4 和 ChatGPT 的高级技巧，包括提示工程、微调和插件使用。通过这些技巧，开发人员能够更有效地利用语言模型，构建高质量、智能化的应用程序。同时，理解和应用这些高级技巧，是构建企业级 AI 应用的关键。在实际开发中，应根据具体需求权衡微调、RAG 和提示工程的成本与效果，以实现最佳的业务价值。