Function Calling：连接大模型与业务系统的自然语言接口机制

前言

本文重点介绍 Function Calling 的机制和应用，阐述其原理以及为何会出现 Plugin、GPTs 等概念。

大模型应用的核心是自然语言连接系统的认知。
在 Function Calling 的应用中，如何将大模型和业务系统连接起来。
OpenAI 如何通过 GPTs 连接外部世界。

自然语言连接一切（Natural Language Interface），接口的进化

接口经历了多个版本的进化：从命令行到 GUI，再到 API，最后到自然语言接口。在这个过程中，媒介发生变化，但都需要约定和规划。面对 ChatGPT 等大模型，我们面对的是自然语言接口。思维上首先要转变的就是要把计算机当成一个人。

为什么要让大模型连接外部世界

大模型有自身的能力缺陷：

并非知晓一切：训练数据不可能包含所有垂直、非公开数据。
没有「真逻辑」：表现出的逻辑是统计规律，容易产生幻觉。
知识滞后：训练周期长，无法实时获取最新信息。

因此，需要连接外部世界，对接真实逻辑系统。

Function Calling 的机制

定义

函数调用（Function Calling）允许模型输出一个请求调用函数的消息，包含函数信息和参数。这是将 GPT 能力与外部工具/API 连接的新方式。支持函数调用的新模型，可以根据用户输入自行判断何时调用哪些函数，并生成符合要求的请求参数。

工作流程

开发者定义函数 Schema（JSON Schema）。
用户发送 Prompt。
模型判断是否需要调用函数，若需要则返回函数名和参数。
后端执行函数，获取结果。
将结果反馈给模型，模型生成最终回复。

代码示例

import openai

# 定义函数描述
functions = [
    {
        "name": "get_current_weather",
        "description": "Get the current weather in a given location",
        "parameters": {
            "type": "object",
            "properties": {
                "location": {"type": "string", "description": "The city and state"},
                "unit": {"type": "string", "enum": ["celsius", "fahrenheit"]}
            },
            "required": ["location"]
        }
    }
]

# 模拟调用流程
messages = [{"role": "user", "content": "What's the weather in Beijing?"}]
response = client.chat.completions.create(model="gpt-3.5-turbo", messages=messages, functions=functions)
# 处理 function_call 逻辑...

国产大模型支持情况

百度文心系列：ERNIE-Bot, ERNIE-Bot 4.0 等支持 Function Calling。
MiniMax：较早支持，API 兼容 OpenAI 旧版。
ChatGLM3-6B：使用 tools 参数。
讯飞星火 3.0：兼容 OpenAI 接口规范。

OpenAI Actions 与 GPTs

Actions 对接

Actions 内置到 GPTs 中，解决落地场景问题。配置 API 描述信息（OpenAPI 3.1.0 格式）即可。

openapi: 3.1.0
info:
  title: 高德地图
  description: 获取 POI 的相关信息
  # ... 其他配置

GPTs 与平替

无需编程定制对话机器人，可接入知识库（RAG），对接专有数据。推荐平台如字节跳动 Coze（扣子），支持免费使用部分服务，功能强大。但自有开发仍有优势：针对业务需求极致调优，集成更灵活。

常见陷阱与解决方案

参数类型错误：确保 JSON Schema 中的类型与实际返回值一致。
上下文丢失：在多轮对话中保持函数调用状态。
响应超时：设置合理的超时时间，避免阻塞主线程。

高级配置与优化

Prompt 工程：准确描述函数用途，决定调用成功率。
错误处理：处理函数执行失败的情况，避免模型幻觉。
安全性：验证输入参数，防止注入攻击。

总结

大模型需要连接外部世界，Function Calling 增强了模型功能、数据准确性及用户体验。随着技术发展，Function Calling 应用场景将更广泛。在实际落地场景中，开发者应关注输入整合与输出增强，以达成业务目的。

Function Calling：连接大模型与业务系统的自然语言接口机制

前言

自然语言连接一切（Natural Language Interface），接口的进化

为什么要让大模型连接外部世界

Function Calling 的机制

定义

工作流程

代码示例

国产大模型支持情况

OpenAI Actions 与 GPTs

Actions 对接

GPTs 与平替

常见陷阱与解决方案

高级配置与优化

总结

更多推荐文章

相关免费在线工具

Function Calling：连接大模型与业务系统的自然语言接口机制

前言

自然语言连接一切（Natural Language Interface），接口的进化

为什么要让大模型连接外部世界

Function Calling 的机制

定义

工作流程

代码示例

国产大模型支持情况

OpenAI Actions 与 GPTs

Actions 对接

GPTs 与平替

常见陷阱与解决方案

高级配置与优化

总结

微信扫一扫，关注极客日志

更多推荐文章

相关免费在线工具