大模型只会聊天那是你还没用 Function Calling。本文从原理到实战带你搞懂 Function Calling 的核心机制并用 Java 实现完整的调用流程。一、前言你有没有遇到过这样的场景用户问「北京今天天气怎么样」大模型只能回答「我无法获取实时数据」你想让 AI 帮你查数据库、调接口、发邮件但它只会生成文本你费劲写了一堆 Prompt 让模型输出 JSON结果格式千奇百怪Function Calling 就是来解决这些问题的。它让大模型从一个「只会说话的嘴」变成了「能指挥工具的手」。二、Function Calling 原理与工作流2.1 什么是 Function CallingFunction Calling函数调用是 OpenAI 在 2023 年 6 月推出的一项能力允许大模型在对话过程中识别用户意图并输出结构化的函数调用请求。核心要点模型不执行函数它只告诉你「我想调用哪个函数传什么参数」实际执行权在你的代码你拿到模型的输出后自己决定要不要执行、怎么执行执行完后把结果喂回模型模型再生成最终的自然语言回答 一句话总结大模型负责「想」你的代码负责「做」。2.2 为什么需要 Function Calling在没有 Function Calling 之前我们要让模型调用工具通常有两种方式方式一Prompt 硬解析请以如下 JSON 格式输出你的需求 {function: xxx, params: {city: 北京}}问题模型输出的 JSON 经常格式不对、多一个逗号、少一个引号解析起来噩梦一般。方式二用 LangChain 等框架框架帮你做了工具绑定和解析但引入了额外的抽象层调试困难且强依赖框架。Function Calling 的优势✅原生支持API 层面就定义好了工具 schema✅结构化输出模型返回标准 JSON不需要你正则匹配✅多工具并行一次请求可以调用多个函数✅模型自主决策它会自己判断要不要调用、调哪个2.3 工作流全景整个 Function Calling 的流程可以分为6 步┌─────────────┐ │ 用户提问 │ 北京天气怎么样 └──────┬──────┘ ▼ ┌─────────────┐ │ LLM 分析意图 │ 模型判断需要调用 getWeather 函数 └──────┬──────┘ ▼ ┌─────────────────────┐ │ 模型输出函数调用请求 │ {name: getWeather, arguments: {city: 北京}} └──────┬──────────────┘ ▼ ┌─────────────┐ │ 应用层执行函数 │ 你调用天气 API拿到结果 └──────┬──────┘ ▼ ┌─────────────────┐ │ 结果喂回模型 │ {temp: 28°C, condition: 晴} └──────┬──────────┘ ▼ ┌───────────────────┐ │ 模型生成最终回答 │ 北京今天 28°C天气晴朗适合出行。 └───────────────────┘注意第 3 步和第 5 步之间发生了两次 API 调用调用次数方向目的第 1 次你 → OpenAI发送用户消息 工具定义模型决定是否调用工具第 2 次你 → OpenAI把工具执行结果喂回模型生成最终回答三、OpenAI Function Calling API 的工作流3.1 定义工具Tool Schema首先你需要告诉模型「你有哪些工具可以用」。工具用 JSON Schema 描述{ type: function, function: { name: getWeather, description: 查询指定城市的天气信息, parameters: { type: object, properties: { city: { type: string, description: 城市名称如北京、上海 } }, required: [city] } } }几个关键字段name函数名模型会用这个名字来调用description函数描述非常重要——模型靠它理解什么时候该用这个工具parameters参数的 JSON Schema定义类型、描述、是否必填⚠️description写得好不好直接影响模型的调用准确率。把它当成给新同事写的 API 文档。3.2 Java 完整实现下面是用 OpenAI Java SDK 实现的完整流程import com.openai.client.OpenAIClient; import com.openai.client.okhttp.OpenAIOkHttpClient; import com.openai.models.chat.completions.*; import com.openai.models.*; import java.util.*; public class FunctionCallingDemo { private static final OpenAIClient client OpenAIOkHttpClient.builder() .apiKey(System.getenv(OPENAI_API_KEY)) .build(); public static void main(String[] args) { // 第一步定义工具 ListChatCompletionTool tools List.of( ChatCompletionTool.builder() .type(ChatCompletionTool.Type.FUNCTION) .function(FunctionDefinition.builder() .name(getWeather) .description(查询指定城市的天气信息) .parameters(JsonObjectSchema.builder() .type(JsonObjectSchema.Type.OBJECT) .addProperty(city, JsonStringSchema.builder() .type(JsonStringSchema.Type.STRING) .description(城市名称) .build()) .required(List.of(city)) .build()) .build()) .build() ); // 第二步构建对话消息 ListChatCompletionMessageParam messages new ArrayList(); messages.add(ChatCompletionMessageParam.ofChatCompletionUserMessageParam( UserMessage.builder().content(北京今天天气怎么样).build() )); // 第三步第一次调用 —— 让模型决定是否调用工具 ChatCompletion completion client.chatCompletions().create( ChatCompletionCreateParams.builder() .model(gpt-4) .messages(messages) .tools(tools) .build() ); ChatCompletionMessage message completion.choices().get(0).message(); // 第四步检查模型是否要调用工具 if (message.toolCalls().isPresent()) { for (ToolCall toolCall : message.toolCalls().get()) { String funcName toolCall.function().name(); String argumentsJson toolCall.function().arguments(); System.out.println(模型请求调用: funcName); System.out.println(参数: argumentsJson); // 第五步执行本地函数 String result executeFunction(funcName, argumentsJson); System.out.println(执行结果: result); // 将模型消息和工具结果加入对话历史 messages.add(ChatCompletionMessageParam.ofChatCompletionAssistantMessageParam(message)); messages.add(ChatCompletionMessageParam.ofChatCompletionToolMessageParam( ToolMessage.builder() .toolCallId(toolCall.id()) .content(result) .build() )); } // 第六步第二次调用 —— 模型生成最终回答 ChatCompletion finalCompletion client.chatCompletions().create( ChatCompletionCreateParams.builder() .model(gpt-4) .messages(messages) .tools(tools) .build() ); System.out.println(最终回答: finalCompletion.choices().get(0).message().content()); } else { // 模型直接回答无需调用工具 System.out.println(直接回答: message.content()); } } // 函数执行器 private static String executeFunction(String name, String argumentsJson) { // 实际项目中用 Jackson/Gson 解析 switch (name) { case getWeather: // 这里模拟调用天气 API return {city: 北京, temperature: 28°C, condition: 晴, humidity: 45%%} ; default: return {\error\: \未知函数: name \}; } } }3.3 运行结果模型请求调用: getWeather 参数: {city:北京} 执行结果: {city: 北京, temperature: 28°C, condition: 晴, humidity: 45%} 最终回答: 北京今天天气晴朗气温 28°C湿度 45%非常适合户外活动。3.4 并行工具调用Parallel Function Calling当用户的问题需要调用多个工具时模型可以一次返回多个工具调用请求// 用户问北京和上海今天天气分别怎么样 // 模型可能一次返回两个 tool_calls // ToolCall 1: getWeather(city北京) // ToolCall 2: getWeather(city上海) if (message.toolCalls().isPresent()) { for (ToolCall toolCall : message.toolCalls().get()) { // 逐个执行结果都加到 messages 里 String result executeFunction( toolCall.function().name(), toolCall.function().arguments() ); messages.add(/* tool message */); } // 最后一次调用模型综合所有结果生成回答 }四、Function Calling 与传统 API 调用的区别很多人会问「这不就是封装了一层 API 调用吗我自己写 if/else 也能做到。」来我们对比一下4.1 架构对比传统方式用户输入 → 你写正则/NLU 解析意图 → if-else 路由 → 调用 API → 拼接回答Function Calling 方式用户输入 → 模型理解意图 输出结构化调用 → 你执行 → 模型生成回答4.2 详细对比维度传统 API 调用Function Calling意图识别你写规则/正则/NLU 模型大模型原生能力零代码参数提取你自己解析容易出错模型直接输出 JSON结构化多轮对话你维护上下文状态机模型自动理解上下文新增工具改路由逻辑、加 if-else写一个 JSON Schema 就行多工具协同复杂的编排逻辑模型自动决定调用顺序和组合错误处理你写所有边界情况模型会根据描述合理使用开发成本高每个意图都要写代码低定义 schema 即可灵活性固定逻辑难以扩展模型可处理未预见的表达方式4.3 举个实际例子假设你要做一个智能客服支持查订单、查物流、退款。传统方式// 你得写一堆规则 if (input.contains(订单) input.contains(查)) { return handleOrderQuery(parseOrderId(input)); } else if (input.contains(物流) || input.contains(快递)) { return handleLogisticsQuery(parseTrackingNumber(input)); } else if (input.contains(退款) || input.contains(退货)) { return handleRefund(parseOrderId(input)); } else { return 抱歉我没听懂; }用户说「我上周买的那个东西到哪了」——你的规则匹配不上。Function Calling 方式你只需要定义三个工具的 schema然后把用户原话丢给模型。模型会自动判断{ name: queryLogistics, arguments: {order_id: 用户上周的订单, time_range: last_week} }用户换个说法「快递走到哪了」「我的包裹呢」模型都能正确理解。4.4 本质区别传统方式中你既是架构师又是工人——你得理解用户意图、提取参数、路由到正确的函数。Function Calling 中模型是架构师你是工人——模型理解意图、提取参数、决定调什么你只负责执行。 这不是「更好的正则表达式」而是范式转变从「代码驱动」到「意图驱动」。五、最佳实践与踩坑指南5.1 工具描述要写好// ❌ 差的描述 .description(查天气) // ✅ 好的描述 .description(查询指定城市的当前天气信息包括温度、天气状况、湿度。当用户询问某个城市的天气时调用此函数。)模型靠description决定什么时候调用写得越清楚调用越准确。5.2 参数定义要精确// ❌ 模糊的参数 .addProperty(date, JsonStringSchema.builder() .type(JsonStringSchema.Type.STRING) .build()) // ✅ 精确的参数 .addProperty(date, JsonStringSchema.builder() .type(JsonStringSchema.Type.STRING) .description(查询日期格式为 yyyy-MM-dd如 2024-01-15。默认为今天。) .build())5.3 错误处理不能省private static String executeFunction(String name, String argsJson) { try { switch (name) { case getWeather: MapString, Object args parseJson(argsJson); String city (String) args.get(city); if (city null || city.isBlank()) { return {\error\: \缺少必填参数: city\}; } return weatherService.query(city); default: return {\error\: \未注册的函数: name \}; } } catch (Exception e) { return {\error\: \执行异常: e.getMessage() \}; } }5.4 tool_choice 参数// auto —— 模型自己决定默认 .toolChoice(ChatCompletionToolChoice.AUTO) // required —— 强制模型调用至少一个工具 .toolChoice(ChatCompletionToolChoice.REQUIRED) // 指定某个工具 —— 强制调用特定函数 .toolChoice(ChatCompletionNamedToolChoice.builder() .type(ChatCompletionNamedToolChoice.Type.FUNCTION) .function(FunctionName.builder().name(getWeather).build()) .build())六、总结你以前的做法现在的做法写正则解析用户输入模型自己理解意图if-else 路由到不同函数定义 schema模型自动选择自己拼接回答模型生成自然语言回答加功能改代码加一个 JSON SchemaFunction Calling 不是银弹它适合✅ 需要让 AI 调用外部工具API、数据库、文件系统✅ 需要结构化输出JSON 而非自由文本✅ 用户意图多样规则难以穷举不太适合❌ 简单的关键词匹配杀鸡用牛刀❌ 对延迟极其敏感的场景两次 API 调用❌ 需要 100% 确定性的逻辑模型有概率出错如果觉得有帮助点个 收藏一下有问题评论区见