【又一突破！跨模型的Function_Calling来了】

文末有福利！

本文经翻译并二次整理自Tool Calling with LangChain一文。为了简化和统一与各种大型语言模型（LLM）提供商的工具调用API的交互，LangChain正在针对 AIMessage 引入一个名为 tool_calls 的新属性。

Tool Calling with LangChain

介绍

大型语言模型（LLM）通过工具调用能够与外部数据源进行交互。这项技术让开发者能够利用LLM来获取、交互和操作外部资源（比如数据库、文件和API等）。

随着越来越多的LLM提供商开始提供工具调用功能，我们注意到市场上出现了多种多样的接口。为了解决这个问题，LangChain推出了一个标准化的接口，这样用户就可以轻松地在不同的LLM提供商之间进行切换。

这个标准化接口包括以下几个方面：

ChatModel.bind_tools：这个方法允许您将工具的定义附加到模型的调用过程中。
AIMessage.tool_calls：这是一个新增的属性，它使得从模型返回的 AIMessage 中获取工具调用变得更加简单。
create_tool_calling_agent：这是一个构建代理的函数，适用于任何实现了 bind_tools 并且能够返回 tool_calls 的模型。

下面，我们将详细解释这些组件。

`ChatModel.bind_tools`

为了让模型能够使用工具，我们需要告诉它哪些工具是可以使用的。这可以通过向模型提供一个包含工具定义的列表来实现，这些工具定义包括了工具参数的模式。不同的模型提供商可能需要不同的格式，但是 ChatModel.bind_tools 提供了一个统一的接口，让您可以指定哪些工具对模型来说是可用的。

这意味着，无论您使用的是哪种工具调用模型，代码的结构都将非常相似。

`from langchain_anthropic import ChatAnthropic   from langchain_core.pydantic_v1 import BaseModel, Field   from langchain_core.tools import tool      # ✅ Pydantic 类   class multiply(BaseModel):       """返回 'x' 和 'y' 的乘积。"""       x: float = Field(..., description="第一个因子")       y: float = Field(..., description="第二个因子")          # ✅ LangChain 工具   @tool   def exponentiate(x: float, y: float) -> float:       """将 'x' 乘以 'y'。"""       return x**y          # ✅ 函数      def subtract(x: float, y: float) -> float:       """从 'y' 中减去 'x'。"""       return y-x          # ✅ OpenAI 格式字典   # 还可以传入一个带有 "title" 和 "description" 的 JSON 模式   add = {     "name": "add",     "description": "将 'x' 和 'y' 相加。",     "parameters": {       "type": "object",       "properties": {         "x": {"type": "number", "description": "要相加的第一个数字"},         "y": {"type": "number", "description": "要相加的第二个数字"}       },       "required": ["x", "y"]     }   }      llm = ChatAnthropic(model="claude-3-sonnet-20240229", temperature=0)      # 每当我们调用 `llm_with_tool` 时，这三个工具定义   # 都会被传递给模型。   llm_with_tools = llm.bind_tools([multiply, exponentiate, add, subtract])   `

如果我们想使用不同的工具调用模型，我们的代码看起来会非常相似：

from langchain_openai import ChatOpenAI      llm = ChatOpenAI(model="gpt-4-turbo", temperature=0)   llm_with_tools = llm.bind_tools([multiply, exponentiate, add, subtract])

那么调用 llm_with_tools 会是什么样子呢？这就是 AIMessage.tool_calls 的用武之地。

`AIMessage.tool_calls`

在过去，当使用工具调用模型时，模型返回的工具调用可能会放在 AIMessage.additional_kwargs 或 AIMessage.content 中，这取决于模型提供商的API，并遵循特定于提供商的格式。现在，AIMessage.tool_calls 提供了一个标准化的接口来获取模型的工具调用。这样，在调用了绑定了工具的模型之后，您将得到一个包含 tool_calls 属性的输出，其中列出了所有的工具调用。

在调用了绑定工具的模型之后，您将得到以下形式的输出：

llm_with_tools.invoke([    ("system", "你是一个有用的助手"),     ("human", "5 的 2.743 次方是多少"),   ])      # 👀 注意 tool_calls 属性 👀      # -> AIMessage(   #    content=...,    #    additional_kwargs={...},   #    tool_calls=[{'name': 'exponentiate', 'args': {'y': 2.743, 'x': 5.0}, 'id': '54c166b2-f81a-481a-9289-eea68fc84e4f'}]   #    response_metadata={...},    #    id='...'   #   )

其中 AIMessage 有一个 tool_calls: List[ToolCall] 属性，如果有工具调用，它将被填充，并将遵循工具调用的标准接口：

class ToolCall(TypedDict):     name: str     args: Dict[str, Any]    id: Optional[str]

也就是说，无论您是在调用 Anthropic、OpenAI、Gemini 等，只要有工具调用，它将以 AIMessage.tool_calls 形式作为 ToolCall 出现。

我们还添加了一些其他属性，用于处理流式工具调用块和无效工具调用。有关这些的更多信息，请阅读工具调用文档这里。

`create_tool_calling_agent`

利用LLM的工具调用能力来构建代理是一个非常强大的应用场景。我们已经有了一个 create_openai_tools_agent() 构造函数，它可以方便地构建一个符合OpenAI工具调用API的代理。但是，这个构造函数并不适用于Anthropic和Gemini等模型。现在，有了 bind_tools() 和 tool_calls 这两个新接口，我们推出了 create_tool_calling_agent()，它能够与任何支持工具调用的模型一起工作。

from langchain_core.prompts import ChatPromptTemplate   from langchain_core.runnables import ConfigurableField   from langchain_core.tools import tool   from langchain.agents import create_tool_calling_agent, AgentExecutor      @tool   def multiply(x: float, y: float) -> float:       """将 'x' 乘以 'y'。"""       return x * y      @tool   def exponentiate(x: float, y: float) -> float:       """将 'x' 乘以 'y' 的指数。"""       return x**y      @tool   def add(x: float, y: float) -> float:       """将 'x' 和 'y' 相加。"""       return x + y      prompt = ChatPromptTemplate.from_messages([       ("system", "你是一个有用的助手"),        ("human", "{input}"),        ("placeholder", "{agent_scratchpad}"),   ])      tools = [multiply, exponentiate, add]      llm = ChatAnthropic(model="claude-3-sonnet-20240229", temperature=0)      agent = create_tool_calling_agent(llm, tools, prompt)   agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True)      agent_executor.invoke({"input": "3 加上 5 的 2.743 次方是多少。还有 17.24 减去 918.1241 是多少。"})

我们可以使用 VertexAI 替代：

from langchain_google_vertexai import ChatVertexAI      llm = ChatVertexAI(    model="gemini-pro",     temperature=0,     convert_system_message_to_human=True   )   agent = create_tool_calling_agent(llm, tools, prompt)   agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True)      agent_executor.invoke({"input": "3 加上 5 的 2.743 次方是多少。还有 17.24 减去 918.1241 是多少。"})

或者 OpenAI：

llm = ChatOpenAI(model="gpt-3.5-turbo-0125", temperature=0)      agent = create_tool_calling_agent(llm, tools, prompt)   agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True)      agent_executor.invoke({"input": "3 加上 5 的 2.743 次方是多少。还有 17.24 减去 918.1241 是多少。"})