快捷導(dǎo)航

OpenAI?Function?Calling特性示例詳解

更新時(shí)間：2023年07月09日 10:40:11 作者：莫爾索隨筆

這篇文章主要為大家介紹了OpenAI?Function?Calling特性作用詳解，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進(jìn)步，早日升職加薪

Function Calling使用

OpenAI 在gpt-3.5-turbo-0613 和 gpt-4-0613兩個(gè)模型的chat completion api中增加了一個(gè)叫 Function Calling 的新功能，本篇文章對(duì)其功能進(jìn)行探究，并分析其作用。

我認(rèn)為這是一種比Plugin更優(yōu)雅的方式，給開發(fā)者提供了更多的自由度，一方面識(shí)別出何時(shí)需要調(diào)用函數(shù)來對(duì)輸出格式化，一方面設(shè)定具體的格式化數(shù)據(jù)有助于接入后續(xù)業(yè)務(wù)邏輯。達(dá)到盡可能保證（注意這里，是根據(jù)你的函數(shù)描述最大可能保證，不能100%）LLM輸出可控的基礎(chǔ)上，來增強(qiáng)自己業(yè)務(wù)的目的。

show me code

下面以記賬應(yīng)用為例，告訴AI：“今天喝奶茶花了6元”，正常思路來說，交互流程應(yīng)該是這樣的：

用戶輸入prompt
AI進(jìn)行語(yǔ)義分析
返回結(jié)構(gòu)化的數(shù)據(jù)（每個(gè)子項(xiàng)是什么，花費(fèi)是多少）
拿到數(shù)據(jù)進(jìn)行下一步操作

借助Function Calling，微調(diào)后的模型可以檢測(cè)何時(shí)應(yīng)該調(diào)用函數(shù)并使用符合函數(shù)簽名的 JSON 進(jìn)行響應(yīng)，下面看代碼例子??

import openai
import json
from enum import Enum
class BaseTool(Enum):
    Bookkeeping = "record_price"
    RecordingTask = "record_task"
def record_price(category, price):
    print(category, price)
    # 記賬應(yīng)用 API
    print("記賬成功!")
def funtion_call_conversation():
    response = openai.ChatCompletion.create(
    model="gpt-3.5-turbo-0613",
    messages=[
      {"role": "user", "content": "今天喝奶茶花了6元"},
    ],
    temperature=0,
    functions=[
      {
        "name": BaseTool.Bookkeeping.value,
        "description": "bookkeeping assistant",
        "parameters": {
          "type": "object",
          "properties": {
            "category": {
              "type": "string",
              "description": "類目",
            },
            "price": {"type": "string", "description": "金額"},
          },
          "required": ["category", "price"],
        },
      }
    ],
    function_call="auto",
    )
    message = response["choices"][0]["message"]
    if(message.get("function_call")):
        function_name = message["function_call"]["name"]
        if function_name == BaseTool.Bookkeeping.value:
            arguments = json.loads(message["function_call"]["arguments"])
            record_price(arguments.get('category'), arguments.get('price'))

接口調(diào)用說明

name字段表示要調(diào)用的函數(shù)名，description表示函數(shù)描述，paramters是一個(gè)符合JSON Schema格式的對(duì)象，用來描述這個(gè)函數(shù)的入?yún)⑿畔ⅲㄗ?LLM 讀得懂的工具函數(shù)說明）

record_price是用來給Function Calling調(diào)用的函數(shù)，這個(gè)函數(shù)接收兩個(gè)必填的參數(shù)，category類目（string類型），price金額（string類型）

functions=[
{
  "name": BaseTool.Bookkeeping.value,
  "description": "bookkeeping assistant",
  "parameters": {
    "type": "object",
    "properties": {
      "category": {"type": "string","description": "類目"},
      "price": {"type": "string", "description": "金額"},
    },
    "required": ["category", "price"],
  },
}
],

LLM分析結(jié)果

LLM 分析后命中了函數(shù)簽名描述，就會(huì)返回給我們 function_call 這個(gè)字段以及函數(shù)簽名中我們預(yù)定義的相關(guān)信息：

{
  "role": "assistant",
  "content": null,
  "function_call": {
    "name": "record_price",
    "arguments": "{\n  \"category\": \"\u5976\u8336\",\n  \"price\": \"6\u5143\"\n}"
  }
}

category返回給我們了類目是奶茶
price識(shí)別出了金額是6元

接下來拿到參數(shù)，調(diào)用 record_price 進(jìn)行記賬的操作即可；如果沒有命中函數(shù)簽名描述，就不會(huì)返回function_call字段，也就不需要進(jìn)行任何操作：

if(message.get("function_call")):
        function_name = message["function_call"]["name"]
        if function_name == BaseTool.Bookkeeping.value:
            arguments = json.loads(message["function_call"]["arguments"])
            record_price(arguments.get('category'), arguments.get('price'))

按照這種思路，可以擴(kuò)展自己的外部工具，比如發(fā)郵件，記錄待辦清單，讓LLM變成私人管家。