Funcation calling

概要

関数名、引数の説明、関数の説明を読ませてLLMに判断させる
設定すると、状況によって「この関数をこの引数でコールしたい！」というレスポンスが得られる。
必ず関数をコールさせる設定もある

SFの世界を実現するFunction Callingを丁寧に解説！【ChatGPT神アプデ】 | WEEL

事例

ターミナルでChatGPTにシェルコマンドを生成させるコマンド。

「bashを実行する関数」についての情報を渡している。

{
  "model": "gpt-3.5-turbo-0613",
  "messages": [{"role": "user", "content": "'"$query"'"}],
  "functions": [
      {
      "name": "run_bash_command",
      "description": "run bash command",
      "parameters": {
          "type": "object",
          "properties": {
              "command": {
                  "type": "string",
                  "description": "bash command to run"
              }
          },
          "required": ["command"]
          }
      }
  ],
  "function_call": '"$function_call"',
  "temperature": 0.1
}

引数に文字列で実行するべきコマンドが渡されるので、それを標準出力するコマンドになっている。

例えば、「hello, worldを出力」とリクエストを送ると「run_bash_commandをecho ‘hello, world’で実行する」といったJSONレスポンスが返ってくる。

OpenInterpreterも同じ仕組み。