Mistral AI 聊天完成

• messages – (必要) 您要傳遞給模型的訊息。

  • role – 訊息的角色。有效的值如下：

    • system – 在對話中設定模型的行為和內容。

    • user – 要傳送給模型的訊息。

    • assistant – 來自模型的回應。

  • content – 訊息的內容。

  [
      {
          "role": "user",
          "content": "What is the most popular song on WZPZ?"
      }
  ]

  若要傳遞工具結果，請將 JSON 搭配下列欄位使用。

  • role – 訊息的角色。 值必須為 tool。

  • tool_call_id – 工具請求的 ID。您可以從上一個請求其回應中的 tool_calls 欄位取得 ID。

  • content – 工具的結果。

  下列範例是可從廣播電台取得熱門歌曲的工具提供的結果。

  {
      "role": "tool",
      "tool_call_id": "v6RMMiRlT7ygYkT4uULjtg",
      "content": "{\"song\": \"Elemental Hotel\", \"artist\": \"8 Storey Hike\"}"
  }

以下是選用參數。

• tools – 模型可使用之工具的定義。

  如果您在請求中包含 tools，模型可能會在訊息中傳回 tool_calls 欄位，代表模型使用這些工具。然後，您可以使用模型產生的工具輸入來執行這些工具，然後使用 tool_result 內容區塊選擇性地將結果傳回至模型。

  下列範例適用於在廣播電台上取得最熱門歌曲的工具。

  [
      {
          "type": "function",
          "function": {
              "name": "top_song",
              "description": "Get the most popular song played on a radio station.",
              "parameters": {
                  "type": "object",
                  "properties": {
                      "sign": {
                          "type": "string",
                          "description": "The call sign for the radio station for which you want the most popular song. Example calls signs are WZPZ and WKRP."
                      }
                  },
                  "required": [
                      "sign"
                  ]
              }
          }
      }
  ]

• tool_choice – 指定函數的呼叫方式。如果設定為 none，則模型不會呼叫函數，而是產生訊息。如果設定為 auto，則模型可以選擇產生訊息或呼叫函數。如果設定為 any，則會強制模型呼叫函數。

• max_tokens – 指定產生的回應中使用的字符數目上限。一旦產生的文字超過 max_tokens，模型就會截斷回應。

  預設	下限	最大
  Mistral Large – 8,192	1	Mistral Large – 8,192

• temperature – 控制模型所做預測的隨機性。如需詳細資訊，請參閱 使用推論參數影響回應生成。

  預設	下限	最大
  Mistral Large – 0.7	0	1

• top_p – 透過設定模型認為最有可能成為下一個字符的百分比，來控制模型產生的文字多樣性。如需詳細資訊，請參閱 使用推論參數影響回應生成。

  預設	下限	最大
  Mistral Large – 1	0	1

• choices – 來自模型欄位的輸出。

  • index – 訊息的索引。

  • message – 來自模型的訊息。

    • role – 訊息的角色。

    • content – 訊息的內容。

    • tool_calls – 如果 stop_reason 的值為 tool_calls，則此欄位包含模型希望您執行之工具請求的清單。

      • id – 工具請求的 ID。

      • function – 模型正在請求的函數。

        • name – 函數的名稱。

        • arguments – 傳遞至工具的引數。

      下列範例請求適用於取得廣播電台最高排名歌曲的工具。

      [
                          {
                              "id": "v6RMMiRlT7ygYkT4uULjtg",
                              "function": {
                                  "name": "top_song",
                                  "arguments": "{\"sign\": \"WZPZ\"}"
                              }
                          }
                      ]

  • stop_reason – 回應停止產生文字的原因。可能值為：

    • stop — 模型已完成產生輸入提示的文字。模型會停止，因為它不再有要產生的內容，或者如果模型產生您在 stop 請求參數中定義的其中一個停止序列。

    • length – 所產生文字的字符長度超過 max_tokens 的值。回應會截斷為 max_tokens 記號。

    • tool_calls – 模型正在請求您執行工具。