Cohere: Command R+

Цена

Текстовый диалог · вход

336,00 ₽ / 1 млн токенов

Текстовый диалог · выход

1 344,00 ₽ / 1 млн токенов

Текстовый диалог · вход из кэша

336,00 ₽ / 1 млн токенов

Цена указана в рублях для выбранной операции и её параметров.

Перед оплачиваемым запросом создаётся резерв. Итоговый расход привязан к сохранённым параметрам и тарифу запроса. При неизвестном результате резерв удерживается до проверки; такой запрос не следует повторять с новым идентификатором.

О модели

Модель с 104 млрд параметров для диалоговых задач. Поддерживает генерацию кода, RAG, вызов инструментов и работу агентов. В исходном описании отмечены улучшения качества ответов и работы с длинным контекстом по сравнению с предыдущими моделями.

Релиз

30 августа 2024 г.

Характеристики

Тип модели

Текст

Вход модели

Текст

Данные, которые модель принимает вместе с запросом.

Выход модели

Текст

Форматы результата, которые создаёт модель.

Контекстное окно

128 000 токенов

Контекстное окно по данным каталога. Лимит ответа и допустимый объём запроса проверяйте отдельно.

Максимальный ответ

4 096 токенов

Максимальный размер ответа по данным каталога. Фактический предел запроса зависит от подключённой операции.

Операции

Текстовый диалог

Возможности модели

Вызов инструментов, Вызов функций, Структурированный ответ, Ответ в JSON

Контрольные показатели

Оценки относятся к этой версии модели и методике источника. Качество и скорость конкретного запроса они не гарантируют.

API-запрос

Пример API-запроса подготовлен для этой операции. Ключ храните в переменной окружения на своём сервере. REQUEST_ID: уникальный идентификатор запроса. При повторе сохраняйте его и тело запроса.

import json
import os
from urllib.request import Request, HTTPRedirectHandler, build_opener

class NoRedirect(HTTPRedirectHandler):
    def redirect_request(self, req, fp, code, msg, headers, newurl):
        return None

opener = build_opener(NoRedirect)

def post(url, payload):
    request = Request(url, data=json.dumps(payload).encode("utf-8"), headers={
        "Authorization": "Bearer " + os.environ["KVANTORA_API_KEY"],
        "Content-Type": "application/json",
        "Idempotency-Key": os.environ["REQUEST_ID"],
    }, method="POST")
    with opener.open(request, timeout=120) as response:
        return json.load(response)

payload = {
  "model": "cohere/command-r-plus-08-2024",
  "messages": [
    {
      "role": "user",
      "content": "Объясни задачу кратко."
    }
  ]
}
print(post("https://api.kvantora.ai/v1/chat/completions", payload))

Похожие модели

Загружаем похожие модели…