NemoMix 12B Unleashed

Цена

Текстовый диалог · вход

59,16 ₽ / 1 млн токенов

Текстовый диалог · выход

59,16 ₽ / 1 млн токенов

Текстовый диалог · вход из кэша

59,16 ₽ / 1 млн токенов

Цена указана в рублях для выбранной операции и её параметров.

Перед оплачиваемым запросом создаётся резерв. Итоговый расход привязан к сохранённым параметрам и тарифу запроса. При неизвестном результате резерв удерживается до проверки; такой запрос не следует повторять с новым идентификатором.

О модели

Подходит для ролевого отыгрыша и повествования.

Релиз

Дата не указана

Характеристики

Тип модели

Текст

Вход модели

Текст

Данные, которые модель принимает вместе с запросом.

Выход модели

Текст

Форматы результата, которые создаёт модель.

Контекстное окно

32 768 токенов

Контекстное окно по данным каталога. Лимит ответа и допустимый объём запроса проверяйте отдельно.

Максимальный ответ

8 192 токенов

Максимальный размер ответа по данным каталога. Фактический предел запроса зависит от подключённой операции.

Скорость генерации

≈ 24,5 токенов/с

Средняя скорость вывода по данным поставщика; зависит от нагрузки и длины ответа.

Время до первого токена

≈ 3,8 с

Среднее время до начала ответа по данным поставщика.

Операции

Текстовый диалог

Контрольные показатели

Для этой версии пока нет сопоставленной проверенной оценки. Результаты других версий сюда не переносятся.

Результат бенчмарка относится к его методике и версии модели. Он не гарантирует качество ответа, скорость или доступность конкретного запроса в Kvantora.

API-запрос

Пример API-запроса подготовлен для этой операции. Ключ храните в переменной окружения на своём сервере. REQUEST_ID: уникальный идентификатор запроса. При повторе сохраняйте его и тело запроса.

import json
import os
from urllib.request import Request, HTTPRedirectHandler, build_opener

class NoRedirect(HTTPRedirectHandler):
    def redirect_request(self, req, fp, code, msg, headers, newurl):
        return None

opener = build_opener(NoRedirect)

def post(url, payload):
    request = Request(url, data=json.dumps(payload).encode("utf-8"), headers={
        "Authorization": "Bearer " + os.environ["KVANTORA_API_KEY"],
        "Content-Type": "application/json",
        "Idempotency-Key": os.environ["REQUEST_ID"],
    }, method="POST")
    with opener.open(request, timeout=120) as response:
        return json.load(response)

payload = {
  "model": "marinaraspaghetti/nemomix-unleashed-12b",
  "messages": [
    {
      "role": "user",
      "content": "Объясни задачу кратко."
    }
  ]
}
print(post("https://api.kvantora.ai/v1/chat/completions", payload))

Похожие модели

Загружаем похожие модели…