Kvantora.ai
ВойтиНачать работу
К результатам поиска

gryphe

MythoMax 13B

Одна из самых производительных и популярных дообученных версий Llama 2 13B с подробными описаниями и ролевыми сценариями.

  • 4 096 токенов4 096 токеновКонтекстное окно по данным каталога. Лимит ответа и допустимый объём запроса проверяйте отдельно.
  • Потоковый ответПотоковый ответОтвет можно получать по частям. Поддержка потока проверяется отдельно для каждой операции API.
Вход
50,64 ₽
Выход
50,64 ₽
Кэш
50,64 ₽
за 1 млн токенов
Подключить APIОткрыть в студии
API ID
gryphe/mythomax-l2-13b

Данные каталога получены .

Цена

Текстовый диалог · вход
50,64 ₽ / 1 млн токенов
Текстовый диалог · выход
50,64 ₽ / 1 млн токенов
Текстовый диалог · вход из кэша
50,64 ₽ / 1 млн токенов

Цена указана в рублях для выбранной операции и её параметров.

Перед оплачиваемым запросом создаётся резерв. Итоговый расход привязан к сохранённым параметрам и тарифу запроса. При неизвестном результате резерв удерживается до проверки; такой запрос не следует повторять с новым идентификатором.

О модели

Дообученная версия Llama 2 13B, относящаяся к числу наиболее производительных и популярных. Ориентирована на подробные описания и ролевое взаимодействие.

Характеристики

Тип модели
Текст
Вход модели
Текст

Данные, которые модель принимает вместе с запросом.

Выход модели
Текст

Форматы результата, которые создаёт модель.

Контекстное окно
4 096 токенов

Контекстное окно по данным каталога. Лимит ответа и допустимый объём запроса проверяйте отдельно.

Операции
Текстовый диалог
Возможности модели
Потоковый ответ

Контрольные показатели

Для этой версии модели оценок пока нет.

Оценки относятся к этой версии модели и методике источника. Качество и скорость конкретного запроса они не гарантируют.

API-запрос

Операция доступна через API. Ключ храните в переменной окружения на своём сервере. REQUEST_ID: уникальный идентификатор запроса. При повторе сохраняйте его и тело запроса.

import json
import os
from urllib.request import Request, HTTPRedirectHandler, build_opener

class NoRedirect(HTTPRedirectHandler):
    def redirect_request(self, req, fp, code, msg, headers, newurl):
        return None

opener = build_opener(NoRedirect)

def post(url, payload):
    request = Request(url, data=json.dumps(payload).encode("utf-8"), headers={
        "Authorization": "Bearer " + os.environ["KVANTORA_API_KEY"],
        "Content-Type": "application/json",
        "Idempotency-Key": os.environ["REQUEST_ID"],
    }, method="POST")
    with opener.open(request, timeout=120) as response:
        return json.load(response)

payload = {
  "model": "gryphe/mythomax-l2-13b",
  "messages": [
    {
      "role": "user",
      "content": "Объясни задачу кратко."
    }
  ]
}
print(post("https://api.kvantora.ai/v1/chat/completions", payload))
Документация APIСоздать API-ключ