Kimi K2 Instruct

Цена

Текстовый диалог · вход

68,36 ₽ / 1 млн токенов

Текстовый диалог · выход

273,46 ₽ / 1 млн токенов

Текстовый диалог · вход из кэша

68,36 ₽ / 1 млн токенов

Цена указана в рублях для выбранной операции и её параметров.

Перед оплачиваемым запросом создаётся резерв. Итоговый расход привязан к сохранённым параметрам и тарифу запроса. При неизвестном результате резерв удерживается до проверки; такой запрос не следует повторять с новым идентификатором.

О модели

Kimi K2 0905 — базовая модель на архитектуре смеси экспертов (MoE) с 1 трлн общих параметров и 32 млрд активных параметров, квантованная в FP8. По результатам тестов, охватывающих рассуждения на общие знания, программирование, математику и агентные задачи, модель K2 превосходит другие ведущие открытые модели.

Релиз

1 января 2024 г.

Характеристики

Тип модели

Текст

Вход модели

Текст

Данные, которые модель принимает вместе с запросом.

Выход модели

Текст

Форматы результата, которые создаёт модель.

Контекстное окно

256 000 токенов

Контекстное окно по данным каталога. Лимит ответа и допустимый объём запроса проверяйте отдельно.

Максимальный ответ

8 192 токенов

Максимальный размер ответа по данным каталога. Фактический предел запроса зависит от подключённой операции.

Операции

Текстовый диалог

Возможности модели

Потоковый ответ, Вызов инструментов, Вызов функций, Структурированный ответ, Ответ в JSON

Контрольные показатели

Оценки относятся к этой версии модели и методике источника. Качество и скорость конкретного запроса они не гарантируют.

API-запрос

Операция доступна через API. Ключ храните в переменной окружения на своём сервере. REQUEST_ID: уникальный идентификатор запроса. При повторе сохраняйте его и тело запроса.

import json
import os
from urllib.request import Request, HTTPRedirectHandler, build_opener

class NoRedirect(HTTPRedirectHandler):
    def redirect_request(self, req, fp, code, msg, headers, newurl):
        return None

opener = build_opener(NoRedirect)

def post(url, payload):
    request = Request(url, data=json.dumps(payload).encode("utf-8"), headers={
        "Authorization": "Bearer " + os.environ["KVANTORA_API_KEY"],
        "Content-Type": "application/json",
        "Idempotency-Key": os.environ["REQUEST_ID"],
    }, method="POST")
    with opener.open(request, timeout=120) as response:
        return json.load(response)

payload = {
  "model": "moonshot/kimi-k2-instruct",
  "messages": [
    {
      "role": "user",
      "content": "Объясни задачу кратко."
    }
  ]
}
print(post("https://api.kvantora.ai/v1/chat/completions", payload))

Похожие модели

Загружаем похожие модели…