Характеристики Llama 3.3 70B Instruct
Контекстное окно 131K
Дата релиза 06 декабря 2024
Мультимодальность
Входящие данные:
- Текст
Исходящие данные:
- Текст
Цены Llama 3.3 70B Instruct в рублях
Оплата производится по факту за использованные токены.
Цены по провайдерам
RouterAI работает с несколькими провайдерами для обеспечения максимальной доступности и оптимальных цен.
-
1Google Vertex81 ₽Входящие
-
2CoreWeave80 ₽Входящие
-
3Parasail24 ₽Входящие
-
4Nebius14 ₽Входящие
-
5Groq66 ₽Входящие
-
6Together117 ₽Входящие
-
7Crusoe28 ₽Входящие
-
8AkashML22 ₽Входящие
-
9SambaNova50 ₽Входящие
-
10Cloudflare33 ₽Входящие
-
11Novita15 ₽Входящие
-
12DeepInfra11 ₽Входящие
Умная маршрутизация запросов
Ваши запросы автоматически направляются к провайдеру с самой низкой ценой. Если провайдер недоступен, система мгновенно переключается на следующего по цене, обеспечивая непрерывную работу вашего приложения без потери запросов.
- Автоматический выбор
- Отказоустойчивость
- Лучшая цена
Цены по провайдерам
RouterAI работает с несколькими провайдерами для обеспечения максимальной доступности и оптимальных цен.
-
1Google Vertex81 ₽Исходящие
-
2CoreWeave80 ₽Исходящие
-
3Parasail56 ₽Исходящие
-
4Nebius45 ₽Исходящие
-
5Groq89 ₽Исходящие
-
6Together117 ₽Исходящие
-
7Crusoe84 ₽Исходящие
-
8AkashML58 ₽Исходящие
-
9SambaNova101 ₽Исходящие
-
10Cloudflare254 ₽Исходящие
-
11Novita45 ₽Исходящие
-
12DeepInfra36 ₽Исходящие
Умная маршрутизация запросов
Ваши запросы автоматически направляются к провайдеру с самой низкой ценой. Если провайдер недоступен, система мгновенно переключается на следующего по цене, обеспечивая непрерывную работу вашего приложения без потери запросов.
- Автоматический выбор
- Отказоустойчивость
- Лучшая цена
Цены указаны в рублях и могут меняться в зависимости от курса валют
Что умеет Llama 3.3 70B Instruct
Многоязычная крупная языковая модель Meta Llama 3.3 (LLM) представляет собой предварительно обученную и настроенную на выполнение инструкций генеративную модель с параметрами 70 миллиардов (ввод текста/вывод текста). Модель Llama 3.3, настроенная на выполнение инструкций, оптимизирована для многоязычных диалоговых сценариев и превосходит многие доступные открытые и закрытые чат-модели по общепринятым отраслевым стандартам.
Поддерживаемые языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский.
API Llama 3.3 70B Instruct: подключение и примеры кода
Наш сервис предоставляет единый API, совместимый с OpenAI SDK. Просто укажите наш base_url и используйте ключ, полученный в личном кабинете.
from openai import OpenAI
client = OpenAI(
api_key="YOUR_API_KEY",
base_url="https://routerai.ru/api/v1"
)
response = client.chat.completions.create(
model="meta-llama/llama-3.3-70b-instruct",
messages=[
{"role": "user", "content": "Hello, how are you?"}
]
)
print(response.choices[0].message.content)
import requests
import json
url = "https://routerai.ru/api/v1/chat/completions"
headers = {
"Authorization": "Bearer YOUR_API_KEY",
"Content-Type": "application/json"
}
data = {
"model": "meta-llama/llama-3.3-70b-instruct",
"messages": [
{"role": "user", "content": "Hello, how are you?"}
]
}
response = requests.post(url, headers=headers, json=data)
result = response.json()
print(json.dumps(result, indent=2))
curl -X POST "https://routerai.ru/api/v1/chat/completions" \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "meta-llama/llama-3.3-70b-instruct",
"messages": [
{"role": "user", "content": "Hello, how are you?"}
]
}'
Эндпоинты API
Chat Completions
Основной эндпоинт: принимает историю сообщений и возвращает ответ модели. Поддерживает потоковый (SSE) и обычный режимы.
https://routerai.ru/api/v1/chat/completions
Поддерживаемые параметры запроса
max_tokens
temperature
top_p
seed
logprobs
top_logprobs
response_format
stop
frequency_penalty
presence_penalty
repetition_penalty
top_k
min_p
logit_bias
structured_outputs
tool_choice
tools
Responses API
Создаёт ответ в формате OpenAI Responses API — для агентных сценариев и работы с инструментами. Поддерживает потоковый и обычный режимы.
https://routerai.ru/api/v1/responses
Поддерживаемые параметры запроса
max_tokens
temperature
top_p
seed
logprobs
top_logprobs
response_format
stop
frequency_penalty
presence_penalty
repetition_penalty
top_k
min_p
logit_bias
structured_outputs
tool_choice
tools
Messages API
Создаёт сообщение в формате Anthropic Messages API. Поддерживает текст, изображения, инструменты и размышления (thinking).
https://routerai.ru/api/v1/messages
Поддерживаемые параметры запроса
max_tokens
temperature
top_p
seed
logprobs
top_logprobs
response_format
stop
frequency_penalty
presence_penalty
repetition_penalty
top_k
min_p
logit_bias
structured_outputs
tool_choice
tools