Meta (Llama)^*

Кто это

Meta — американская технологическая компания, чьё исследовательское подразделение с 2023 года выпускает семейство языковых моделей Llama. Веса моделей публикуются для скачивания на сайте Meta и на Hugging Face. Помимо базовых моделей Meta выпускает вспомогательные — например, Llama Guard для фильтрации запросов и ответов.

Llama 4 построена на архитектуре mixture-of-experts: активной остаётся малая часть параметров, поэтому модель отвечает быстрее, чем следует из её общего размера. Maverick и Scout изначально мультимодальные и принимают текст и изображения, Scout заявлен с особенно длинным контекстом. Llama 3.1 8B Instruct остаётся компактным вариантом для диалоговых задач. Главное отличие от закрытых моделей — открытые веса и публичная лицензия: модель можно скачать, дообучить на своих данных и зафиксировать конкретную версию, а не зависеть от обновлений на стороне вендора.

Через LLMLink Llama доступна по OpenAI-совместимому API: один ключ на все модели каталога, оплата в рублях с карты или по счёту, работа без VPN и зарубежных платёжных средств. Юридическим лицам выставляется счёт и предоставляются закрывающие документы, расход по каждому ключу и модели виден в личном кабинете.

Возможности

• Открытые веса и публичная лицензия
• Текст и изображения на входе
• Длинный контекст у Llama 4 Scout
• MoE: активна малая часть параметров

Как обратиться

import OpenAI from 'openai'

const client = new OpenAI({
  apiKey: 'sk-llmlink-xxx', // ключ из кабинета LLMLink
  baseURL: 'https://get.llmlink.ru/v1',
})

const result = await client.chat.completions.create({
  model: 'meta-llama/llama-4-maverick',
  messages: [{ role: 'user', content: 'Привет!' }],
})

console.log(result.choices[0]?.message)