СБСбер

Кто это

GigaChat — семейство языковых моделей Сбера, публично представленное в 2023 году. Доступ для разработчиков открыт через GigaChat API на платформе Сбера для разработчиков. Это российская модель, и запросы к ней обрабатываются в России.

В семействе несколько моделей разного размера: GigaChat 2 Lite для простых повседневных задач и большого потока запросов, GigaChat 2 Pro для сложных инструкций, GigaChat 2 Max для самых требовательных сценариев. Модели работают с русским языком, распознают изображения и текст на них, поддерживают вызов функций; отдельно есть модели эмбеддингов для поиска и RAG. Их берут для поддержки клиентов, разбора документов и внутренних ассистентов.

Через LLMLink GigaChat подключается тем же ключом, что и остальные модели каталога, — заводить отдельный доступ у вендора не нужно. Оплата в рублях, без VPN; компаниям — счёт и закрывающие документы.

Возможности

• Модели российской разработки
• Три размера: Lite, Pro и Max
• Распознавание изображений и текста
• Вызов функций, эмбеддинги для RAG

Как обратиться

import OpenAI from 'openai'

const client = new OpenAI({
  apiKey: 'sk-llmlink-xxx', // ключ из кабинета LLMLink
  baseURL: 'https://get.llmlink.ru/v1',
})

const result = await client.chat.completions.create({
  model: 'sber/gigachat-2-pro',
  messages: [{ role: 'user', content: 'Привет!' }],
})

console.log(result.choices[0]?.message)