Яндекс Метрика
Открытые модели ИИ

Открытые модели на вашем железе

ИИ, который работает на вашем сервере: данные не покидают контур, нет платы за каждый запрос и зависимости от одного поставщика. Подбираем модели под ваши задачи на ваших же вопросах, считаем и помогаем закупить железо, разворачиваем и сопровождаем.

3модели в связке: эмбеддер, реранкер, языковая
6типовых задач с подобранными моделями
50-100ваших вопросов для подбора
Сервер с открытыми моделями внутри защищённого контура компании
Зачем открытые модели

Свой ИИ вместо чужого облака

Данные не покидают контур

Документы, переписка и запросы сотрудников остаются на вашем сервере. Архитектура проектируется под требования 152-ФЗ и вашей службы безопасности.

Нет платы за каждый запрос

Вы платите за железо и сопровождение, а не за токены. Чем больше сотрудников пользуются ИИ, тем дешевле каждый ответ.

Нет зависимости от поставщика

Ни лимитов, ни блокировок, ни внезапной смены цен у провайдера: модель - это файл, который остаётся у вас.

Замена без переделки

Вышла модель сильнее - меняем её. База знаний, роли и интеграции остаются, переход проверяется на ваших вопросах.

Работает изолированно

Сервер может быть полностью отключён от интернета: модели, поиск и обновления базы знаний работают внутри периметра.

Российские ОС и ПАК

Разворачиваем на Astra Linux и РЕД ОС, на российских серверах и программно-аппаратных комплексах.

Что мы предлагаем

От подбора модели до сопровождения

Каждый пункт - блок каталога Промолитика X: его можно взять отдельно или в составе конфигурации.

Все блоки открытых моделей в каталоге →

Главное из нашего опыта

Подбираем не одну модель, а связку из трёх

Качество ответов по документам больше зависит от эмбеддера, реранкера и нарезки документов, чем от самой языковой модели. Если поиск принёс не тот фрагмент, самая сильная модель уверенно ответит не то. Поэтому подбираем всю цепочку и проверяем её целиком.

Гибридный поиск на PostgreSQL с pgvector работает у наших клиентов. Подробнее о технологии: RAG базы знаний, векторизация, гибридный поиск.

Какие модели под какие задачи

Подборка на октябрь 2026

Ориентиры, с которых начинаем подбор; окончательный выбор делаем на ваших вопросах. Рейтинги разных источников противоречат друг другу, а новые версии выходят каждый месяц, поэтому у подборки есть дата: версии и лицензии проверены 12.10.2026. Лицензии MIT и Apache 2.0 разрешают коммерческое использование и поставку модели в составе вашего решения или ПАК без отчислений.

Мозг компании и ответы по документам

Связка из трёх моделей: эмбеддер находит фрагменты, реранкер выбирает лучшие, языковая модель отвечает с цитатой. Языковая модель может быть средней, если первые две подобраны верно.

Языковая модель
  • Qwen3.8-27B Apache 2.0 вход: одна видеокарта или один DGX Spark
  • GigaChat 3.5 Ultra MIT российская, 432B MoE, серверный класс
  • DeepSeek V4.1-Flash MIT контекст до 1 млн токенов
Эмбеддер
  • Qwen3-Embedding 4B / 8B Apache 2.0 мультиязычный, контекст 32K
  • BGE-M3 MIT проверенный мультиязычный
  • FRIDA, USER-bge-m3 MIT, Apache 2.0 обучены на русском
  • Giga-Embeddings 0826 MIT новые от Сбера, август 2026
Реранкер
  • Qwen3-Reranker-4B Apache 2.0 сильнее, контекст 32K
  • bge-reranker-v2-m3 Apache 2.0 лёгкий, 0,6B

Агенты, которые действуют в системах

Агенту мало ответить: он вызывает инструменты, заполняет карточки в 1С и CRM, ведёт задачу в несколько шагов. Здесь разница между моделями заметнее всего.

Модели
  • GLM-5.3 своя, на базе MIT флагман, 753B MoE, контекст 1 млн
  • GLM-5.3-Flash MIT 320B MoE, 18B активных: дешевле в работе
  • DeepSeek V4.1-Flash MIT сильна в агентных задачах и коде
  • Qwen3.8-27B Apache 2.0 вход: агенты на одной видеокарте

Русский текст: письма, ответы клиентам, маркетинг

В открытой части рейтинга MERA 2.0 (данные на 25.09.2026) впереди модели Qwen и GigaChat 3.5. Качество делового и маркетингового текста бенчмарки не меряют, поэтому проверяем на ваших письмах.

Модели
  • Qwen3.8-27B, Qwen3.6-27B Apache 2.0 сильный русский при малом размере
  • GigaChat 3.5 Ultra и Reasoning MIT российские, открытые веса
  • T-pro 2.1 Apache 2.0 Т-Банк, дообучена на русском поверх Qwen

Договоры и длинные документы

Длинный контекст нужен, когда модель должна видеть договор целиком с приложениями. Архив из тысяч документов всё равно ищется связкой поиска, а не одним длинным запросом.

Модели
  • DeepSeek V4.1-Flash MIT контекст до 1 млн токенов
  • GLM-5.3 своя, на базе MIT контекст до 1 млн токенов
  • Qwen3.8-27B Apache 2.0 262K токенов, с расширением до 1 млн

Речь, сканы и картинки, синтез речи

Звонки и совещания в текст, сканы и фотографии документов в данные, голосовые ответы. Эти модели небольшие и ставятся рядом с основной на тот же сервер.

Распознавание речи
  • GigaAM-v3 MIT Сбер, русский язык, с пунктуацией
  • T-one Apache 2.0 Т-Банк, потоковое для телефонии
  • Whisper large-v3-turbo MIT много языков
Сканы, документы, картинки
  • PaddleOCR-VL-1.6 Apache 2.0 разбор документов, 0,9B
  • GLM-OCR MIT распознавание документов, 0,9B
  • Qwen3-VL Apache 2.0 вопросы по изображениям; Qwen3.8-27B тоже понимает картинки
Синтез речи
  • Qwen3-TTS Apache 2.0 русский среди 10 языков

Русские голоса Silero v5 распространяются по некоммерческой лицензии CC BY-NC 4.0: для коммерческого использования нужна отдельная лицензия.

Классификация и извлечение полей на малом железе

Разобрать заявку по типам, достать из счёта реквизиты и суммы. Большая модель не нужна: небольшая работает быстро на одной видеокарте, а на ваших примерах её можно дообучить.

Модели
  • GigaChat 3.1 Lightning MIT 10B MoE, 1,8B активных: быстрая
  • Qwen3.8-27B Apache 2.0 когда нужно точнее и с рассуждением

Флагманы и оговорки по лицензиям

GLM-5.3своя, на базе MIT

Z.ai, 753B MoE. Облачным сервисам с выручкой группы от $10 млрд в год нужна проверка безопасности у Z.ai; для работы внутри компании ограничений нет. GLM-5.3-Flash и прошлая GLM-5.2 - под чистым MIT.

Kimi K3своя

Moonshot, 2,8T MoE: одна из сильнейших открытых моделей, но кластерного класса, железо от ~$80 тыс. Облачным сервисам с выручкой от $20 млн нужен договор, крупные продукты обязаны указывать модель; внутреннее использование свободно.

Qwen3.8 Max (2,4T)своя

Первые открытые веса Max-уровня у Qwen. Отдельная лицензия нужна облачным сервисам и рабочим ассистентам с выручкой группы от $50 млн в год, крупные продукты обязаны указывать модель. Отчислений с выручки лицензия не требует, внутреннее использование свободно.

MiMo-V2.6-ProMIT

Xiaomi, 1T MoE, сентябрь 2026: на октябрь возглавляет один из сводных рейтингов открытых моделей, в другом первой стоит Kimi K3. Русский язык в карточке модели не заявлен, перед применением проверяем на ваших задачах.

Источники: карточки моделей на Hugging Face и файлы лицензий, рейтинг MERA 2.0, сводные рейтинги открытых моделей; проверено 12.10.2026. Условия лицензий пересказаны кратко, перед поставкой фиксируем их по тексту лицензии. Подробнее о том, как выбирать модель: сравнение открытых моделей для бизнеса.

Железо

От одной видеокарты до кластера

Софт одинаковый на всех ступенях, поэтому пилот на небольшом железе честно показывает, как будет работать большое, а рост - это замена железа без переделки системы. Железо покупается под самую недорогую связку моделей, которая прошла проверку на ваших вопросах.

1
Одна видеокарта 24 ГБрабочая станция
Что тянетмодели до ~30B в сжатии: Qwen3.8-27B, GigaChat 3.1 Lightning, плюс эмбеддер и реранкер
Для когопилот, 3-10 сотрудников
Цена, ориентир~$2,2-2,7 тыс. со станцией на б/у картеоктябрь 2026
2
Один DGX Spark128 ГБ общей памяти, настольный
Что тянетMoE-модели до ~120B в 4 битах, 27B без сжатия, вся связка поиска
Для кого10-20 сотрудников
Цена, ориентир$6 950 (128 ГБ); версия 64 ГБ - $4 999 у партнёров NVIDIA с 23.10октябрь 2026
3
3-4 DGX Spark в кластере384-512 ГБ, обычная розетка
Что тянетфлагманы класса GLM-5.3 (753B) в 4 битах; на четырёх узлах - полная версия и контекст до 1 млн токенов
Для когодо 30-40 активных пользователей
Цена, ориентир~$21 тыс. (3 узла кольцом), ~$29 тыс. (4 узла с коммутатором)пересчёт по ценам октября 2026
4
Сервер с 2-4 RTX PRO 6000192-384 ГБ, для 4 карт нужна серверная
Что тянет2 карты: модели 100-300B (GLM-5.3-Flash); 4 карты: 300-550B в 4 битах (GigaChat 3.5, DeepSeek V4.1-Flash) с многопользовательской нагрузкой
Для кого100-300 сотрудников
Цена, ориентиркарта $16 тыс. по цене NVIDIA, в рознице США от ~$12 тыс.; сервер целиком считаем под задачуавгуст-октябрь 2026
5
DGX Station GB300748 ГБ, один тихий корпус
Что тянетфлагманы почти без сжатия, сотни пользователей
Для когосотни сотрудников
Цена, ориентирот ~$93-100 тыс., поставка 4-12 недельиюль 2026

Помогаем подобрать и закупить железо. Цены - ориентир на указанную дату и уточняются при расчёте: рынок дорожает, в августе и октябре 2026 NVIDIA подняла цены на RTX PRO 6000 и DGX Spark. В России железо поставляется по параллельному импорту, это обычно на 20-40% дороже цен в США. Число пользователей - консервативная оценка для работы с документами.

Как проходит подбор

Решение по замеру, а не по рейтингу

  1. Ваши вопросы. Собираем 50-100 реальных вопросов сотрудников и документы, на которых они должны отвечаться, с эталонными ответами.
  2. Прогон. Прогоняем 3-4 эмбеддера и 2 языковые модели на ваших данных. Железо для этого покупать не нужно: проверка идёт на арендованных видеокартах.
  3. Отчёт. По каждой связке: качество ответов, скорость и стоимость одного запроса на подходящем железе.
  4. Решение. Выбираете связку и железо под неё. Набор вопросов остаётся с вами и проверяет каждое следующее обновление модели.

Этапы и цены

Подбор моделей входит в обычные этапы работы, цены те же, что на странице «Стоимость».

Экспресс-разборбесплатно
Аналитика и КП1-2 недели, цена по итогам разбора
Пилот на одном процессеот 150 000 ₽, 2-4 недели
Внедрение блок за блокомот 500 000 ₽
Сопровождениеот 50 000 ₽ в месяц

Железо оплачивается отдельно по смете поставщика. Как устроены варианты контура: облако, свой сервер или ПАК; как открытые модели работают в мозге компании.

Частые вопросы

Можно ли использовать российские модели?

Да. Открытые веса GigaChat 3.5 и 3.1 (лицензия MIT) и T-pro 2.1 от Т-Банка (Apache 2.0) работают на вашем сервере, их можно сочетать с Qwen и DeepSeek. Облачные GigaChat и YandexGPT подключаем в гибридной схеме для задач без чувствительных данных.

Китайская модель не отправит данные наружу?

Открытая модель - это файл весов, который работает на вашем сервере. Запросы никуда не уходят, сервер можно полностью изолировать от интернета. Лицензию каждой модели проверяем и фиксируем в документации решения.

Что выбрать: модель или железо?

Сначала модель. Железо покупается под самую недорогую связку моделей, которая проходит проверку на ваших вопросах, а не наоборот. Проверить можно до покупки, на арендованных видеокартах.

Что с требованиями к защите данных?

Архитектура проектируется под требования 152-ФЗ и вашей службы безопасности: контур, роли и доступы, обезличивание персональных данных до индексации, журнал запросов.

  • Бесплатный экспресс-разбор
  • Оптимальная конфигурация
  • Типовые блоки с ценой и сроком
  • Открытые модели на вашем железе
  • Эффект в рублях каждый месяц

Начните с бесплатного экспресс-разбора

Покажем, где в вашей компании уходят часы и деньги, назовём 3-5 процессов, где ИИ даст наибольший эффект, и предложим предварительную конфигурацию из типовых блоков с вилкой бюджета

Бесплатный экспресс-разбор
Без обязательств
Рост показателей
Алексей Шортов Контент подготовлен под руководством , основателя Промолитики
Последнее обновление: