Один узел — фронтирная модель целиком
Сервер NVIDIA DGX B300 в вашем ЦОД плюс серверы управления, баз данных и аудита. Весь программный стек — на открытом ПО, без вендор-лока.
ускорителей в одной ноде
сверхбыстрой памяти HBM
токенов контекста Kimi K3
срок поставки — критический путь
От бетона до токенов
Наведите на юнит в стойке. Мы отвечаем не только за модели, но и за электрику, охлаждение и физическую безопасность — без этого ИИ не работает 24/7.
NVIDIA DGX B300
8 × B300 Blackwell Ultra, ≈2 ТБ HBM, NVMe, сетевые адаптеры 800G. Kimi K3 целиком в одном узле. ≈14 кВт.
Роторные ИБП N+1
Пиковая нагрузка ускорителей и длительный срок службы без замены батарей.
Охлаждение STULZ N+1
Прецизионные внутрирядные кондиционеры для стойки высокой плотности.
Газовое пожаротушение · СКУД
Подготовка помещения, усиление перекрытий, контроль доступа.
Технологическое присоединение
Технические условия с первого дня; допуск на установку — отдельная веха.
Восемь слоёв, все — открытые
| Интерфейс | Open WebUI · единый вход SSO/LDAP |
| Агенты | Hermes · MCP-коннекторы к ERP, CRM, 1С |
| Шлюз | LiteLLM: маршруты, лимиты, учёт расходов |
| Безопасность | AI Security Gateway · Qwen3Guard |
| Инференс | vLLM: Kimi K3, GLM, Qwen, DeepSeek |
| Память | Cognee · Postgres / pgvector |
| Наблюдаемость | Langfuse · Prometheus · Grafana |
| Платформа | Ubuntu Server LTS · Docker · Ansible |
Кто есть кто в вашей ИИ-фирме
Каждый компонент стека — это «сотрудник» с понятной ролью. Ссылки ведут на официальные сайты и документацию разработчиков.
Сервер-«нода» с 8 ускорителями Blackwell Ultra B300 и ≈2 ТБ памяти HBM. Фронтирная модель целиком помещается в один узел — без кластера и InfiniBand-фабрики.
Главный хаб открытых весов: Kimi (Moonshot AI), Qwen, GLM, DeepSeek. Отсюда модели скачиваются один раз и дальше живут у вас.
Высокопроизводительный движок инференса: PagedAttention, непрерывный батчинг, тензорный параллелизм по 8 GPU, OpenAI-совместимый API.
Единый шлюз к 100+ провайдерам моделей: маршруты, fallback, бюджеты и лимиты по пользователям и отделам, учёт расходов.
Открытая агентная оболочка от Nous Research: многошаговые задачи, навыки (skills), инструменты и MCP-подключения.
Наблюдаемость LLM: трассировка каждого запроса и шага агента, оценки качества, стоимость, датасеты для eval.
Память для ИИ: граф знаний + векторный индекс поверх Postgres/pgvector. Осмысляет и сжимает данные вместо «сырого» RAG.
Привычный чат-интерфейс для сотрудников с SSO/LDAP, ролями, загрузкой файлов и историей.
Модели безопасности: классификация запросов и ответов по рискам, потоковая проверка генерации.
Открытый протокол подключения моделей к данным и инструментам: ERP, CRM, 1С, почта, файлы.
Товарные знаки принадлежат их владельцам. AOS.RU не аффилирован с перечисленными компаниями; ссылки приведены как первоисточники технической информации.
Подберём конфигурацию под ваш масштаб
DGX B300 — для фронтирной модели на 1 млн токенов. Для пилота подойдут серверы среднего класса: прототипы П1–П6 работают на них уже через 2 месяца после оплаты.