Нейросервер в радиотехнике: локальные LLM без облака

Радиотехнические службы рано или поздно приходят к одним и тем же задачам: разбор нормативов, анализ журналов работы оборудования, поиск неисправностей по архиву, подготовка отчётности. Всё это нейросети делают быстро — но только если модель работает рядом с данными, а не в чужом облаке.

Сколько памяти нужно

Правило простое: модель должна целиком поместиться в видеопамять. Практические ориентиры: 7B-14B — 128 ГБ, 32B — 256 ГБ, 70B в квантовании — 384-512 ГБ, крупные MoE и мультимодальные модели — 1024 ГБ. Линейка AI Server Manager покрывает весь диапазон: две карты в корпусе 2U — и до 16 карт в шасси 4U.

Ускорители CMP 170HX: что это

На картах разблокирована память до 64 ГБ HBM2e — отключённые стеки вернули прошивкой. Честная цена вопроса: видеовыходов нет, хост-линк PCIe Gen1 x4, аппаратный INT8 недоступен. Для инференса языковых моделей в FP16/BF16 и квантованных форматах этого достаточно, а стоит такое решение заметно дешевле серверных карт с заводской памятью. Тесты конкретной машины — по запросу.

Запуск и обслуживание

Панель AI Server Manager идёт в комплекте: загрузка модели, запуск, мониторинг — через веб-интерфейс, выделенный ML-инженер не нужен. Платформа AMD EPYC, DDR4 ECC, NVMe, 10GbE. Сроки поставки: со склада — сразу после оплаты; под заказ — от месяца. Гарантия — по договорённости, цена фиксируется в коммерческом предложении.

Конфигурации и цены — в раздел «Серверы с ИИ» на omegasolutions.ru: https://omegasolutions.ru/products.html?subcategory_id=280.