На развитие корпоративного ИИ влияет не только качество моделей, но и доступность вычислительных ресурсов. В последние годы технологическим стандартом для задач машинного обучения оставались решения NVIDIA, однако стремительный рост спроса на ИИ привел к дефициту GPU и росту стоимости оборудования, что заставило рынок активнее искать альтернативные платформы. Для России вопрос особенно актуален: обеспечение технологической независимости, включающей собственные LLM и корпоративные ИИ-сервисы, требует соответствующей вычислительной базы.
В ходе испытаний специалисты Rubytech проверили работу одной из ведущих российских LLM — Cotype 3 от MWS AI — на китайских GPU. Для этого инженеры подготовили программное окружение, которое позволило адаптировать модель под альтернативную аппаратную платформу без использования ускорителей NVIDIA. На тестах оценивались ключевые параметры работы системы при повышенной нагрузке: скорость обработки запросов, время отклика и стабильность работы при увеличении объема данных.
Модификация машины искусственного интеллекта «Скала^р» с восемью китайскими GPU показала качественную производительность, которая в наиболее распространенных сценариях инференса сопоставима с конфигурациями на базе NVIDIA H100. Отдельно исследователи оценили влияние программной оптимизации на итоговые показатели. Благодаря настройкам драйверов, программного окружения и инструментов оркестрации в отдельных сценариях удалось получить производительность вдвое выше, чем с использованием исходной программной среды для этих GPU. Использование контейнерной архитектуры дополнительно упрощает развертывание моделей и сокращает время перехода от тестирования к промышленной эксплуатации.
Возможность работать с разными аппаратными платформами снижает зависимость от одного поставщика и дает больше свободы при проектировании ИИ-систем. Связка «китайские GPU — российская платформа — отечественная LLM» становится легитимным вариантом для корпоративных внедрений: компании могут учитывать доступность оборудования, требования конкретных задач и необходимость дальнейшего масштабирования.
Отдельный вопрос — совокупная стоимость владения. Стоимость графических процессоров составляет основную долю бюджета ИИ-проектов и напрямую влияет на затраты при запуске и развитии ИИ-ландшафта, включая стоимость обработки запросов и расширение вычислительных мощностей. В отдельных сценариях сравнение конфигураций на базе китайских GPU и систем с NVIDIA H100 показывает, что альтернативная аппаратная база может быть экономически оправданным решением для корпоративных проектов и позволяет снижать совокупную стоимость владения при масштабировании ИИ-сервисов. При этом речь не идет о полном отказе от действующих технологических стеков, но для рынка критически важно использование различных вариантов оборудования в зависимости от бюджета проекта, характера задач и требований к производительности.
