Инфраструктура

На чём работает ИИ-проект

За любым ботом, агентом или видеосервисом стоит скучная часть – где всё это крутится. От неё зависит больше, чем кажется: сколько проект стоит в месяц, насколько он быстрый, где лежат данные и что будет, если поставщик завтра поменяет правила.

Вариантов по сути четыре: бесплатные платформы для небольших задач, арендованный виртуальный сервер, собственное железо и чужая платформа по подписке. У каждого своё место, и ошибка в выборе обычно обнаруживается через полгода – счётом или ограничением, которое не обойти.

Бесплатные платформы: когда ноль рублей в месяц – это реально

Для небольших ботов и сервисов с понятной нагрузкой есть бесплатные тарифы облачных платформ: функции, которые запускаются на каждый запрос, и маленькие базы. Бот в Telegram, который проверяет оплату и выдаёт доступ в закрытый канал, спокойно живёт на таком тарифе годами.

Ограничения понятны заранее: лимиты на число запросов, время выполнения и объём данных. Пока проект в них помещается, платить не за что. Когда перестаёт – переезд на сервер несложный, если код с самого начала не завязан намертво на одну платформу.

Свой виртуальный сервер: рабочий вариант по умолчанию

Для большинства бизнес-ботов, ассистентов и интеграций с CRM достаточно обычного VPS. У российских облачных провайдеров сервер на 2 ядра и 4 ГБ памяти стоит около тысячи рублей в месяц, на 4 ядра и 8 ГБ – около двух тысяч.

На таком сервере живут сам ассистент, база переписки, мост к мессенджерам и CRM, панель настроек. Нейросеть при этом работает у поставщика по API – сервер её не считает, а только отправляет запросы.

Главное преимущество своего сервера – контроль. Данные лежат у вас, код ваш, правила меняете вы. Поставщик модели заменяется одной строкой в настройках, а переезд к другому хостингу занимает день, а не проект.

вариант	расходы в месяц	кому подходит
бесплатная платформа	0 ₽ в пределах лимитов	небольшие боты с понятной нагрузкой
VPS 2–4 ядра	около 1–2 тыс. ₽	ассистенты, интеграции с CRM, панели
сервер с GPU	от десятков тысяч ₽	свои модели, распознавание речи и изображений на месте
платформа по подписке	абонентская плата или оплата за диалог	типовые сценарии без своей логики

Когда нужен сервер с видеокартой?

Когда модель должна работать у вас, а не у поставщика. Это распознавание речи на месте, распознавание лиц без отправки кадров наружу, открытые языковые модели в закрытом контуре.

Видеокарта нужна не для скорости «вообще», а под конкретную модель: объём её памяти должен вмещать веса модели. Большие открытые модели занимают десятки гигабайт даже в сжатом виде, и под них выбирают карту, а не наоборот.

Аренда сервера с GPU обходится в десятки тысяч рублей в месяц, поэтому считать её стоит против альтернативы: сколько стоили бы те же задачи через облачное API. Для постоянной большой нагрузки и строгих требований к данным своё железо выигрывает, для эпизодической – почти никогда.

Открытые модели на своём сервере

Открытые модели можно скачать и запустить у себя, без отправки данных поставщику. Многие из них распространяются под свободными лицензиями, которые разрешают коммерческое использование.

Важная деталь – разница между базовой моделью и моделью для диалога. Базовая модель обучена продолжать текст, но не обучена вести разговор и следовать инструкциям. Прежде чем ставить такую модель к клиентам, её дообучают на своих примерах или берут готовую версию для диалога.

Отдельно считают память. У моделей со схемой «смесь экспертов» на каждом шаге работает небольшая часть параметров – они отвечают быстро. Но загрузить в память нужно модель целиком, и требования к серверу определяет полный размер, а не число активных параметров.

Своё видео, свои звонки, свои данные

Инфраструктура – это не только нейросети. Видеоконференции, телефония, хранение записей тоже можно держать у себя. Свой сервер видеосвязи создаёт комнаты через API и не зависит от чужих тарифов и ограничений по времени встречи.

То же с распознаванием речи: модель на своём сервере разбирает записи разговоров без отправки аудио наружу. Для отделов продаж и поддержки, где в разговорах звучат персональные данные, это снимает вопрос, куда уходят записи.

Где ломается инфраструктура ИИ-проекта

Сеть до поставщика. Если модель или реестр пакетов доступны нестабильно, ломается не код, а сборка и ответы. Запасной поставщик модели и повторы запросов закладывают с самого начала.

Место на диске. Журналы, кеши сборки и старые образы контейнеров растут незаметно. Их чистят по расписанию, а журналы ограничивают по размеру.

Резервные копии. Копия, которая лежит на том же сервере или в открытой папке сайта, – не копия. Её хранят отдельно и проверяют, что из неё реально можно восстановиться.

Один сервер на всё. Когда на одной машине живут десять проектов, падение одного тянет остальные. Критичные сервисы разносят или хотя бы изолируют в контейнерах.

Как выбрать хостинг под ИИ-проект

Первое – где физически стоят серверы. Если в проекте персональные данные граждан России, базы должны быть в России, и это сразу сужает выбор до российских провайдеров.

Второе – предсказуемость. Тариф с фиксированной ценой за ядра и память проще планировать, чем оплата за каждую операцию. Для ботов и интеграций с CRM фиксированный VPS почти всегда выгоднее.

Третье – выход наружу. Серверу нужен стабильный доступ к API модели, мессенджерам и CRM. У некоторых площадок бывают проблемы с доступом к отдельным зарубежным сервисам, и это стоит проверить до переезда, а не после.

Четвёртое – резервные копии и снимки диска. Возможность откатить сервер к вчерашнему состоянию стоит копейки и спасает от ошибки обновления.

Из чего складываются расходы на инфраструктуру бота

Для типичного бизнес-ассистента картина простая. Сервер – около тысячи–двух тысяч рублей в месяц у российского облака. Модель – по токенам у поставщика, для небольшого бизнеса обычно несколько тысяч рублей в месяц. Домен и сертификат – копейки в пересчёте на месяц.

Дороже всего не железо, а время на поддержку: обновления, реакция на изменения в API мессенджеров и CRM, доработки под новые задачи. Поэтому инфраструктуру проектируют так, чтобы её было легко обслуживать: всё в контейнерах, настройки в одном месте, развёртывание одной командой.

Свой сервер с видеокартой меняет картину на порядок – от десятков тысяч рублей в месяц. Его закладывают, только когда без него нельзя: модель должна работать внутри периметра или нагрузка постоянная и большая.

Контейнеры и порядок на сервере

Каждый сервис проекта – ассистент, база, мост к мессенджерам, панель – живёт в своём контейнере. Контейнер описан файлом, поэтому его можно пересобрать с нуля, перенести на другой сервер или откатить к прошлой версии без ручной настройки.

Секреты – ключи API и пароли – подаются в контейнер через переменные окружения, а не лежат в коде. Снаружи открыт только веб-сервер с сертификатом, всё остальное доступно лишь внутри сервера. Журналы контейнеров ограничивают по размеру, чтобы они не съели диск.

Такой порядок окупается в первый же неприятный день: когда сервер нужно срочно сменить или обновление что-то сломало, восстановление занимает часы, а не недели разбирательства, что и где было настроено.

Вопросы и ответы