Если вы ставите AI-агента для работы, рано или поздно встаёт один и тот же вопрос: держать его у себя на сервере или взять облачную подписку. Ниже — разбор по пяти критериям (приватность, стоимость, мощность модели, автономность, поддержка) и понятный порядок выбора, чтобы не переплачивать за то, что вам не нужно, и не терять данные там, где это критично.
Что такое локальный и облачный AI-агент
Локальный AI-агент — это программа, которая запускается на вашем собственном компьютере или сервере, а вся обработка запросов идёт на вашем оборудовании, поэтому данные не покидают вашу машину. Облачный AI-агент — это сервис, где вы отправляете запросы на серверы провайдера, платите за подписку или за объём использованных токенов, а железо и обновления остаются на стороне поставщика.
Это определение описывает крайние случаи. На практике встречаются гибриды: агент живёт у вас, а «мозг» (языковая модель) работает в облаке.
В Hermes Agent это два независимых выбора
Важный нюанс, который отличает Hermes Agent от чат-ботов и IDE-плагинов: здесь отдельно выбираются место для самого агента и место для языковой модели.
Где живёт агент. Hermes Agent — открытое решение (лицензия MIT), которое устанавливается на ваш Linux-сервер, macOS, Windows или в Docker-контейнер. В контейнерном варианте все пользовательские данные — конфиги, ключи, сессии, скиллы и память — лежат в одном каталоге на хосте, примонтированном внутрь контейнера как /opt/data: образ можно обновлять, не теряя настройки.
Откуда берётся модель. Агент может работать с облачным провайдером (например, подписка Nous Portal, покрывающая 300+ моделей, или свой ключ OpenRouter), а может быть подключён к локальному серверу инференса — Ollama или vLLM на вашем железе. Для Hermes Agent это переключаемая настройка, а не переустановка.
Отсюда главный практический вывод: не нужно выбирать «всё локально» или «всё в облаке». Разумная конфигурация обычно смешанная — агент со своими данными у вас, а модель под задачу.
Сравнение локального и облачного варианта по пяти критериям
| Критерий | Локально | Облако |
|---|---|---|
| Приватность | Данные не покидают вашу машину | Данные уходят на серверы провайдера |
| Стоимость | Железо, электричество, обслуживание | Подписка или оплата за токены |
| Модели | Открытые модели, которые влезают в память | Самые крупные модели провайдера |
| Автономность | Работает без интернета | Нужна связь и доступность провайдера |
| Поддержка | Обновления и драйверы на вас | Обновления делает провайдер |
Разберём каждую строку отдельно — именно из-за них чаще всего и возникают споры.
Кто видит ваши данные
Облачный сервис получает ваши запросы, вложенные документы, переписку и код. Провайдеры обычно предлагают тарифы с повышенной изоляцией данных, но сам факт передачи за пределы вашего контура остаётся.
Локальная модель не отправляет запрос наружу: файл модели лежит на диске, вычисления идут на вашем процессоре или видеокарте. Для медицинских, юридических и финансовых документов это часто не предпочтение, а требование — например, когда данные клиентов по закону нельзя выносить за периметр компании.
Но есть ловушка, о которой предупреждают в «Лаборатории Касперского»: локальный запуск агента не делает его безопасным автоматически. Агент с доступом к терминалу, файлам и почте технически может этими правами воспользоваться. Ключевые риски — не ошибка в коде, а слишком широкие права и промпт-инъекция: агент может воспринять текст с веб-страницы или из входящего сообщения как инструкцию и выполнить её. Реальные инциденты 2026 года включали случаи, когда агент сам удалял файлы или публиковал корпоративные данные.
Правильный вывод из этого не «локально безопасно, а облако нет», а «чем шире доступы, тем строже их надо ограничивать». Инструменты ограничения прав в Hermes Agent разобраны в статье Безопасность AI-агента: как Hermes защищает данные и ограничивает доступ.
Сколько это стоит на самом деле
Здесь важно не сравнивать «подписку за 20 долларов» с «бесплатно», а посчитать два разных типа расходов.
Облачный вариант — это плата за использование. По обзору PromptQuorum (август 2026), цены облачных API лежат в диапазоне примерно от 0,15 до 60 долларов за 1 млн токенов в зависимости от модели: дешёвые быстрые модели стоят копейки, флагманские — на порядок больше. Если вы обрабатываете 10 млн токенов в месяц, счёт может доходить до сотни долларов в месяц и растёт вместе с нагрузкой.
Локальный вариант — это разовая покупка плюс электричество. Стоимость одного запроса после покупки железа — ноль, ограничений по числу запросов нет. Расходы: сама машина (или апгрейд существующей), электропитание и время на обслуживание. По оценке того же обзора, локальные модели на 13B–70B уже конкурентоспособны в суммаризации, переводе и ответах на простые вопросы — а именно такие задачи и составляют основную массу ежедневной рутины.
Практическое правило: чем чаще вы гоняете агента и чем объёмнее документы, тем быстрее локальный вариант отбивает железо. Если же агент запускается несколько раз в день на коротких задачах, облачная подписка дешевле и проще. Отдельно стоит посмотреть, из чего складывается счёт именно у Hermes Agent: Сколько стоит Hermes Agent: тарифы и как платить.
Мощность: в чём облако всё ещё выигрывает
Локальная модель ограничена памятью вашей машины. По документации LM Studio (данные на октябрь 2026), для комфортной работы рекомендуются: Mac на Apple Silicon (M1 или новее) с 16 ГБ памяти или больше, Windows с процессором, поддерживающим AVX2, и видеокартой от 4 ГБ, либо Linux на x64/ARM64. На машине с 8 ГБ тоже можно работать, но с компактными моделями и небольшим контекстом.
Типичные открытые семейства моделей, которые можно скачать и запустить самому: Mistral, Llama, Gemma, Qwen и gpt-oss. У каждого своя лицензия, и перед коммерческим использованием её стоит прочитать.
Скорость: локальный инференс даёт примерно 10–120 токенов в секунду в зависимости от железа, облачный API — 50–200 токенов в секунду. Разница в скорости обычно не критична, критичнее разница в качестве на сложных задачах. Топовые модели провайдеров не скачиваются — они физически не влезают ни в одну домашнюю конфигурацию, и на сложных рассуждениях и программировании они по-прежнему выигрывают.
Простой критерий проверки: возьмите десять своих реальных задач, прогоните через локальную модель и сравните с тем, что написали бы сами. Если результат устраивает — вы экономите на токенах и держите данные у себя. Если нет — эти конкретные задачи отдавайте облачной модели.
Поддержка: что придётся делать самому
Облачный сервис обновляет модели и следит за инфраструктурой без вашего участия: вы просто получаете новую версию. Цена такой простоты — вы не выбираете, когда и что изменится, и не контролируете версию модели.
Локальный вариант эту ответственность забирает. Обновления моделей вы ставите вручную, драйверы и окружение — на вас. Но в случае Hermes Agent это не превращается в ручное администрирование ради администрирования: установка идёт скриптом или через Docker, обновления самого агента выполняет штатная команда hermes update, а среда обновляется отдельно от пакетов, которыми управляет система пакетов. Небольшой сервер с агентом в контейнере — это обслуживание уровня «раз в месяц посмотреть, всё ли живо».
Ещё одно соображение в пользу локального контура — независимость. Цены, условия и даже доступность облачного API могут измениться, а модель, один раз скачанная и протестированная, продолжает работать так, как вы её проверили. Для процесса, который не должен останавливаться (обработка заявок, отчётность), это весомый аргумент.
Что выбрать: четыре типовых сценария
Вы обрабатываете чувствительные данные. Медицина, юриспруденция, финансы, персональные данные клиентов. Здесь выигрывает локальная модель: документы не покидают ваш контур. Если объёмы большие и одной машины мало, вариант — гибрид: чувствительные задачи локально, всё остальное в облаке.
Вы используете агента интенсивно. Ежедневная массовая обработка документов, выгрузок, звонков, почты. Облачные токены начинают дорожать пропорционально объёму, а локальная модель после покупки железа не выставляет счёт за каждый запрос.
Вы экспериментируете и подбираете сценарии. Облачная подписка выигрывает: не нужно вкладываться в железо, а качество моделей максимальное именно там. Так проще понять, что вообще полезно делегировать агенту, — и только потом переносить нагруженные процессы в локальный контур.
У вас есть требования по хранению данных в России. Если персональные данные должны обрабатываться внутри вашей инфраструктуры, локальное развёртывание — это способ не решать проблему трансграничной передачи в принципе. Это не юридическая консультация: конкретный периметр согласуйте с вашим специалистом по защите данных.
Гибридный вариант: почему это чаще всего правильный ответ
Зрелые внедрения почти всегда гибридные. Схема простая:
Такая конфигурация даёт экономию на объёме, качество на сложных задачах и предсказуемую границу того, что вообще покидает вашу инфраструктуру.
Как принять решение за 15 минут
Если выбор стоит между способами установки, разбор вариантов — в статье Как установить Hermes Agent: способы и что выбрать, а пошаговая инструкция для сервера — в материале Как установить Hermes Agent на VPS.
FAQ
Локальный агент — это обязательно сложно?
Нет. Для локальной модели достаточно Ollama или LM Studio: по оценкам обзоров, настройка занимает 5–15 минут против 2–5 минут на получение облачного API-ключа. Сложность появляется позже — при обновлениях, настройке прав доступа и росте нагрузки.
Локальный агент точно безопаснее облачного?
Не автоматически. Данные действительно не уходят наружу, но риски смещаются: теперь всё зависит от того, какие права вы дали агенту. Слабые права доступа и подтверждение человеком на опасные действия значат для безопасности больше, чем место запуска.
Можно ли использовать и локальную модель, и облачную одновременно?
Да, и это самый частый рабочий вариант. В Hermes Agent провайдер модели — переключаемая настройка: агент может обращаться и к облачному сервису, и к локальному серверу инференса вроде Ollama или vLLM.
Что будет, если облачный провайдер поднимет цены или изменит условия?
Вы окажетесь в зависимости от внешнего решения. Локально скачанная модель продолжает работать в той версии, которую вы протестировали. Поэтому для процессов, которые нельзя останавливать, локальный контур или гибрид — более устойчивая схема.
Сколько запросов в месяц оправдывают покупку железа?
Универсальной цифры нет: она зависит от вашего тарифа за токены, стоимости железа и цены электричества в вашем регионе. Считать нужно так: месячные расходы на облако в текущем объёме против разовой покупки плюс несколько сотен рублей электричества в месяц. Если объём растёт, точка окупаемости приближается быстро.