Локальный AI-агент можно запустить прямо на обычном Windows-компьютере и не платить за каждый запрос к OpenAI, DeepSeek или другому внешнему API. Модель запускается локально через Ollama, а DeepSeek Harness превращает её из обычного чата в рабочего AI-агента, который умеет читать и создавать файлы, работать с проектами, запускать команды и выполнять многошаговые задачи.
После первоначальной установки и загрузки модели основные вычисления происходят на вашем компьютере. Нет тарификации по токенам, нет необходимости арендовать VPS и нет обязательной подписки на облачную LLM. Чем больше вы используете AI, тем заметнее становится главное преимущество такой схемы: модель уже находится у вас и может работать столько, сколько позволяет ваш компьютер.
Мы практически проверили такую конфигурацию на Windows с Ollama, DeepSeek Harness и локальной моделью семейства Qwen. Ниже разберём, что она даёт, что можно поручать такому агенту и насколько сложно его запустить.
Что такое локальный AI-агент
Локальный AI-агент — это языковая модель, которая работает на вашем компьютере и получает инструменты для выполнения реальных действий. Она не ограничивается ответом в окне чата: агент может изучить рабочую папку, прочитать несколько файлов, сопоставить данные, создать новые файлы, запустить команду, проверить результат и продолжить работу.
Упрощённо архитектура выглядит так:
Вы → DeepSeek Harness → локальная модель через Ollama → файлы, команды и инструменты → готовый результат
Именно наличие рабочей среды отличает AI-агента от обычного локального чата. Подробнее сам принцип такой среды мы разбирали в статье «Agent harness: как устроена среда выполнения AI-агента».
Главное преимущество: не нужно платить за каждый запрос
При работе с большинством облачных AI-сервисов вычисления происходят на серверах провайдера. Пользователь либо платит подписку, либо оплачивает API по количеству входных и выходных токенов.
Локальная схема устроена иначе. Модель скачивается на компьютер один раз и затем использует ваши CPU, GPU и оперативную память. Сам запрос к локальной модели не создаёт отдельного счёта.
| Параметр | Облачный AI/API | Локальный AI |
|---|---|---|
| Оплата каждого API-запроса | Обычно есть | Нет |
| Обязательная подписка на LLM | Зависит от сервиса | Не требуется |
| Где работает модель | На серверах провайдера | На вашем компьютере |
| Работа без интернета после загрузки модели | Обычно нет | Да, для локальных задач |
| Количество локальных запросов | Зависит от тарифа | Не тарифицируется по токенам |
| Выбор модели | Из моделей сервиса | Можно менять самостоятельно |
| Рабочие данные | Передаются внешнему сервису | Могут оставаться на компьютере |
Это особенно интересно не для нескольких вопросов в месяц, а для постоянной работы: программирования, обработки документов, анализа файлов, экспериментов с агентами и внутренних AI-инструментов.
Это уже не просто локальный ChatGPT
Саму языковую модель можно запустить через Ollama и общаться с ней в терминале или подключить к своему приложению. Мы подробно разбирали этот слой отдельно в статье «Ollama: что это такое, чем отличается от ChatGPT и как использовать локальные модели».
Но гораздо интереснее дать модели рабочую среду. В нашей схеме эту роль выполняет DeepSeek Harness.
Обычная модель получает вопрос и формирует ответ. AI-агент получает задачу и может выполнить последовательность действий:
- понять цель;
- изучить файлы и структуру проекта;
- выбрать нужный инструмент;
- выполнить действие;
- прочитать полученный результат;
- при необходимости выполнить следующий шаг;
- выдать итог.
В результате запрос может выглядеть не как «расскажи, как исправить эту программу», а как «изучи проект, найди причину ошибки, исправь её, проверь результат и подготовь краткий отчёт».
Что локальный AI-агент может делать на практике
Возможности зависят от выбранной модели и подключённых инструментов, но даже относительно компактная локальная модель уже подходит для большого количества практических задач.
Работать с файлами
Агент может читать документы и исходные файлы из рабочего каталога, сопоставлять их между собой, создавать новые материалы и изменять существующие.
Например, можно дать ему папку с Markdown, JSON, CSV или исходным кодом и попросить разобраться в её содержимом целиком, а не загружать каждый файл в отдельный чат.
Работать с программным кодом
Локальный AI-агент особенно удобен как помощник разработчика. Он может изучать структуру проекта, находить нужные файлы, писать и изменять код, запускать доступные команды, читать результат выполнения и продолжать работу.
Это уже заметно ближе к формату «дай задачу», чем к классическому копированию фрагментов кода между IDE и чат-ботом.
Обрабатывать документы и данные
Можно передать агенту набор локальных документов и поставить задачу: найти нужные сведения, привести данные к единому формату, сформировать таблицу, JSON, Markdown-документ или итоговый отчёт.
Такой подход подходит для каталогов, технической документации, журналов, выгрузок, текстовых архивов и других повторяющихся материалов.
Выполнять многошаговые задачи
Сильная сторона agent harness состоит в том, что модель видит не только исходный запрос, но и результаты собственных действий. Поэтому она может строить работу как цепочку:
получить задачу → изучить материалы → выполнить действие → проверить результат → продолжить → сформировать итог.
Именно эта модель работы лежит в основе более автономных систем. Отдельный пример такого подхода есть в материале о применении Hermes Agent для автоматизации бизнеса.
Пример: от одной команды до готового результата
Представим, что в рабочей папке находится небольшой программный проект. Вместо последовательности из десятков вопросов можно поставить агенту одну общую задачу:
Изучи проект. Найди причину, по которой импорт CSV работает неправильно. Исправь код, запусти доступные тесты и подготовь краткое описание сделанных изменений.
AI-агент сначала изучает структуру проекта, затем находит связанные с импортом файлы, читает код, вносит изменения, запускает проверку и анализирует её результат.
Человек формулирует конечную цель. Harness и модель разбирают её на рабочие действия.
То же самое можно применять не только к программированию. Вместо проекта это может быть папка документов, каталог товаров, набор отчётов или рабочие материалы.
Из чего состоит локальная система
| Компонент | Что он делает |
|---|---|
| Ollama | Скачивает и запускает AI-модель на компьютере и предоставляет локальный API |
| Локальная модель | Анализирует задачу, генерирует ответы и при поддержке tool calling выбирает действия |
| DeepSeek Harness | Создаёт агентную среду, Web UI, сессии, Workspace и подключает инструменты |
| Workspace | Рабочая папка с проектом, документами или другими материалами |
| PowerShell / Node.js | Обеспечивают системную среду для работы Harness в Windows |
То есть Ollama и DeepSeek Harness не конкурируют между собой. Они выполняют разные задачи и хорошо дополняют друг друга.
Ollama запускает модель. DeepSeek Harness превращает эту модель в агента.
Что даёт Ollama
Ollama позволяет скачать совместимую модель и запускать её непосредственно на Windows, macOS или Linux. После запуска другие программы могут обращаться к модели через локальный API.
Это означает, что один и тот же локальный AI впоследствии можно использовать не только с Harness. Его можно подключать к Python-приложениям, собственным интерфейсам, автоматизациям и другим агентным средам.
Модель также легко заменить: сегодня можно начать с относительно компактной модели, а после обновления компьютера перейти на более мощную без перестройки всей архитектуры.
Что добавляет DeepSeek Harness
DeepSeek Harness — open-source agent harness от DeepSeek AI. У него есть браузерный Web UI, рабочие пространства, сессии и система инструментов. Агент может читать и изменять файлы Workspace, выполнять команды и использовать результаты этих действий в следующих шагах задачи.
Отдельный обзор интерфейса и базового устройства есть в материале «DeepSeek Harness: что это такое и как установить AI-агента».
Для локальной схемы особенно удобно, что Ollama уже имеет официальную интеграцию с DeepSeek Harness. Поэтому соединять компоненты вручную через собственный промежуточный сервер не требуется.
Какую локальную модель использовать
Начинать лучше не с самой большой модели, а с той, которая уверенно работает на имеющемся компьютере и поддерживает необходимые агенту инструменты.
| Уровень | Пример | Для чего подходит |
|---|---|---|
| Компактный | Модель около 4B | Первое знакомство, простые тексты и базовые задачи |
| Практический старт | Qwen класса 8B | Документы, код, файлы, эксперименты с AI-агентом |
| Продвинутый | Модель около 14B | Более сложные запросы при наличии дополнительной памяти |
| Мощная рабочая станция | Крупные coder-модели | Большие проекты и сложные задачи программирования |
Для первого практического запуска мы использовали qwen3:8b. Такая модель достаточно компактна, чтобы проверить всю связку Ollama + Harness на обычном компьютере, и при этом поддерживает работу с инструментами.
Нужен ли дорогой компьютер
Для первого локального AI-агента не обязательно покупать отдельный сервер или профессиональную GPU-станцию. Начать можно с существующего Windows-компьютера, подобрав размер модели под его возможности.
Проверенная нами конфигурация работала на системе примерно с 16 ГБ оперативной памяти и NVIDIA RTX 3050 с 6 ГБ VRAM. Модель использовала одновременно GPU и обычную оперативную память.
Если видеокарты нет, Ollama умеет выполнять вычисления на CPU. Если компьютер мощнее, можно переходить к более крупным моделям и получать более высокую скорость.
Главная идея проста: локальную AI-систему можно масштабировать вместе с компьютером. Для знакомства не нужно сразу покупать дорогое оборудование.
Можно ли сделать своего персонального AI-ассистента
Да. Ollama позволяет создавать собственные конфигурации моделей через Modelfile.
Можно задать:
- системную инструкцию;
- манеру общения;
- рабочую терминологию;
- размер контекста;
- параметры генерации;
- примеры желаемых ответов.
Например, одну и ту же базовую модель можно превратить в технического помощника, ассистента по документам или локального помощника для конкретного проекта.
При этом не требуется хранить ещё одну полноценную копию весов модели: конфигурация создаётся поверх существующей базовой модели.
Почему локальный AI особенно удобен для постоянной работы
Локальный запуск меняет саму экономику использования AI. Когда стоимость не привязана к каждому входному и выходному токену, модель можно активнее использовать для промежуточных операций.
Например, агент может многократно перечитывать файлы, классифицировать локальные данные, переделывать результат, запускать проверки и экспериментировать с разными вариантами без мысли о стоимости каждого дополнительного обращения к модели.
Это удобно для разработки, тестирования AI-агентов, внутренних инструментов и процессов с большим количеством повторяющихся запросов.
Данные могут оставаться на вашем компьютере
У локальной модели есть ещё одно практическое преимущество: запросы и рабочие файлы не требуется отправлять внешнему LLM-провайдеру.
Ollama запускает модель локально, а DeepSeek Harness может работать с локальным Workspace. В результате документы, код и результаты обработки могут оставаться внутри вашего компьютера.
Для внутренней документации, исходного кода, рабочих архивов и корпоративных материалов это может быть не менее важным преимуществом, чем отсутствие тарификации API.
Как развернуть локального AI-агента на Windows
Полная настройка состоит из нескольких этапов, но сама архитектура достаточно простая.
- Проверить компьютер. Посмотреть объём RAM, видеокарту и свободное место.
- Установить системные компоненты. Для нашей схемы используются Node.js, PowerShell 7 и Ollama.
- Скачать локальную модель. Для первого запуска можно использовать модель класса Qwen 8B.
- Проверить модель отдельно. Убедиться, что Ollama запускает её локально.
- Установить DeepSeek Harness. Он создаёт рабочую агентную среду.
- Создать Workspace. Это папка, с которой будет работать агент.
- Запустить интеграцию. Ollama подключает выбранную модель к Harness.
- Дать тестовую задачу. Например, попросить агента прочитать несколько файлов и создать новый документ.
В актуальной интеграции запуск выглядит очень коротко:
ollama launch dsh --model qwen3:8b
После запуска DeepSeek Harness открывает Web UI в браузере, а модель продолжает работать через локальный Ollama.
Что можно построить поверх этой схемы
После базового запуска локальная модель перестаёт быть просто экспериментом. Она становится одним из компонентов собственной AI-инфраструктуры.
На её основе можно постепенно собирать:
- локального помощника программиста;
- ассистента по внутренним документам;
- инструмент анализа файлов и таблиц;
- генератор и редактор рабочих материалов;
- AI-помощника для конкретного проекта;
- локальную базу для собственных Python- и JavaScript-приложений;
- AI-агента с набором специализированных инструментов;
- прототип внутренней AI-системы компании.
При необходимости локальную модель можно комбинировать с другими системами. Например, простые и массовые операции выполнять локально, а отдельные особо сложные задачи передавать более мощной модели.
Кому особенно полезен локальный AI-агент
Локальная схема особенно интересна тем, кто использует AI регулярно, а не время от времени.
| Кому | Что получает |
|---|---|
| Разработчику | AI-агента для работы с кодом и проектами |
| Фрилансеру | Инструмент без постоянных расходов на API |
| Малому бизнесу | Базу для собственных внутренних AI-инструментов |
| Аналитику | Локальную обработку файлов, таблиц и данных |
| Автору контента | Помощника для работы с большими локальными архивами материалов |
| AI-разработчику | Среду для экспериментов с моделями, инструментами и агентами |
Сколько стоит работать с локальным AI
У локальной схемы нет счётчика токенов, который увеличивает стоимость с каждым запросом. После того как компьютер, Ollama, Harness и модель готовы, можно многократно обращаться к локальной LLM без отдельной оплаты каждого обращения.
Поэтому особенно хорошо локальный подход раскрывается там, где AI используется много: при разработке, обработке больших наборов файлов, постоянных тестах и агентных workflow.
Вместо покупки каждого следующего миллиона токенов вы используете вычислительные ресурсы, которые уже находятся на вашем столе.
Полная пошаговая установка Ollama + DeepSeek Harness на Windows
В этой статье мы специально не превращали рассказ о локальном AI в несколько экранов PowerShell-команд. Для понимания технологии достаточно знать архитектуру и основные этапы.
Для тех, кто хочет сразу повторить уже проверенную установку, мы подготовили полную пошаговую инструкцию. В ней собран весь путь от проверки компьютера до готового локального AI-агента.
В полной версии есть конкретные команды и настройки для:
- проверки Windows, RAM, GPU и дисков;
- установки Node.js, PowerShell и Ollama;
- размещения моделей на нужном диске;
- загрузки и проверки локальной модели;
- установки и запуска DeepSeek Harness;
- настройки Workspace;
- подключения Ollama к Harness;
- проверки CPU/GPU;
- настройки контекста модели;
- создания собственной модели через Modelfile;
- настройки собственного пользовательского пресета;
- создания удобного скрипта запуска;
- диагностики типовых проблем;
- обновления и резервного копирования конфигурации.
То есть не набор разрозненных советов, а готовая последовательность действий, фактически пройденная на Windows.
Получить полную пошаговую инструкцию по установке локального AI-агента →
Частые вопросы
Нужно ли платить за запросы к локальной модели?
Нет. Если модель запущена локально через Ollama, обращения к ней не тарифицируются по количеству токенов как запросы к внешнему API.
Нужен ли API-ключ OpenAI или DeepSeek?
Для описанной связки с локальной моделью — нет. Ollama запускает модель непосредственно на компьютере, а DeepSeek Harness подключается к ней локально.
Нужна ли мощная видеокарта?
Не обязательно. Ollama может работать и через CPU. Наличие совместимого GPU ускоряет генерацию и позволяет комфортнее использовать более крупные модели.
Можно ли использовать AI без интернета?
Да. Интернет нужен для первоначальной загрузки программ и модели. После этого локальная модель может работать офлайн, пока задача не требует обращения к внешнему сайту или онлайн-сервису.
Обязательно использовать qwen3:8b?
Нет. Это удобная стартовая модель для проверенной конфигурации. Ollama позволяет устанавливать другие совместимые модели и переключаться между ними.
Можно ли поменять модель позже?
Да. Это одно из преимуществ такой архитектуры: Ollama, Harness и Workspace остаются, а модель можно заменить на более компактную, новую или более мощную.
Можно ли настроить характер и специализацию локального ассистента?
Да. Через Ollama Modelfile и настройки агентной среды можно задавать собственную системную инструкцию, стиль, параметры модели и примеры поведения.
Чем DeepSeek Harness отличается от Ollama?
Ollama запускает саму AI-модель и предоставляет локальный API. DeepSeek Harness предоставляет модели агентную среду: Workspace, инструменты, работу с файлами, командами и многошаговыми задачами.

