Локальный AI-агент без API и подписок: как запустить на Windows

Локальный AI-агент можно запустить прямо на обычном Windows-компьютере и не платить за каждый запрос к OpenAI, DeepSeek или другому внешнему API. Модель запускается локально через Ollama, а DeepSeek Harness превращает её из обычного чата в рабочего AI-агента, который умеет читать и создавать файлы, работать с проектами, запускать команды и выполнять многошаговые задачи.

После первоначальной установки и загрузки модели основные вычисления происходят на вашем компьютере. Нет тарификации по токенам, нет необходимости арендовать VPS и нет обязательной подписки на облачную LLM. Чем больше вы используете AI, тем заметнее становится главное преимущество такой схемы: модель уже находится у вас и может работать столько, сколько позволяет ваш компьютер.

Мы практически проверили такую конфигурацию на Windows с Ollama, DeepSeek Harness и локальной моделью семейства Qwen. Ниже разберём, что она даёт, что можно поручать такому агенту и насколько сложно его запустить.

Что такое локальный AI-агент

Локальный AI-агент — это языковая модель, которая работает на вашем компьютере и получает инструменты для выполнения реальных действий. Она не ограничивается ответом в окне чата: агент может изучить рабочую папку, прочитать несколько файлов, сопоставить данные, создать новые файлы, запустить команду, проверить результат и продолжить работу.

Упрощённо архитектура выглядит так:

Вы → DeepSeek Harness → локальная модель через Ollama → файлы, команды и инструменты → готовый результат

Именно наличие рабочей среды отличает AI-агента от обычного локального чата. Подробнее сам принцип такой среды мы разбирали в статье «Agent harness: как устроена среда выполнения AI-агента».

Главное преимущество: не нужно платить за каждый запрос

При работе с большинством облачных AI-сервисов вычисления происходят на серверах провайдера. Пользователь либо платит подписку, либо оплачивает API по количеству входных и выходных токенов.

Локальная схема устроена иначе. Модель скачивается на компьютер один раз и затем использует ваши CPU, GPU и оперативную память. Сам запрос к локальной модели не создаёт отдельного счёта.

Параметр Облачный AI/API Локальный AI
Оплата каждого API-запроса Обычно есть Нет
Обязательная подписка на LLM Зависит от сервиса Не требуется
Где работает модель На серверах провайдера На вашем компьютере
Работа без интернета после загрузки модели Обычно нет Да, для локальных задач
Количество локальных запросов Зависит от тарифа Не тарифицируется по токенам
Выбор модели Из моделей сервиса Можно менять самостоятельно
Рабочие данные Передаются внешнему сервису Могут оставаться на компьютере

Это особенно интересно не для нескольких вопросов в месяц, а для постоянной работы: программирования, обработки документов, анализа файлов, экспериментов с агентами и внутренних AI-инструментов.

Это уже не просто локальный ChatGPT

Саму языковую модель можно запустить через Ollama и общаться с ней в терминале или подключить к своему приложению. Мы подробно разбирали этот слой отдельно в статье «Ollama: что это такое, чем отличается от ChatGPT и как использовать локальные модели».

Но гораздо интереснее дать модели рабочую среду. В нашей схеме эту роль выполняет DeepSeek Harness.

Обычная модель получает вопрос и формирует ответ. AI-агент получает задачу и может выполнить последовательность действий:

  1. понять цель;
  2. изучить файлы и структуру проекта;
  3. выбрать нужный инструмент;
  4. выполнить действие;
  5. прочитать полученный результат;
  6. при необходимости выполнить следующий шаг;
  7. выдать итог.

В результате запрос может выглядеть не как «расскажи, как исправить эту программу», а как «изучи проект, найди причину ошибки, исправь её, проверь результат и подготовь краткий отчёт».

Что локальный AI-агент может делать на практике

Возможности зависят от выбранной модели и подключённых инструментов, но даже относительно компактная локальная модель уже подходит для большого количества практических задач.

Работать с файлами

Агент может читать документы и исходные файлы из рабочего каталога, сопоставлять их между собой, создавать новые материалы и изменять существующие.

Например, можно дать ему папку с Markdown, JSON, CSV или исходным кодом и попросить разобраться в её содержимом целиком, а не загружать каждый файл в отдельный чат.

Работать с программным кодом

Локальный AI-агент особенно удобен как помощник разработчика. Он может изучать структуру проекта, находить нужные файлы, писать и изменять код, запускать доступные команды, читать результат выполнения и продолжать работу.

Это уже заметно ближе к формату «дай задачу», чем к классическому копированию фрагментов кода между IDE и чат-ботом.

Обрабатывать документы и данные

Можно передать агенту набор локальных документов и поставить задачу: найти нужные сведения, привести данные к единому формату, сформировать таблицу, JSON, Markdown-документ или итоговый отчёт.

Такой подход подходит для каталогов, технической документации, журналов, выгрузок, текстовых архивов и других повторяющихся материалов.

Выполнять многошаговые задачи

Сильная сторона agent harness состоит в том, что модель видит не только исходный запрос, но и результаты собственных действий. Поэтому она может строить работу как цепочку:

получить задачу → изучить материалы → выполнить действие → проверить результат → продолжить → сформировать итог.

Именно эта модель работы лежит в основе более автономных систем. Отдельный пример такого подхода есть в материале о применении Hermes Agent для автоматизации бизнеса.

Пример: от одной команды до готового результата

Представим, что в рабочей папке находится небольшой программный проект. Вместо последовательности из десятков вопросов можно поставить агенту одну общую задачу:

Изучи проект. Найди причину, по которой импорт CSV работает неправильно. Исправь код, запусти доступные тесты и подготовь краткое описание сделанных изменений.

AI-агент сначала изучает структуру проекта, затем находит связанные с импортом файлы, читает код, вносит изменения, запускает проверку и анализирует её результат.

Человек формулирует конечную цель. Harness и модель разбирают её на рабочие действия.

То же самое можно применять не только к программированию. Вместо проекта это может быть папка документов, каталог товаров, набор отчётов или рабочие материалы.

Из чего состоит локальная система

Компонент Что он делает
Ollama Скачивает и запускает AI-модель на компьютере и предоставляет локальный API
Локальная модель Анализирует задачу, генерирует ответы и при поддержке tool calling выбирает действия
DeepSeek Harness Создаёт агентную среду, Web UI, сессии, Workspace и подключает инструменты
Workspace Рабочая папка с проектом, документами или другими материалами
PowerShell / Node.js Обеспечивают системную среду для работы Harness в Windows

То есть Ollama и DeepSeek Harness не конкурируют между собой. Они выполняют разные задачи и хорошо дополняют друг друга.

Ollama запускает модель. DeepSeek Harness превращает эту модель в агента.

Что даёт Ollama

Ollama позволяет скачать совместимую модель и запускать её непосредственно на Windows, macOS или Linux. После запуска другие программы могут обращаться к модели через локальный API.

Это означает, что один и тот же локальный AI впоследствии можно использовать не только с Harness. Его можно подключать к Python-приложениям, собственным интерфейсам, автоматизациям и другим агентным средам.

Модель также легко заменить: сегодня можно начать с относительно компактной модели, а после обновления компьютера перейти на более мощную без перестройки всей архитектуры.

Что добавляет DeepSeek Harness

DeepSeek Harness — open-source agent harness от DeepSeek AI. У него есть браузерный Web UI, рабочие пространства, сессии и система инструментов. Агент может читать и изменять файлы Workspace, выполнять команды и использовать результаты этих действий в следующих шагах задачи.

Отдельный обзор интерфейса и базового устройства есть в материале «DeepSeek Harness: что это такое и как установить AI-агента».

Для локальной схемы особенно удобно, что Ollama уже имеет официальную интеграцию с DeepSeek Harness. Поэтому соединять компоненты вручную через собственный промежуточный сервер не требуется.

Какую локальную модель использовать

Начинать лучше не с самой большой модели, а с той, которая уверенно работает на имеющемся компьютере и поддерживает необходимые агенту инструменты.

Уровень Пример Для чего подходит
Компактный Модель около 4B Первое знакомство, простые тексты и базовые задачи
Практический старт Qwen класса 8B Документы, код, файлы, эксперименты с AI-агентом
Продвинутый Модель около 14B Более сложные запросы при наличии дополнительной памяти
Мощная рабочая станция Крупные coder-модели Большие проекты и сложные задачи программирования

Для первого практического запуска мы использовали qwen3:8b. Такая модель достаточно компактна, чтобы проверить всю связку Ollama + Harness на обычном компьютере, и при этом поддерживает работу с инструментами.

Нужен ли дорогой компьютер

Для первого локального AI-агента не обязательно покупать отдельный сервер или профессиональную GPU-станцию. Начать можно с существующего Windows-компьютера, подобрав размер модели под его возможности.

Проверенная нами конфигурация работала на системе примерно с 16 ГБ оперативной памяти и NVIDIA RTX 3050 с 6 ГБ VRAM. Модель использовала одновременно GPU и обычную оперативную память.

Если видеокарты нет, Ollama умеет выполнять вычисления на CPU. Если компьютер мощнее, можно переходить к более крупным моделям и получать более высокую скорость.

Главная идея проста: локальную AI-систему можно масштабировать вместе с компьютером. Для знакомства не нужно сразу покупать дорогое оборудование.

Можно ли сделать своего персонального AI-ассистента

Да. Ollama позволяет создавать собственные конфигурации моделей через Modelfile.

Можно задать:

  • системную инструкцию;
  • манеру общения;
  • рабочую терминологию;
  • размер контекста;
  • параметры генерации;
  • примеры желаемых ответов.

Например, одну и ту же базовую модель можно превратить в технического помощника, ассистента по документам или локального помощника для конкретного проекта.

При этом не требуется хранить ещё одну полноценную копию весов модели: конфигурация создаётся поверх существующей базовой модели.

Почему локальный AI особенно удобен для постоянной работы

Локальный запуск меняет саму экономику использования AI. Когда стоимость не привязана к каждому входному и выходному токену, модель можно активнее использовать для промежуточных операций.

Например, агент может многократно перечитывать файлы, классифицировать локальные данные, переделывать результат, запускать проверки и экспериментировать с разными вариантами без мысли о стоимости каждого дополнительного обращения к модели.

Это удобно для разработки, тестирования AI-агентов, внутренних инструментов и процессов с большим количеством повторяющихся запросов.

Данные могут оставаться на вашем компьютере

У локальной модели есть ещё одно практическое преимущество: запросы и рабочие файлы не требуется отправлять внешнему LLM-провайдеру.

Ollama запускает модель локально, а DeepSeek Harness может работать с локальным Workspace. В результате документы, код и результаты обработки могут оставаться внутри вашего компьютера.

Для внутренней документации, исходного кода, рабочих архивов и корпоративных материалов это может быть не менее важным преимуществом, чем отсутствие тарификации API.

Как развернуть локального AI-агента на Windows

Полная настройка состоит из нескольких этапов, но сама архитектура достаточно простая.

  1. Проверить компьютер. Посмотреть объём RAM, видеокарту и свободное место.
  2. Установить системные компоненты. Для нашей схемы используются Node.js, PowerShell 7 и Ollama.
  3. Скачать локальную модель. Для первого запуска можно использовать модель класса Qwen 8B.
  4. Проверить модель отдельно. Убедиться, что Ollama запускает её локально.
  5. Установить DeepSeek Harness. Он создаёт рабочую агентную среду.
  6. Создать Workspace. Это папка, с которой будет работать агент.
  7. Запустить интеграцию. Ollama подключает выбранную модель к Harness.
  8. Дать тестовую задачу. Например, попросить агента прочитать несколько файлов и создать новый документ.

В актуальной интеграции запуск выглядит очень коротко:

ollama launch dsh --model qwen3:8b

После запуска DeepSeek Harness открывает Web UI в браузере, а модель продолжает работать через локальный Ollama.

Что можно построить поверх этой схемы

После базового запуска локальная модель перестаёт быть просто экспериментом. Она становится одним из компонентов собственной AI-инфраструктуры.

На её основе можно постепенно собирать:

  • локального помощника программиста;
  • ассистента по внутренним документам;
  • инструмент анализа файлов и таблиц;
  • генератор и редактор рабочих материалов;
  • AI-помощника для конкретного проекта;
  • локальную базу для собственных Python- и JavaScript-приложений;
  • AI-агента с набором специализированных инструментов;
  • прототип внутренней AI-системы компании.

При необходимости локальную модель можно комбинировать с другими системами. Например, простые и массовые операции выполнять локально, а отдельные особо сложные задачи передавать более мощной модели.

Кому особенно полезен локальный AI-агент

Локальная схема особенно интересна тем, кто использует AI регулярно, а не время от времени.

Кому Что получает
Разработчику AI-агента для работы с кодом и проектами
Фрилансеру Инструмент без постоянных расходов на API
Малому бизнесу Базу для собственных внутренних AI-инструментов
Аналитику Локальную обработку файлов, таблиц и данных
Автору контента Помощника для работы с большими локальными архивами материалов
AI-разработчику Среду для экспериментов с моделями, инструментами и агентами

Сколько стоит работать с локальным AI

У локальной схемы нет счётчика токенов, который увеличивает стоимость с каждым запросом. После того как компьютер, Ollama, Harness и модель готовы, можно многократно обращаться к локальной LLM без отдельной оплаты каждого обращения.

Поэтому особенно хорошо локальный подход раскрывается там, где AI используется много: при разработке, обработке больших наборов файлов, постоянных тестах и агентных workflow.

Вместо покупки каждого следующего миллиона токенов вы используете вычислительные ресурсы, которые уже находятся на вашем столе.

Полная пошаговая установка Ollama + DeepSeek Harness на Windows

В этой статье мы специально не превращали рассказ о локальном AI в несколько экранов PowerShell-команд. Для понимания технологии достаточно знать архитектуру и основные этапы.

Для тех, кто хочет сразу повторить уже проверенную установку, мы подготовили полную пошаговую инструкцию. В ней собран весь путь от проверки компьютера до готового локального AI-агента.

В полной версии есть конкретные команды и настройки для:

  • проверки Windows, RAM, GPU и дисков;
  • установки Node.js, PowerShell и Ollama;
  • размещения моделей на нужном диске;
  • загрузки и проверки локальной модели;
  • установки и запуска DeepSeek Harness;
  • настройки Workspace;
  • подключения Ollama к Harness;
  • проверки CPU/GPU;
  • настройки контекста модели;
  • создания собственной модели через Modelfile;
  • настройки собственного пользовательского пресета;
  • создания удобного скрипта запуска;
  • диагностики типовых проблем;
  • обновления и резервного копирования конфигурации.

То есть не набор разрозненных советов, а готовая последовательность действий, фактически пройденная на Windows.

Получить полную пошаговую инструкцию по установке локального AI-агента →

Частые вопросы

Нужно ли платить за запросы к локальной модели?

Нет. Если модель запущена локально через Ollama, обращения к ней не тарифицируются по количеству токенов как запросы к внешнему API.

Нужен ли API-ключ OpenAI или DeepSeek?

Для описанной связки с локальной моделью — нет. Ollama запускает модель непосредственно на компьютере, а DeepSeek Harness подключается к ней локально.

Нужна ли мощная видеокарта?

Не обязательно. Ollama может работать и через CPU. Наличие совместимого GPU ускоряет генерацию и позволяет комфортнее использовать более крупные модели.

Можно ли использовать AI без интернета?

Да. Интернет нужен для первоначальной загрузки программ и модели. После этого локальная модель может работать офлайн, пока задача не требует обращения к внешнему сайту или онлайн-сервису.

Обязательно использовать qwen3:8b?

Нет. Это удобная стартовая модель для проверенной конфигурации. Ollama позволяет устанавливать другие совместимые модели и переключаться между ними.

Можно ли поменять модель позже?

Да. Это одно из преимуществ такой архитектуры: Ollama, Harness и Workspace остаются, а модель можно заменить на более компактную, новую или более мощную.

Можно ли настроить характер и специализацию локального ассистента?

Да. Через Ollama Modelfile и настройки агентной среды можно задавать собственную системную инструкцию, стиль, параметры модели и примеры поведения.

Чем DeepSeek Harness отличается от Ollama?

Ollama запускает саму AI-модель и предоставляет локальный API. DeepSeek Harness предоставляет модели агентную среду: Workspace, инструменты, работу с файлами, командами и многошаговыми задачами.

Источники

Ответить

Ваш адрес email не будет опубликован. Обязательные поля помечены *