Какое железо нужно вашему ПК для запуска локальной ИИ-модели?

Скачайте Ollama или LM Studio, выберите модель — и уже через несколько минут у вас заработает локальный чат-бот. Никакой абонентской платы, работа без подключения к интернету, и ни один байт ваших данных не покидает компьютер. Но есть подвох: что именно вы сможете запустить и насколько быстро оно будет отвечать, целиком зависит от мощности вашей машины.

Обычный ПК с 16 ГБ оперативной памяти потянет относительно небольшие модели примерно с семью-восемью миллиардами параметров. Llama 3.1 8B от Meta или Qwen3 8B от Alibaba на видеокарте с 8 ГБ видеопамяти будут работать вполне быстро. Но этим моделям далеко до нынешних передовых моделей, на которых работают ChatGPT или Claude. Если хотите запустить что-то ближе к ним, понадобится минимум 32 ГБ памяти и видеокарта с 16 ГБ видеопамяти или больше, а при сегодняшних ценах это недёшево.

Объём памяти, нужный модели, растёт почти линейно с её размером, который измеряется в миллиардах параметров (B). Большинство пользователей запускают сжатые («квантованные») версии локальных моделей, в которых каждый параметр хранится примерно в четырёх битах, — это уменьшает модель примерно до четверти исходного размера. В библиотеке Ollama Llama 3.1 8B занимает 4,9 ГБ, Phi-4 от Microsoft — 9,1 ГБ, Gemma 3 27B от Google — 17 ГБ, а Llama 3.3 70B от Meta — 43 ГБ. Общее эмпирическое правило Ollama гласит: для модели 7B нужно 8 ГБ оперативной памяти, для 13B — 16 ГБ, для 33B — 32 ГБ.

У gpt-oss-20b от OpenAI 21 миллиард параметров, но для каждого токена она задействует лишь 3,6 миллиарда благодаря архитектуре, известной как «смесь экспертов». Это делает её быстрой, но модель всё равно должна помещаться в доступную память. OpenAI утверждает, что она работает «всего с 16 ГБ памяти», но при размере 14 ГБ в Ollama это почти вся память ПК на 16 ГБ.

Каждый раз, генерируя слово, а точнее токен, модель должна прочитать все свои параметры. Поэтому скорость зависит гораздо больше от пропускной способности памяти, чем от чистой вычислительной мощности. Инженеры Nvidia называют этот этап «ограниченным памятью». Видеопамять в несколько раз быстрее оперативной памяти остального компьютера, поэтому модель, которая помещается в GPU, работает намного быстрее той, что выплёскивается в системную память.

По эмпирическому правилу, всё, что выше пяти–десяти токенов в секунду, поспевает за скоростью чтения большинства людей. В тестах LMSYS видеокарта Nvidia RTX 5090 генерировала текст с помощью gpt-oss-20b от OpenAI со скоростью 205 токенов в секунду. Бенчмарки llama.cpp, в свою очередь, показывают для базового чипа Apple M4 около 24 токенов в секунду на модели 7B. Ollama измерила Nvidia DGX Spark — ПК для ИИ-разработчиков за 3 999 долларов, который Nvidia начала продавать в прошлом году: 38 токенов в секунду на Llama 3.1 8B, но всего 4,42 на версии 70B.

Я сам запускал Mistral 7B на Asus Zenbook Duo 2024 года с 32 ГБ оперативной памяти и нейропроцессором Intel AI Boost. Через Ollama Mistral загружала процессор на 52%, а потребление памяти доходило примерно до 17 ГБ. Само по себе это терпимо, но если бы параллельно работало что-то ещё ресурсоёмкое, ноутбук бы начал тормозить. При запуске через инструментарий Intel OpenVINO та же модель загружала NPU на 98%, процессор — всего на 3%, а ноутбук оставался быстрым и отзывчивым, пока модель написала 2 500 слов (бессмыслицы) примерно за три минуты.

В рейтинге Artificial Analysis за апрель 2026 года Qwen3.5 27B от китайской Alibaba набрала 42 балла по индексу интеллекта — наравне с GPT-5 от OpenAI в среднем режиме, а Gemma 4 31B от Google — 39. При этом ведущие передовые облачные модели набирали 57, а Qwen3.5 27B требует от 17 до 20 ГБ памяти, что явно больше, чем может дать ПК на 16 ГБ.

Но даже самые мощные ПК едва касаются того, что нужно для передового интеллекта. Kimi K2.6 от Moonshot — модель с триллионом параметров, входившая в число лучших моделей с открытыми весами на момент выхода в апреле 2026 года, — требует около 600 ГБ суммарной оперативной и видеопамяти для работы в 4-битном формате, по данным Unsloth, публикующей сжатые версии открытых моделей. Её преемница Kimi K3 в июле 2026 года набрала 57 баллов по индексу интеллекта Artificial Analysis, уступив лишь Claude Fable 5 от Anthropic и GPT-5.6 Sol от OpenAI. Однако при 2,8 триллиона параметров одни только её веса занимают примерно 1,4 ТБ — по оценке TECHi, они едва поместятся на сервере дата-центра с восемью GPU.

Итак, для редкого приватного пересказа или помощи с кодом без интернета ПК на 16 ГБ вполне сгодится. Для чего-то, чем вы действительно стали бы пользоваться вместо облачного чат-бота, понадобится 32 ГБ оперативной памяти или видеокарта на 16 ГБ. Один только комплект DDR5 на 32 ГБ стоит 434 доллара, согласно ценовому индексу оперативной памяти Tom’s Hardware, — это почти два года подписки ChatGPT Plus или Claude Pro за 20 долларов в месяц. А всё, что хоть сколько-нибудь приближается к передовому уровню, — задача для дата-центра.