{"key":"model-types","locale":"ru","title":"Типы нейросетей: схема и глоссарий","url":"https://fedi.software/ru/ai/infographics/model-types","fields":[{"title":"Термин","key":"term","format":"text","visible":true,"unit":null},{"title":"Группа","key":"group","format":"badge","visible":true,"unit":null},{"title":"Что значит","key":"text","format":"text","visible":true,"unit":null},{"title":"Примеры","key":"examples","format":"list","visible":true,"unit":null}],"rows":[{"_id":"llm","term":"LLM","aka":["large language model","text model"],"group":"Тип модели","text":"Модель, которая читает и пишет текст: чат, тексты, код, анализ. Всё остальное в этом глоссарии — её разновидности или способы упаковки.","examples":[{"id":"llama-3-3-70b-instruct","text":"Llama 3.3 70B Instruct","href":"https://fedi.software/ru/ai/compare?m=llama-3-3-70b-instruct","hf":"meta-llama/Llama-3.3-70B-Instruct"},{"id":"qwen3-32b","text":"Qwen3 32B","href":"https://fedi.software/ru/ai/compare?m=qwen3-32b","hf":"Qwen/Qwen3-32B"},{"id":"mistral-small-3-2-24b-instruct","text":"Mistral Small 3.2 24B","href":"https://fedi.software/ru/ai/compare?m=mistral-small-3-2-24b-instruct","hf":"mistralai/Mistral-Small-3.2-24B-Instruct-2506"}]},{"_id":"vlm","term":"VLM","aka":["VL","vision-language","multimodal"],"group":"Тип модели","text":"LLM, которая принимает на вход ещё и картинки (скриншоты, фото, документы). Локально рядом с GGUF-весами обычно нужен второй файл — проектор зрения (mmproj).","examples":[{"id":"qwen3-vl-30b-a3b-instruct","text":"Qwen3 VL 30B A3B Instruct","href":"https://fedi.software/ru/ai/compare?m=qwen3-vl-30b-a3b-instruct","hf":"Qwen/Qwen3-VL-30B-A3B-Instruct"},{"id":"gemma-3-27b-it","text":"Gemma 3 27B","href":"https://fedi.software/ru/ai/compare?m=gemma-3-27b-it","hf":"google/gemma-3-27b-it"},{"id":"qwen2-5-vl-7b-instruct","text":"Qwen2.5-VL 7B Instruct","href":"https://fedi.software/ru/ai/compare?m=qwen2-5-vl-7b-instruct"}]},{"_id":"open-weights","term":"Open weights","aka":["open model","downloadable weights"],"group":"Открытость","text":"Веса можно скачать и запустить на своём железе — под любой лицензией: некоторые (Llama, Gemma) ограничивают коммерческое использование или требуют принять условия. Данные и код обучения обычно закрыты.","examples":[{"id":"llama-3-3-70b-instruct","text":"Llama 3.3 70B Instruct","href":"https://fedi.software/ru/ai/compare?m=llama-3-3-70b-instruct","hf":"meta-llama/Llama-3.3-70B-Instruct"},{"id":"gemma-3-27b-it","text":"Gemma 3 27B","href":"https://fedi.software/ru/ai/compare?m=gemma-3-27b-it","hf":"google/gemma-3-27b-it"},{"id":"openai-gpt-oss-120b","text":"gpt-oss-120b","href":"https://fedi.software/ru/ai/compare?m=openai-gpt-oss-120b","hf":"openai/gpt-oss-120b"}]},{"_id":"open-source-ai","term":"Open Source AI","aka":["OSAID","OSI definition"],"group":"Открытость","text":"Более строгое определение OSI (OSAID 1.0): веса плюс код обучения и достаточно сведений о данных, чтобы воспроизвести модель, — всё под открытыми лицензиями. Подходят немногие модели; веса под Apache-2.0 или MIT сами по себе — это open weights, не обязательно open source.","examples":[]},{"_id":"proprietary","term":"Proprietary (API only)","aka":["closed","API model"],"group":"Открытость","text":"Весов нет вовсе: модель работает только на серверах вендора — через приложение или платный API. Локально её не запустить.","examples":[]},{"_id":"base","term":"Base","aka":["pretrained","-Base"],"group":"Вариант","text":"«Сырая» предобученная модель: продолжает текст, но не выполняет инструкции. Основа для дообучения, а не для чата.","examples":[]},{"_id":"instruct","term":"Instruct","aka":["-it","-Chat","-Instruct"],"group":"Вариант","text":"Базовая модель, дообученная выполнять инструкции и вести диалог. Именно её берут для локального чата; у Google суффикс -it, у других -Instruct или -Chat.","examples":[{"id":"gemma-3-27b-it","text":"Gemma 3 27B","href":"https://fedi.software/ru/ai/compare?m=gemma-3-27b-it","hf":"google/gemma-3-27b-it"},{"id":"llama-3-1-8b-instruct","text":"Llama 3.1 8B Instruct","href":"https://fedi.software/ru/ai/compare?m=llama-3-1-8b-instruct","hf":"meta-llama/Meta-Llama-3.1-8B-Instruct"},{"id":"qwen3-30b-a3b-instruct-2507","text":"Qwen3 30B A3B Instruct 2507","href":"https://fedi.software/ru/ai/compare?m=qwen3-30b-a3b-instruct-2507","hf":"Qwen/Qwen3-30B-A3B-Instruct-2507"}]},{"_id":"reasoning","term":"Reasoning","aka":["Thinking","R1","-Thinking"],"group":"Вариант","text":"Обучена сначала расписывать ход рассуждений, потом отвечать. Сильнее в математике, коде и логике, но тратит гораздо больше токенов — а значит и времени — на ответ.","examples":[{"id":"deepseek-r1","text":"DeepSeek R1","href":"https://fedi.software/ru/ai/compare?m=deepseek-r1","hf":"deepseek-ai/DeepSeek-R1"},{"id":"qwen3-30b-a3b-thinking-2507","text":"Qwen3 30B A3B Thinking 2507","href":"https://fedi.software/ru/ai/compare?m=qwen3-30b-a3b-thinking-2507","hf":"Qwen/Qwen3-30B-A3B-Thinking-2507"},{"id":"kimi-k2-thinking","text":"Kimi K2 Thinking","href":"https://fedi.software/ru/ai/compare?m=kimi-k2-thinking","hf":"moonshotai/Kimi-K2-Thinking"}]},{"_id":"coder","term":"Coder","aka":["-Coder","code model"],"group":"Вариант","text":"Дообучена на исходном коде: автодополнение, рефакторинг, агентная работа в IDE. В обычном чате может уступать «родной» instruct-модели.","examples":[{"id":"qwen3-coder-30b-a3b-instruct","text":"Qwen3 Coder 30B A3B Instruct","href":"https://fedi.software/ru/ai/compare?m=qwen3-coder-30b-a3b-instruct","hf":"Qwen/Qwen3-Coder-30B-A3B-Instruct"},{"id":"qwen2-5-coder-32b-instruct","text":"Qwen2.5 Coder 32B Instruct","href":"https://fedi.software/ru/ai/compare?m=qwen2-5-coder-32b-instruct","hf":"Qwen/Qwen2.5-Coder-32B-Instruct"},{"id":"deepseek-coder-v2","text":"deepseek-coder-v2","href":"https://fedi.software/ru/ai/compare?m=deepseek-coder-v2"}]},{"_id":"distill","term":"Distill","aka":["-Distill","R1-Distill-Qwen"],"group":"Вариант","text":"Меньшая модель, обученная на ответах большой. DeepSeek-R1-Distill-Qwen-32B — это Qwen 32B, подражающий R1, а не сам R1, и он заметно слабее оригинала на 671B.","examples":[]},{"_id":"abliterated","_risk":true,"term":"Abliterated / uncensored","aka":["uncensored","abliterated","heretic"],"group":"Вариант","text":"Модификация от сообщества, у которой из весов убрано поведение отказа. Отвечает на что угодно, в том числе на вредные запросы, часто с худшим качеством и без гарантий безопасности. Только для личного и исследовательского использования; ответственность за применение — на вас.","examples":[]},{"_id":"dense","term":"Dense","aka":["dense model"],"group":"Архитектура","text":"Каждый параметр участвует в каждом токене. Скорость определяет полный размер: плотная 70B-модель читает из памяти все 70B весов на каждый сгенерированный токен.","examples":[{"id":"llama-3-3-70b-instruct","text":"Llama 3.3 70B Instruct","href":"https://fedi.software/ru/ai/compare?m=llama-3-3-70b-instruct","hf":"meta-llama/Llama-3.3-70B-Instruct"},{"id":"gemma-3-27b-it","text":"Gemma 3 27B","href":"https://fedi.software/ru/ai/compare?m=gemma-3-27b-it","hf":"google/gemma-3-27b-it"},{"id":"qwen3-32b","text":"Qwen3 32B","href":"https://fedi.software/ru/ai/compare?m=qwen3-32b","hf":"Qwen/Qwen3-32B"}]},{"_id":"moe","term":"MoE","aka":["mixture of experts"],"group":"Архитектура","text":"Слои разбиты на много «экспертов», роутер выбирает несколько на каждый токен. В памяти (VRAM + RAM) должны лежать все эксперты, но каждый токен задействует только активную часть — поэтому большая MoE работает намного быстрее плотной модели того же размера, а экспертов можно вынести в обычную RAM.","examples":[{"id":"openai-gpt-oss-120b","text":"gpt-oss-120b","href":"https://fedi.software/ru/ai/compare?m=openai-gpt-oss-120b","hf":"openai/gpt-oss-120b"},{"id":"qwen3-30b-a3b","text":"Qwen3 30B A3B","href":"https://fedi.software/ru/ai/compare?m=qwen3-30b-a3b","hf":"Qwen/Qwen3-30B-A3B"},{"id":"deepseek-r1","text":"DeepSeek R1","href":"https://fedi.software/ru/ai/compare?m=deepseek-r1","hf":"deepseek-ai/DeepSeek-R1"}]},{"_id":"active-params","term":"Active parameters (-A3B)","aka":["-A3B","-A22B","active"],"group":"Архитектура","text":"В названиях MoE суффикс показывает параметры, работающие на токен: у Qwen3-30B-A3B всего 30B, активных 3B. Память считается по полному числу, скорость — по активному.","examples":[{"id":"qwen3-30b-a3b","text":"Qwen3 30B A3B","href":"https://fedi.software/ru/ai/compare?m=qwen3-30b-a3b","hf":"Qwen/Qwen3-30B-A3B"},{"id":"qwen3-235b-a22b","text":"Qwen3 235B A22B","href":"https://fedi.software/ru/ai/compare?m=qwen3-235b-a22b","hf":"Qwen/Qwen3-235B-A22B"}]},{"_id":"safetensors","term":"Safetensors (BF16)","aka":["safetensors","BF16","FP16"],"group":"Формат файлов","text":"Исходный формат релиза на Hugging Face, обычно 16 бит на вес — около 2 ГБ на миллиард параметров. Его используют vLLM и Transformers, из него делают все квантования.","examples":[]},{"_id":"gguf","term":"GGUF","aka":[".gguf","llama.cpp"],"group":"Формат файлов","text":"Однофайловый формат llama.cpp с уже квантованными весами. Работает на CPU, GPU или на обоих сразу; его используют LM Studio, Ollama и Jan. Большие модели разбиты на части (-00001-of-00003).","examples":[]},{"_id":"gpu-formats","term":"AWQ / GPTQ / EXL2-3","aka":["AWQ","GPTQ","EXL2","EXL3"],"group":"Формат файлов","text":"Квантованные форматы для запуска только на GPU (vLLM, ExLlama, TGI). Быстрые, если модель целиком влезает в VRAM; выгрузки в RAM нет.","examples":[]},{"_id":"mlx","term":"MLX","aka":["mlx-community"],"group":"Формат файлов","text":"Фреймворк и формат весов Apple для Mac на M-чипах с общей памятью. На Mac часто чуть быстрее GGUF того же размера.","examples":[]},{"_id":"k-quants","term":"Q4_K_M and other K-quants","aka":["Q4_K_M","Q5_K_M","Q6_K","Q8_0"],"group":"Квантование","text":"Имена GGUF-квантов: число — примерно бит на вес, K — метод k-quant, S/M/L — состав смеси. Q4_K_M (≈4,8 бита) — обычный баланс; Q8_0 почти без потерь; ниже Q3 качество заметно падает.","examples":[]},{"_id":"i-quants","term":"IQ quants and Unsloth Dynamic (UD)","aka":["IQ2_XXS","IQ3_K","UD-Q2_K_XL"],"group":"Квантование","text":"Новые низкобитные методы GGUF: IQ-кванты (с матрицей важности) и Unsloth Dynamic оставляют чувствительные слои в большей точности, поэтому 2–3-битные файлы огромных моделей остаются пригодными.","examples":[{"id":"deepseek-r1","text":"DeepSeek R1","href":"https://fedi.software/ru/ai/compare?m=deepseek-r1","hf":"deepseek-ai/DeepSeek-R1"},{"id":"qwen3-235b-a22b","text":"Qwen3 235B A22B","href":"https://fedi.software/ru/ai/compare?m=qwen3-235b-a22b","hf":"Qwen/Qwen3-235B-A22B"}]},{"_id":"fp-formats","term":"FP8 / MXFP4 / NVFP4","aka":["FP8","MXFP4","NVFP4"],"group":"Квантование","text":"Низкоточные форматы с плавающей точкой, которые новые GPU поддерживают аппаратно. gpt-oss выпущены сразу в MXFP4 (≈4,25 бита на вес), поэтому gpt-oss-120b занимает около 65 ГБ.","examples":[{"id":"openai-gpt-oss-120b","text":"gpt-oss-120b","href":"https://fedi.software/ru/ai/compare?m=openai-gpt-oss-120b","hf":"openai/gpt-oss-120b"},{"id":"gpt-oss-20b","text":"gpt-oss-20b","href":"https://fedi.software/ru/ai/compare?m=gpt-oss-20b","hf":"openai/gpt-oss-20b"}]}],"meta":{"sources":[{"name":"fedi.software","url":"https://fedi.software/","license":"CC BY 4.0","license_url":"https://creativecommons.org/licenses/by/4.0/","modified":false},{"name":"Open Source Initiative (OSAID 1.0)","url":"https://opensource.org/ai/open-source-ai-definition","license":null,"license_url":null,"modified":false}],"updated":"2026-10-02","notes":[],"license":{"name":"fedi.software","license":"CC BY 4.0","url":"https://creativecommons.org/licenses/by/4.0/","scope":"fedi.software data: hardware, builds, glossary, Fit calculations, curation and the compilation; third-party data keeps the licence of its source (sources[])"},"attribution":["Data by fedi.software, CC BY 4.0 — a link to the source page is required."]}}