Ir para o conteúdo
fedi.software

Tipos de modelos de IA: mapa e glossário

LLM ou VLM, pesos abertos ou código aberto, base, instruct, reasoning, destilado, MoE, GGUF e quantização — o que significam as palavras nos nomes dos modelos, com exemplos ao vivo.

Grupo O que significa Exemplos
LLMlarge language model · text model Tipo de modelo A model that reads and writes text: chat, writing, code, analysis. Everything else in this glossary is a flavour or a packaging of it.
VLMVL · vision-language · multimodal Tipo de modelo An LLM that also takes images (screenshots, photos, documents) as input. Locally it usually needs a second file — the vision projector (mmproj) — next to the GGUF weights.
Open weightsopen model · downloadable weights Abertura The weights can be downloaded and run on your own hardware, under any licence — some (Llama, Gemma) limit commercial use or require accepting terms first. Training data and code usually stay closed.
Open Source AIOSAID · OSI definition Abertura The stricter OSI definition (OSAID 1.0): weights plus the training code and enough information about the data to rebuild the model, all under open licences. Few models qualify; Apache-2.0 or MIT weights alone are open weights, not necessarily open source. —
Proprietary (API only)closed · API model Abertura No weights at all: the model runs only on the vendor's servers through an app or a paid API. It cannot be run locally. —
Basepretrained · -Base Variante The raw pretrained model: it continues text but does not follow instructions. A starting point for fine-tuning, not for chatting. —
Instruct-it · -Chat · -Instruct Variante The base model tuned to follow instructions and hold a dialogue. This is the version you want for a local chat; Google marks it -it, others -Instruct or -Chat.
ReasoningThinking · R1 · -Thinking Variante Trained to write out a chain of thought before the answer. Better at maths, code and logic, but spends many more tokens — and so more time — per reply.
Coder-Coder · code model Variante Further trained on source code: completion, refactoring, agentic coding in the IDE. General chat quality may be lower than the sibling instruct model.
Distill-Distill · R1-Distill-Qwen Variante A smaller model taught on the answers of a bigger one. DeepSeek-R1-Distill-Qwen-32B is a Qwen 32B that imitates R1 — not R1 itself, and far weaker than the 671B original. —
Abliterated / uncensoreduncensored · abliterated · heretic Sem filtros de segurança Variante A community modification with the refusal behaviour removed from the weights. It answers anything, including harmful requests, often with lower quality and no safety guarantees. For personal and research use only; you are responsible for how you use it. —
Densedense model Arquitetura Every parameter works on every token. Speed is set by the full size: a 70B dense model reads all 70B weights from memory for each generated token.
MoEmixture of experts Arquitetura The layers are split into many experts and a router picks a few of them per token. All experts must sit in memory (VRAM + RAM), but each token touches only the active part — so a big MoE runs much faster than a dense model of the same size, and the experts can be offloaded to system RAM.
Active parameters (-A3B)-A3B · -A22B · active Arquitetura In MoE names the suffix gives the parameters used per token: Qwen3-30B-A3B has 30B in total and 3B active. Memory follows the total, speed follows the active number.
Safetensors (BF16)safetensors · BF16 · FP16 Formato de arquivo The original release format on Hugging Face, usually 16 bits per weight: about 2 GB per billion parameters. Used by vLLM, Transformers and as the source for every quantisation. —
GGUF.gguf · llama.cpp Formato de arquivo A single-file format of llama.cpp with the weights already quantised. Runs on CPU, GPU or both at once; LM Studio, Ollama and Jan use it. Big models come split into parts (-00001-of-00003). —
AWQ / GPTQ / EXL2-3AWQ · GPTQ · EXL2 · EXL3 Formato de arquivo Quantised formats for GPU-only servers (vLLM, ExLlama, TGI). Fast when the whole model fits in VRAM; no offload to system RAM. —
MLXmlx-community Formato de arquivo Apple's framework and weight format for M-series Macs, using the unified memory. Often a little faster on a Mac than GGUF of the same size. —
Q4_K_M and other K-quantsQ4_K_M · Q5_K_M · Q6_K · Q8_0 Quantização GGUF quant names: the number is roughly the bits per weight, K marks the k-quant method, S/M/L the mix inside. Q4_K_M (≈4.8 bits) is the usual sweet spot; Q8_0 is almost lossless; below Q3 quality drops noticeably. —
IQ quants and Unsloth Dynamic (UD)IQ2_XXS · IQ3_K · UD-Q2_K_XL Quantização Newer low-bit GGUF methods: IQ (importance-matrix) quants and Unsloth Dynamic keep the sensitive layers at higher precision, so 2–3-bit files of huge models stay usable.
FP8 / MXFP4 / NVFP4FP8 · MXFP4 · NVFP4 Quantização Low-precision floating-point formats with hardware support in recent GPUs. gpt-oss ships natively in MXFP4 (≈4.25 bits per weight), which is why gpt-oss-120b fits in about 65 GB.

Os modelos marcados como “sem filtros de segurança” (uncensored / abliterated) são listados apenas para uso pessoal e de pesquisa: não têm restrições de segurança, e a responsabilidade pelo uso é do usuário.

Atualizado · Fontes: fedi.software (CC BY 4.0), Open Source Initiative (OSAID 1.0)

Incorporar no seu site

Cole este código onde o infográfico deve aparecer: ele se atualiza sozinho. Uso gratuito — mantenha o link de atribuição.

JSON Nossos dados: CC BY 4.0 com link para a fonte; dados de terceiros mantêm a licença da sua fonte.

Lendo o nome de um modelo, parte por parte

Nomes de modelos parecem senhas, mas costumam seguir sempre a mesma ordem:

  1. família e tamanho;
  2. num MoE, os parâmetros ativos (-A3B);
  3. a variante (-Instruct ou -it);
  4. por fim, o formato de arquivo e a quantização do download.

O glossário separa esses termos em seis grupos e liga cada um a exemplos reais na comparação de modelos: “Tipo de modelo” (LLM, VLM), “Abertura” (pesos abertos ou open weights, Open Source AI pela definição 1.0 da OSI, proprietário), “Variante” (base, Instruct, reasoning, coder, destilado, abliterated / uncensored), “Arquitetura” (denso, MoE, parâmetros ativos), “Formato de arquivo” (Safetensors, GGUF, AWQ / GPTQ / EXL, MLX) e “Quantização” (K-quants como Q4_K_M, IQ e Unsloth Dynamic, FP8 / MXFP4).

Confusões comuns

Pesos abertos não são a mesma coisa que código aberto. Os pesos podem ser baixados, mas a licença pode limitar o uso, e os dados de treino geralmente continuam fechados. Um modelo destilado é um modelo menor treinado com as respostas de outro maior, não o modelo grande em si. Na quantização, Q4_K_M é o equilíbrio usual entre tamanho e qualidade, Q8_0 quase não perde nada e abaixo de Q3 a qualidade cai de forma perceptível.

As variantes abliterated ou uncensored tiveram o comportamento de recusa removido. Elas aparecem de forma neutra, apenas para uso pessoal e de pesquisa; a responsabilidade pelo uso é do usuário, e a presença na lista não é uma recomendação.

Do glossário a um chat no seu PC

Para montar um chat local, siga esta sequência: uma variante Instruct (ou reasoning), depois a memória que você tem, uma quantização que caiba nela, o contexto de que precisa e, por último, a velocidade que considera aceitável. As duas etapas finais você confere em qual modelo aberto cabe no seu hardware. As definições se baseiam nas fichas e configurações dos modelos no Hugging Face e na documentação do llama.cpp.