Какие LLM я смогу запустить

SmolLM 135M

0.135B параметров · нужно ≈1.6 ГБ (Q4)

SmolLM 360M

0.36B параметров · нужно ≈1.7 ГБ (Q4)

Qwen2.5 0.5B

0.5B параметров · нужно ≈1.8 ГБ (Q4)

Qwen2 0.5B

0.5B параметров · нужно ≈1.8 ГБ (Q4)

Qwen1.5 0.5B

0.5B параметров · нужно ≈1.8 ГБ (Q4)

Qwen3 0.6B

0.6B параметров · нужно ≈1.8 ГБ (Q4)

Llama 3.2 1B

1B параметров · нужно ≈2.1 ГБ (Q4)

Gemma 3 1B

1B параметров · нужно ≈2.1 ГБ (Q4)

Falcon3 1B

1B параметров · нужно ≈2.1 ГБ (Q4)

OLMo 1B

1B параметров · нужно ≈2.1 ГБ (Q4)

TinyLlama 1.1B

1.1B параметров · нужно ≈2.1 ГБ (Q4)

OpenELM 1.1B

1.1B параметров · нужно ≈2.1 ГБ (Q4)

DeepSeek-Coder 1.3B

1.3B параметров · нужно ≈2.2 ГБ (Q4)

Pythia 1.4B

1.4B параметров · нужно ≈2.3 ГБ (Q4)

MobileLLaMA 1.4B

1.4B параметров · нужно ≈2.3 ГБ (Q4)

Qwen2.5 1.5B

1.5B параметров · нужно ≈2.3 ГБ (Q4)

Qwen2.5-Coder 1.5B

1.5B параметров · нужно ≈2.3 ГБ (Q4)

Qwen2 1.5B

1.5B параметров · нужно ≈2.3 ГБ (Q4)

DeepSeek-R1 Distill Qwen 1.5B

1.5B параметров · нужно ≈2.3 ГБ (Q4)

GPT-2 1.5B

1.5B параметров · нужно ≈2.3 ГБ (Q4)

StableLM 2 1.6B

1.6B параметров · нужно ≈2.4 ГБ (Q4)

Qwen3 1.7B

1.7B параметров · нужно ≈2.4 ГБ (Q4)

SmolLM 1.7B

1.7B параметров · нужно ≈2.4 ГБ (Q4)

SmolLM2 1.7B

1.7B параметров · нужно ≈2.4 ГБ (Q4)

InternLM2 1.8B

1.8B параметров · нужно ≈2.5 ГБ (Q4)

Moondream2 1.8B

1.8B параметров · нужно ≈2.5 ГБ (Q4)

Gemma 2B

2B параметров · нужно ≈2.6 ГБ (Q4)

Gemma 2 2B

2B параметров · нужно ≈2.6 ГБ (Q4)

Granite 3.0 2B

2B параметров · нужно ≈2.6 ГБ (Q4)

MiniCPM 2B

2B параметров · нужно ≈2.6 ГБ (Q4)

Phi-2 2.7B

2.7B параметров · нужно ≈3 ГБ (Q4)

Llama 3.2 3B

3B параметров · нужно ≈3.2 ГБ (Q4)

Qwen2.5 3B

3B параметров · нужно ≈3.2 ГБ (Q4)

Ministral 3B

3B параметров · нужно ≈3.2 ГБ (Q4)

Falcon3 3B

3B параметров · нужно ≈3.2 ГБ (Q4)

Stable Code 3B

3B параметров · нужно ≈3.2 ГБ (Q4)

Granite Code 3B

3B параметров · нужно ≈3.2 ГБ (Q4)

StarCoder2 3B

3B параметров · нужно ≈3.2 ГБ (Q4)

RedPajama 3B

3B параметров · нужно ≈3.2 ГБ (Q4)

OpenELM 3B

3B параметров · нужно ≈3.2 ГБ (Q4)

Phi-3 Mini 3.8B

3.8B параметров · нужно ≈3.6 ГБ (Q4)

Phi-3.5 Mini 3.8B

3.8B параметров · нужно ≈3.6 ГБ (Q4)

Phi-4 Mini 3.8B

3.8B параметров · нужно ≈3.6 ГБ (Q4)

Qwen3 4B

4B параметров · нужно ≈3.7 ГБ (Q4)

Gemma 3 4B

4B параметров · нужно ≈3.7 ГБ (Q4)

MiniCPM3 4B

4B параметров · нужно ≈3.7 ГБ (Q4)

Nemotron Mini 4B

4B параметров · нужно ≈3.7 ГБ (Q4)

Yi 6B

6B параметров · нужно ≈4.8 ГБ (Q4)

Yi 1.5 6B

6B параметров · нужно ≈4.8 ГБ (Q4)

ChatGLM3 6B

6B параметров · нужно ≈4.8 ГБ (Q4)

GPT-J 6B

6B параметров · нужно ≈4.8 ГБ (Q4)

DeepSeek-Coder 6.7B

6.7B параметров · нужно ≈5.2 ГБ (Q4)

Pythia 6.9B

6.9B параметров · нужно ≈5.3 ГБ (Q4)

Llama 2 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

Code Llama 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

Qwen2.5 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

Qwen2.5-Coder 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

Qwen2 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

Qwen2-VL 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

Qwen1.5 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

Mistral 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

Mathstral 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

Gemma 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

CodeGemma 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

Phi-3 Small 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

DeepSeek-R1 Distill Qwen 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

DeepSeek Math 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

Command-R7B 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

WizardLM-2 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

Orca 2 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

Falcon 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

Falcon3 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

OpenHermes 2.5 Mistral 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

Zephyr 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

Starling-LM 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

Neural-Chat 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

OpenChat 3.5 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

Vicuna 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

InternLM2 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

InternLM2.5 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

Baichuan2 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

OLMo 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

OLMo 2 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

MPT 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

StarCoder2 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

CodeQwen1.5 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

DeepSeek-Coder 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

RedPajama 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

XGen 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

LLaVA 1.5 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

BakLLaVA 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

Sailor 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

Saiga Mistral 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

Vikhr 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

RuadaptQwen 7B

7B параметров · нужно ≈5.4 ГБ (Q4)

Llama 3.1 8B

8B параметров · нужно ≈5.9 ГБ (Q4)

Llama 3 8B

8B параметров · нужно ≈5.9 ГБ (Q4)

Llama Guard 3 8B

8B параметров · нужно ≈5.9 ГБ (Q4)

Qwen3 8B

8B параметров · нужно ≈5.9 ГБ (Q4)

Ministral 8B

8B параметров · нужно ≈5.9 ГБ (Q4)

DeepSeek-R1 Distill Llama 8B

8B параметров · нужно ≈5.9 ГБ (Q4)

Aya 23 8B

8B параметров · нужно ≈5.9 ГБ (Q4)

Aya Expanse 8B

8B параметров · нужно ≈5.9 ГБ (Q4)

Hermes 3 Llama 8B

8B параметров · нужно ≈5.9 ГБ (Q4)

Dolphin 2.9 Llama3 8B

8B параметров · нужно ≈5.9 ГБ (Q4)

Granite 3.0 8B

8B параметров · нужно ≈5.9 ГБ (Q4)

Granite 3.1 8B

8B параметров · нужно ≈5.9 ГБ (Q4)

Granite Code 8B

8B параметров · нужно ≈5.9 ГБ (Q4)

MiniCPM-V 8B

8B параметров · нужно ≈5.9 ГБ (Q4)

Persimmon 8B

8B параметров · нужно ≈5.9 ГБ (Q4)

Fuyu 8B

8B параметров · нужно ≈5.9 ГБ (Q4)

Tulu 3 8B

8B параметров · нужно ≈5.9 ГБ (Q4)

YandexGPT 5 Lite 8B

8B параметров · нужно ≈5.9 ГБ (Q4)

T-lite 8B

8B параметров · нужно ≈5.9 ГБ (Q4)

Gemma 2 9B

9B параметров · нужно ≈6.5 ГБ (Q4)

Yi 9B

9B параметров · нужно ≈6.5 ГБ (Q4)

Yi 1.5 9B

9B параметров · нужно ≈6.5 ГБ (Q4)

Yi-Coder 9B

9B параметров · нужно ≈6.5 ГБ (Q4)

GLM-4 9B

9B параметров · нужно ≈6.5 ГБ (Q4)

Falcon3 10B

10B параметров · нужно ≈7 ГБ (Q4)

SOLAR 10.7B

10.7B параметров · нужно ≈7.4 ГБ (Q4)

Falcon2 11B

11B параметров · нужно ≈7.6 ГБ (Q4)

Llama 3.2 Vision 11B

11B параметров · нужно ≈7.6 ГБ (Q4)

Mistral NeMo 12B

12B параметров · нужно ≈8.1 ГБ (Q4)

Pixtral 12B

12B параметров · нужно ≈8.1 ГБ (Q4)

Gemma 3 12B

12B параметров · нужно ≈8.1 ГБ (Q4)

StableLM 2 12B

12B параметров · нужно ≈8.1 ГБ (Q4)

Pythia 12B

12B параметров · нужно ≈8.1 ГБ (Q4)

Llama 2 13B

13B параметров · нужно ≈8.7 ГБ (Q4)

Code Llama 13B

13B параметров · нужно ≈8.7 ГБ (Q4)

Orca 2 13B

13B параметров · нужно ≈8.7 ГБ (Q4)

Vicuna 13B

13B параметров · нужно ≈8.7 ГБ (Q4)

Baichuan2 13B

13B параметров · нужно ≈8.7 ГБ (Q4)

OLMo 2 13B

13B параметров · нужно ≈8.7 ГБ (Q4)

LLaVA 1.6 13B

13B параметров · нужно ≈8.7 ГБ (Q4)

Qwen2.5 14B

14B параметров · нужно ≈9.2 ГБ (Q4)

Qwen2.5-Coder 14B

14B параметров · нужно ≈9.2 ГБ (Q4)

Qwen3 14B

14B параметров · нужно ≈9.2 ГБ (Q4)

Qwen1.5 14B

14B параметров · нужно ≈9.2 ГБ (Q4)

Phi-3 Medium 14B

14B параметров · нужно ≈9.2 ГБ (Q4)

Phi-4 14B

14B параметров · нужно ≈9.2 ГБ (Q4)

DeepSeek-R1 Distill Qwen 14B

14B параметров · нужно ≈9.2 ГБ (Q4)

StarCoder 15B

15B параметров · нужно ≈9.8 ГБ (Q4)

StarCoder2 15B

15B параметров · нужно ≈9.8 ГБ (Q4)

WizardCoder 15B

15B параметров · нужно ≈9.8 ГБ (Q4)

DeepSeek-V2 Lite 16B

16B параметров · нужно ≈10.3 ГБ (Q4)

DeepSeek-Coder-V2 Lite 16B

16B параметров · нужно ≈10.3 ГБ (Q4)

InternLM2 20B

20B параметров · нужно ≈12.5 ГБ (Q4)

InternLM2.5 20B

20B параметров · нужно ≈12.5 ГБ (Q4)

Granite Code 20B

20B параметров · нужно ≈12.5 ГБ (Q4)

GPT-NeoX 20B

20B параметров · нужно ≈12.5 ГБ (Q4)

Mistral Small 22B

22B параметров · нужно ≈13.6 ГБ (Q4)

Codestral 22B

22B параметров · нужно ≈13.6 ГБ (Q4)

Solar Pro 22B

22B параметров · нужно ≈13.6 ГБ (Q4)

Mistral Small 3 24B

24B параметров · нужно ≈14.7 ГБ (Q4)

Magistral Small 24B

24B параметров · нужно ≈14.7 ГБ (Q4)

Mistral Small 3.1 24B

24B параметров · нужно ≈14.7 ГБ (Q4)

Gemma 2 27B

27B параметров · нужно ≈16.4 ГБ (Q4)

Gemma 3 27B

27B параметров · нужно ≈16.4 ГБ (Q4)

Qwen3 30B-A3B (MoE)

30B параметров · нужно ≈18 ГБ (Q4)

MPT 30B

30B параметров · нужно ≈18 ГБ (Q4)

Qwen2.5 32B

32B параметров · нужно ≈19.1 ГБ (Q4)

Qwen2.5-Coder 32B

32B параметров · нужно ≈19.1 ГБ (Q4)

Qwen3 32B

32B параметров · нужно ≈19.1 ГБ (Q4)

QwQ 32B

32B параметров · нужно ≈19.1 ГБ (Q4)

DeepSeek-R1 Distill Qwen 32B

32B параметров · нужно ≈19.1 ГБ (Q4)

Aya Expanse 32B

32B параметров · нужно ≈19.1 ГБ (Q4)

GLM-4 32B

32B параметров · нужно ≈19.1 ГБ (Q4)

T-pro 32B

32B параметров · нужно ≈19.1 ГБ (Q4)

DeepSeek-Coder 33B

33B параметров · нужно ≈19.7 ГБ (Q4)

Vicuna 33B

33B параметров · нужно ≈19.7 ГБ (Q4)

WizardCoder 33B

33B параметров · нужно ≈19.7 ГБ (Q4)

Code Llama 34B

34B параметров · нужно ≈20.2 ГБ (Q4)

Yi 34B

34B параметров · нужно ≈20.2 ГБ (Q4)

Yi 1.5 34B

34B параметров · нужно ≈20.2 ГБ (Q4)

Granite Code 34B

34B параметров · нужно ≈20.2 ГБ (Q4)

LLaVA 1.6 34B

34B параметров · нужно ≈20.2 ГБ (Q4)

Nous Hermes 2 Yi 34B

34B параметров · нужно ≈20.2 ГБ (Q4)

Command-R 35B

35B параметров · нужно ≈20.8 ГБ (Q4)

Aya 23 35B

35B параметров · нужно ≈20.8 ГБ (Q4)

Falcon 40B

40B параметров · нужно ≈23.5 ГБ (Q4)

Phi-3.5 MoE 42B

42B параметров · нужно ≈24.6 ГБ (Q4)

Mixtral 8x7B (47B)

47B параметров · нужно ≈27.4 ГБ (Q4)

Nous Hermes 2 Mixtral 8x7B

47B параметров · нужно ≈27.4 ГБ (Q4)

Jamba 1.5 Mini 52B

52B параметров · нужно ≈30.1 ГБ (Q4)

Llama 3.3 70B

70B параметров · нужно ≈40 ГБ (Q4)

Llama 3.1 70B

70B параметров · нужно ≈40 ГБ (Q4)

Llama 3 70B

70B параметров · нужно ≈40 ГБ (Q4)

Llama 2 70B

70B параметров · нужно ≈40 ГБ (Q4)

Code Llama 70B

70B параметров · нужно ≈40 ГБ (Q4)

DeepSeek-R1 Distill Llama 70B

70B параметров · нужно ≈40 ГБ (Q4)

Hermes 3 Llama 70B

70B параметров · нужно ≈40 ГБ (Q4)

Llama-3.1-Nemotron 70B

70B параметров · нужно ≈40 ГБ (Q4)

Tulu 3 70B

70B параметров · нужно ≈40 ГБ (Q4)

Qwen2.5 72B

72B параметров · нужно ≈41.1 ГБ (Q4)

Qwen2 72B

72B параметров · нужно ≈41.1 ГБ (Q4)

Qwen1.5 72B

72B параметров · нужно ≈41.1 ГБ (Q4)

Llama 3.2 Vision 90B

90B параметров · нужно ≈51 ГБ (Q4)

Command-R+ 104B

104B параметров · нужно ≈58.7 ГБ (Q4)

Llama 4 Scout 109B (MoE)

109B параметров · нужно ≈61.5 ГБ (Q4)

Qwen1.5 110B

110B параметров · нужно ≈62 ГБ (Q4)

Mistral Large 123B

123B параметров · нужно ≈69.2 ГБ (Q4)

DBRX 132B (MoE)

132B параметров · нужно ≈74.1 ГБ (Q4)

Mixtral 8x22B (141B)

141B параметров · нужно ≈79.1 ГБ (Q4)

WizardLM-2 8x22B

141B параметров · нужно ≈79.1 ГБ (Q4)

Dolphin 2.9 Mixtral 8x22B

141B параметров · нужно ≈79.1 ГБ (Q4)

Falcon 180B

180B параметров · нужно ≈100.5 ГБ (Q4)

Qwen3 235B-A22B (MoE)

235B параметров · нужно ≈130.8 ГБ (Q4)

DeepSeek-V2 236B

236B параметров · нужно ≈131.3 ГБ (Q4)

DeepSeek-Coder-V2 236B

236B параметров · нужно ≈131.3 ГБ (Q4)

Grok-1 314B (MoE)

314B параметров · нужно ≈174.2 ГБ (Q4)

Nemotron-4 340B

340B параметров · нужно ≈188.5 ГБ (Q4)

Jamba 1.5 Large 398B

398B параметров · нужно ≈220.4 ГБ (Q4)

Llama 4 Maverick 400B (MoE)

400B параметров · нужно ≈221.5 ГБ (Q4)

Llama 3.1 405B

405B параметров · нужно ≈224.3 ГБ (Q4)

Hermes 3 Llama 405B

405B параметров · нужно ≈224.3 ГБ (Q4)

Arctic 480B (MoE)

480B параметров · нужно ≈265.5 ГБ (Q4)

DeepSeek-V3 671B (MoE)

671B параметров · нужно ≈370.6 ГБ (Q4)

DeepSeek-R1 671B (MoE)

671B параметров · нужно ≈370.6 ГБ (Q4)