32 GBに収まるローカルLLM

最新モデル61件のうち28件に、必要メモリが32 GBの85%以内の重みがあります。

GPQA Diamondとメモリの比較

OpenRouter evals, GPQA Diamond · データ日 2026-10-10

13モデル中0モデル(32 GB以内)

このメモリ容量に収まり、スコアがあるモデルはありません。

スコアはホストされたエンドポイントで測定されたため、各モデルを元の重みの必要メモリで1点ずつ表示しています。量子化ファイルは必要メモリが少なく、スコアも異なる場合があります。線はフロンティア上の点を結んだもので、点の間の結果を予測するものではありません。 Source: OpenRouter evals (openrouter.ai) via OpenRouter (openrouter.ai/rankings). openrouter.ai

モデル

28
モデル開発元パラメータ収まる最大の重みスコア
LFM3 1.7B(英語)Liquid AI1.73B1.7B Original weights · 4.1 GBFlint(英語)Recursive SI39.8BGGUF Q4_1 · 25.5 GBLFM3 Omni 2B(英語)Liquid AI2.17B2B Original weights · 5.1 GBRaon 1 Mini Preview(英語)KRAFTON28.8BMLX · 21.9 GBLFM3 VL 2B(英語)Liquid AI1.92B2B Original weights · 4.5 GBNemotron Labs Dory 1.0 4Bプレビュー(英語)NVIDIA3.98B4B Original weights BF16 · 10.2 GBGranite Switch 4.1(英語)IBM8.78B8B Original weights · 18.2 GBMiniCPM-V 4.7 35B-A3B(英語)OpenBMB35.2B35B-A3B GGUF Q5_1 · 25.5 GBNemotron 3.5 Bolt 74B-A9B(英語)NVIDIA22.4B74B-A9B Original weights · 23.0 GBMiniCPM-V 4.7 1B(英語)OpenBMB1.55B1B Original weights · 3.8 GBLensVLM 9B(英語)Apple9.41B9B Original weights · 19.1 GBMiMo V2.6(英語)Xiaomi9.41B9B Original weights · 19.1 GBFrogNano 4B(英語)Microsoft4.66B4B Original weights · 10.2 GBAstaBrief 8B SFT(英語)Ai2—8B Original weights · 16.9 GBtiny-aya Thinkerプレビュー(英語)Cohere3.35BOriginal weights · 6.8 GBGranite 4.2(英語)IBM3.66B30B GGUF Q6_K · 24.9 GBLing 3.0(英語)Ant Group inclusionAI7.89BGGUF BF16 · 16.8 GBNorth Micro Visionプレビュー(英語)Cohere2.48BOriginal weights · 6.1 GBMage-VL(英語)Microsoft4.74BOriginal weights · 11.5 GBGranite Swash(英語)IBM2.14B2B Original weights · 4.9 GBUltraX 0.6B Preview(英語)OpenBMB—0.6B Original weights · 3.9 GBGemma 4 12B(英語)Google12B12B Original weights · 25.8 GBMiniCPM5(英語)OpenBMB1.08B2B GGUF F16 · 5.6 GBBitCPM-CANN(英語)OpenBMB—8B Original weights · 16.0 GBNemotron Labs Diffusion VLMプレビュー(英語)NVIDIA8.92B8B Original weights · 18.2 GBnanowhale 100M(英語)Hugging Face110M100M Original weights · 1.0 GBNemotron Labs Diffusionプレビュー(英語)NVIDIA13.5B14B Original weights · 27.1 GBBAR(英語)Ai27.3B7B Original weights · 18.1 GB

GPQA Diamondのスコアがあるモデルを高い順に、その後は公開日の新しい順に表示します。

必要メモリが32 GBの85%以内の重みを掲載しています。各重みの後の数値は、公開元の記載値がある場合を除き、ファイルサイズ、8Kトークンのコンテキスト、実行環境用0.5 GBからの推定値です。