起步記憶體參考

記憶體數字是包含系統與應用程式餘量的編輯估計,並非最低執行保證。文字模型按 4bit、4K–8K 輸入 token、單模型使用估算。長文件、圖片輸入與並行應用程式會增加需求。A3B 不表示整個模型僅需 3GB。

面向 Apple Silicon Mac,需要相容的文字、Whisper、圖像或影片應用程式。記憶體容量不能單獨決定速度,先在現有 Mac 上嘗試短輸入。

選擇參考
起步記憶體參考ModelFormat
16 GBQwen3.5-9B4bit / Q4_K_M
32 GBQwen3-Coder-30B-A3B-Instruct4bit / Q4_K_M
48 GBQwen3.6-35B-A3B4bit / Q4_K_M
16 GBWhisper large-v3-turboMLX / FP16
24 GBFLUX.2 [klein] 4Bdistilled / BF16 or app-supported quantization
64 GBWan2.2 TI2V-5Bapp-specific / offload