LLM on Mac / Model
Whisper large-v3-turbo
MLX / FP16
起步記憶體參考
16 GB
逐項嘗試短任務的參考
官方約 6GB 指 GPU 記憶體,不是 Mac 總記憶體。包含系統與音訊應用程式,以 16GB 為起步參考;分段處理錄音,摘要模型另行執行。
適合嘗試的任務
將錄音轉為文字,再用 Qwen3.5-9B 等文字模型整理會議要點。
仍需檢查
說話者區分是另一功能,需檢查噪音、重疊發言與無聲時編造的文字。
使用條件
記憶體數字是包含系統與應用程式餘量的編輯估計,並非最低執行保證。文字模型按 4bit、4K–8K 輸入 token、單模型使用估算。長文件、圖片輸入與並行應用程式會增加需求。A3B 不表示整個模型僅需 3GB。
面向 Apple Silicon Mac,需要相容的文字、Whisper、圖像或影片應用程式。記憶體容量不能單獨決定速度,先在現有 Mac 上嘗試短輸入。
此模型的實測
處理時間18.17 s
字元錯誤率(CER)10.5%
峰值記憶體未測量
判定:未通過
已產生轉錄,但未滿足「十時」「三部」的完全匹配條件。此結果僅針對包含數字格式差異的一個任務,並非整體準確率;未取樣峰值記憶體。
測試條件
{
"language": "ja",
"task": "transcribe",
"temperature": 0,
"word_timestamps": false,
"model": "mlx-community/whisper-large-v3-turbo",
"revision": "a4aaeec0636e6fef84abdcbe3544cb2bf7e9f6fb",
"platform": "macOS-27.2-arm64-arm-64bit",
"input": "voice-asr-synthetic-ja-v1"
}實際轉錄
明日の会議は10時からです。資料は3部用意してください。メールはベンチマークのexample.comに送ってください。