Whisper large-v3-turbo
MLX / FP16
- 起步記憶體參考
- 16 GB
逐項嘗試短任務的參考
官方約 6GB 指 GPU 記憶體,不是 Mac 總記憶體。包含系統與音訊應用程式,以 16GB 為起步參考;分段處理錄音,摘要模型另行執行。
把語音整理成可以輸入應用程式的文字。將 Typeless 和 Aqua Voice 納入比較,並確認各自的處理位置。
MLX / FP16
逐項嘗試短任務的參考
官方約 6GB 指 GPU 記憶體,不是 Mac 總記憶體。包含系統與音訊應用程式,以 16GB 為起步參考;分段處理錄音,摘要模型另行執行。
將錄音轉為文字,再用 Qwen3.5-9B 等文字模型整理會議要點。
說話者區分是另一功能,需檢查噪音、重疊發言與無聲時編造的文字。
記憶體數字是包含系統與應用程式餘量的編輯估計,並非最低執行保證。文字模型按 4bit、4K–8K 輸入 token、單模型使用估算。長文件、圖片輸入與並行應用程式會增加需求。A3B 不表示整個模型僅需 3GB。
面向 Apple Silicon Mac,需要相容的文字、Whisper、圖像或影片應用程式。記憶體容量不能單獨決定速度,先在現有 Mac 上嘗試短輸入。
轉錄速度受到肯定。
使用者報告無聲處編造文字及語言、錄音條件導致的精度差。VAD 可輔助,但仍需複核。
這是公開討論的定性摘要,並非代表全體使用者的調查。包含 PC 與雲端環境,不能據此推斷 Mac 速度或記憶體需求。不轉載個人資料或個別經歷。
2026-11-15,在 Mac Studio(M5 Ultra・96GB)上讓 Qwen3.6 35B-A3B 試做一次:把語音辨識結果整理成可直接輸入的文字(統一數字寫法、保留英文、不改動辨識內容)。11 項評分全部通過,耗時約 8 秒,無需人工修改。11/14 Qwen3.8 27B 也通過了同類任務。另一方面,11/6、11/8 測試的語音轉文字未通過,之後尚未再測。從語音轉文字到整理的完整流程以及記憶體用量尚未確認。
Whisper large-v3-turbo · Qwen3-ASR 1.7B · Qwen3.5 4B / 9B · Gemma 4 12B
使用相同的日語、英語和中文錄音,比較辨識錯誤、標點和專名修正、等待時間及輸入應用程式所需步驟。
分別評估語音辨識與文字整理。Mac 相容性和操作步驟仍待驗證。
Run: 20261106T212629-mac-llm-bench-a06d · Input SHA-256: 7d3514b0d992c62531467aa46b9217bef83f061f6ace8c750658b4b824616002
Mac mini M6、16 GB;mlx-whisper 0.4.3;mlx-community/whisper-large-v3-turbo(revision a4aaeec0636e6fef84abdcbe3544cb2bf7e9f6fb);日語轉錄,temperature 0。推理耗時 18.173797 秒。runner 沒有記憶體取樣器,峰值記憶體未測。
完成 1 次推理。輸入:voice-asr-synthetic-ja-v1(日語)。轉寫原文:「明日の会議は10時からです。資料は3部用意してください。メールはベンチマークのexample.comに送ってください。」CER 為 0.105263。獨立評分未通過:「十時」(十點)和「三部」(三份)與要求詞句不符。未編輯轉寫文字。
回應時間: 18.1738 秒 · CER: 0.105263 · 峰值記憶體: 暫無實測結果
先前的執行(queue 20261106T185152-mac-llm-bench-fcfa)因找不到 ffmpeg,在 4.265656 秒後停止,沒有產生轉錄。此失敗記錄仍予保留。
本固定案例記錄了一次未通過的語音辨識。包括數字正規化或文字整理在內的完整取代能力尚未驗證。下一輪應結合本次數字和專名錯誤,選擇可分別檢查辨識與後處理的任務。
Run: 20261108T115454-mac-llm-bench-5254 · Input SHA-256: 7d3514b0d992c62531467aa46b9217bef83f061f6ace8c750658b4b824616002
Mac mini、16 GB;mlx-whisper 0.4.3;mlx-community/whisper-large-v3-mlx(revision 49e6aa286ad60c14352c404340ded53710378a11);日語轉錄,temperature 0。輸入 SHA-256:7d3514b0d992c62531467aa46b9217bef83f061f6ace8c750658b4b824616002。
Queue 20261108T115454-mac-llm-bench-5254,2026-11-08 11:54:58–11:55:13 JST。轉錄:「明日の会議は10時からです。資料は3部用意してください。メールはbenchmarkのexample.comに送ってください。」適配器推論時間為 8.675082 秒。獨立評分未通過(CER 0.2631578947,超過閾值);必要詞句「十時」和「三部」不符。未修改文字。峰值記憶體未測。
另一條件的第 1 輪測試(2026-11-06,whisper-large-v3-turbo,18.173797 秒)獨立評分也未通過(CER 0.105263;兩個必要詞句不符)。該結果保存在獨立記錄中。
這項單獨 ASR 測試的失敗不能說明完整語音輸入取代能力。下一輪應根據數字與專名錯誤,選擇分別測量辨識與後處理的任務。
Run: 20261114T155631-mac-llm-bench-61fc · Input SHA-256: 41f540063da27ec8b4b8b526e25594365aea2f2c8769ce7f509108288c8546da
Mac Studio 1 號機;Qwen3.8 27B(Q4_K_M,digest aaee06c39dcf2437cde036998d960e1fc1494b8191be7cc9657d01e509097813);固定案例 voice-postprocess-001。ollama-chat 0.34.3,temperature 0、seed 42、num_ctx 4096、num_predict 512。輸入 SHA-256:41f540063da27ec8b4b8b526e25594365aea2f2c8769ce7f509108288c8546da。
Queue 20261114T155631-mac-llm-bench-61fc,2026-11-14 15:56:34–15:56:37 JST。推論耗時 3.417818 秒。獨立評分 10 項全部通過(數字漢字標準化及英文保持一致)。無人工修改。因未計裝峰值記憶體未測。單一案例不足以證明整個用途的效能合格。
第 1 輪(11/6,Whisper Turbo 未通過,18.173797 秒)與第 2 輪(11/8,Whisper Large v3 MLX 未通過,8.675082 秒)的實測仍作為獨立記錄保留。狀態維持保留(held)。
下一步包括語音辨識與後處理的綜合驗證、其他模型與多語言比較、輸入應用的流程銜接及峰值記憶體測量。
Run: 20261115T161327-mac-llm-bench-d1d1 · Input SHA-256: 182ab18da6a4e4b21ce6f80d754a774d1616d5b934ea37d01bee5a1b28a90b6d
Mac Studio 2 號機(96GB);Qwen3.6 35B-A3B(digest a7eb95c53bcf96b4bdd008d0fab4a5dac88047d9c1a7a9ab88ed453423fbd87c);固定案例 voice-postprocess-mem-001。ollama-chat 0.40.5,temperature 0、seed 42、num_ctx 4096、num_predict 512、think false、format json。輸入 SHA-256:182ab18da6a4e4b21ce6f80d754a774d1616d5b934ea37d01bee5a1b28a90b6d。
Queue 20261115T161327-mac-llm-bench-d1d1,2026-11-15 16:13:32–16:13:42 JST。推論耗時 8.363363 秒。評分器 11 項全部通過(數字漢字標準化、英文保持、辨識文字未變動)。無人工修改。記錄的峰值 46,039,040 位元組僅為 Ollama 程序的 RSS 最大值,不含模型權重,不作為有效記憶體用量,暫定為未確認。單一案例不足以證明整個用途的效能合格。
第 3 輪(11/14,Mac Studio 1 上的 Qwen3.8 27B,voice-postprocess-001,3.418 秒)作為獨立的後處理記錄保留。由於模型與機器不同,不能拿它與本輪結果比較速度或準確度。第 1 輪(11/6)和第 2 輪(11/8)的語音辨識未通過記錄也獨立保留。狀態維持保留(held)。
本輪仍未包含語音辨識(ASR)。要通過完整用途,仍需語音辨識與後處理串聯的驗證、多個固定案例、包含模型權重的峰值記憶體測量方法,以及輸入到應用程式的步驟確認。