Whisper large-v3-turbo
MLX / FP16
- 起步内存参考
- 16 GB
逐项尝试短任务的参考
官方约 6GB 指 GPU 内存,不是 Mac 总内存。包含系统与音频应用,以 16GB 为起步参考;分段处理录音,摘要模型另行运行。
把语音整理成可以输入应用的文本。将 Typeless 和 Aqua Voice 纳入对比,并确认各自的处理位置。
MLX / FP16
逐项尝试短任务的参考
官方约 6GB 指 GPU 内存,不是 Mac 总内存。包含系统与音频应用,以 16GB 为起步参考;分段处理录音,摘要模型另行运行。
将录音转为文字,再用 Qwen3.5-9B 等文本模型整理会议要点。
说话人区分是另一功能,需检查噪声、重叠发言和无声时编造的文字。
内存数字是包含系统和应用余量的编辑估计,并非最低运行保证。文本模型按 4bit、4K–8K 输入 token、单模型使用估算。长文档、图片输入与并行应用会增加需求。A3B 不表示整个模型仅需 3GB。
面向 Apple Silicon Mac,需要兼容的文本、Whisper、图像或视频应用。内存容量不能单独决定速度,先在现有 Mac 上尝试短输入。
转录速度受到肯定。
用户报告无声处编造文字及语言、录音条件导致的精度差。VAD 可辅助,但仍需复核。
这是公开讨论的定性摘要,并非代表全体用户的调查。包含 PC 与云端环境,不能据此推断 Mac 速度或内存需求。不转载个人资料或个别经历。
2026-11-15,在 Mac Studio(M5 Ultra・96GB)上让 Qwen3.6 35B-A3B 试做一次:把语音识别结果整理成可直接输入的文字(统一数字写法、保留英文、不改动识别内容)。11 项评分全部通过,耗时约 8 秒,无需人工修改。11/14 Qwen3.8 27B 也通过了同类任务。另一方面,11/6、11/8 测试的语音转文字未通过,之后尚未再测。从语音转文字到整理的完整流程以及内存占用尚未确认。
Whisper large-v3-turbo · Qwen3-ASR 1.7B · Qwen3.5 4B / 9B · Gemma 4 12B
使用相同的日语、英语和中文录音,比较识别错误、标点和专名修正、等待时间及输入应用所需步骤。
分别评估语音识别与文本整理。Mac 兼容性和操作步骤仍待验证。
Run: 20261106T212629-mac-llm-bench-a06d · Input SHA-256: 7d3514b0d992c62531467aa46b9217bef83f061f6ace8c750658b4b824616002
Mac mini M6、16 GB;mlx-whisper 0.4.3;mlx-community/whisper-large-v3-turbo(revision a4aaeec0636e6fef84abdcbe3544cb2bf7e9f6fb);日语转写,temperature 0。推理耗时 18.173797 秒。runner 没有内存采样器,峰值内存未测。
完成 1 次推理。输入:voice-asr-synthetic-ja-v1(日语)。转写原文:「明日の会議は10時からです。資料は3部用意してください。メールはベンチマークのexample.comに送ってください。」CER 为 0.105263。独立评分未通过:「十時」(十点)和「三部」(三份)与要求短语不匹配。未编辑转写文本。
响应时间: 18.1738 秒 · CER: 0.105263 · 峰值内存: 暂无实测结果
此前的运行(queue 20261106T185152-mac-llm-bench-fcfa)因找不到 ffmpeg,在 4.265656 秒后停止,没有生成转写。此失败记录仍予保留。
本固定案例记录了一次未通过的语音识别。包括数字规范化或文本整理在内的完整替代能力尚未验证。下一轮应结合本次数字和专名错误,选择可分别检查识别与后处理的任务。
Run: 20261108T115454-mac-llm-bench-5254 · Input SHA-256: 7d3514b0d992c62531467aa46b9217bef83f061f6ace8c750658b4b824616002
Mac mini、16 GB;mlx-whisper 0.4.3;mlx-community/whisper-large-v3-mlx(revision 49e6aa286ad60c14352c404340ded53710378a11);日语转写,temperature 0。输入 SHA-256:7d3514b0d992c62531467aa46b9217bef83f061f6ace8c750658b4b824616002。
Queue 20261108T115454-mac-llm-bench-5254,2026-11-08 11:54:58–11:55:13 JST。转写:“明日の会議は10時からです。資料は3部用意してください。メールはbenchmarkのexample.comに送ってください。”适配器推理时间为 8.675082 秒。独立评分未通过(CER 0.2631578947,超过阈值);必需短语“十時”和“三部”不匹配。未修改文字。峰值内存未测。
另一个条件的第 1 轮测试(2026-11-06,whisper-large-v3-turbo,18.173797 秒)独立评分也未通过(CER 0.105263;两个必需短语不匹配)。该结果保存在单独记录中。
这项单独 ASR 测试的失败不能说明完整语音输入替代能力。下一轮应根据数字和专名错误,选择分别测量识别与后处理的任务。
Run: 20261114T155631-mac-llm-bench-61fc · Input SHA-256: 41f540063da27ec8b4b8b526e25594365aea2f2c8769ce7f509108288c8546da
Mac Studio 1 号机;Qwen3.8 27B(Q4_K_M,digest aaee06c39dcf2437cde036998d960e1fc1494b8191be7cc9657d01e509097813);固定案例 voice-postprocess-001。ollama-chat 0.34.3,temperature 0、seed 42、num_ctx 4096、num_predict 512。输入 SHA-256:41f540063da27ec8b4b8b526e25594365aea2f2c8769ce7f509108288c8546da。
Queue 20261114T155631-mac-llm-bench-61fc,2026-11-14 15:56:34–15:56:37 JST。推理耗时 3.417818 秒。独立评分 10 项全部通过(数字汉字标准化及英文保持一致)。无人工修改。因未计装峰值内存未测。单个案例不足以证明整个用途的性能合格。
第 1 轮(11/6,Whisper Turbo 未通过,18.173797 秒)和第 2 轮(11/8,Whisper Large v3 MLX 未通过,8.675082 秒)的实测仍作为单独记录保留。状态维持保留(held)。
下一步包括语音识别与后处理的综合验证、其他模型与多语言比较、输入应用的流程衔接及峰值内存测量。
Run: 20261115T161327-mac-llm-bench-d1d1 · Input SHA-256: 182ab18da6a4e4b21ce6f80d754a774d1616d5b934ea37d01bee5a1b28a90b6d
Mac Studio 2 号机(96GB);Qwen3.6 35B-A3B(digest a7eb95c53bcf96b4bdd008d0fab4a5dac88047d9c1a7a9ab88ed453423fbd87c);固定案例 voice-postprocess-mem-001。ollama-chat 0.40.5,temperature 0、seed 42、num_ctx 4096、num_predict 512、think false、format json。输入 SHA-256:182ab18da6a4e4b21ce6f80d754a774d1616d5b934ea37d01bee5a1b28a90b6d。
Queue 20261115T161327-mac-llm-bench-d1d1,2026-11-15 16:13:32–16:13:42 JST。推理耗时 8.363363 秒。评分器 11 项全部通过(数字汉字标准化、英文保持、识别文本未改动)。无人工修改。记录的峰值 46,039,040 字节仅为 Ollama 进程的 RSS 最大值,不含模型权重,不作为有效内存使用量,暂定为未确认。单个案例不足以证明整个用途的性能合格。
第 3 轮(11/14,Mac Studio 1 上的 Qwen3.8 27B,voice-postprocess-001,3.418 秒)作为单独的后处理记录保留。由于模型和机器不同,不能拿它与本轮结果比较速度或准确度。第 1 轮(11/6)和第 2 轮(11/8)的语音识别未通过记录也单独保留。状态维持保留(held)。
本轮仍未包含语音识别(ASR)。要通过完整用途,仍需语音识别与后处理串联的验证、多个固定案例、包含模型权重的峰值内存测量方法,以及输入到应用的步骤确认。