LLM on Mac / Model

Whisper large-v3-turbo

MLX / FP16

起步内存参考

16 GB

逐项尝试短任务的参考

官方约 6GB 指 GPU 内存,不是 Mac 总内存。包含系统与音频应用,以 16GB 为起步参考;分段处理录音,摘要模型另行运行。

适合尝试的任务

将录音转为文字,再用 Qwen3.5-9B 等文本模型整理会议要点。

仍需检查

说话人区分是另一功能,需检查噪声、重叠发言和无声时编造的文字。

使用条件

内存数字是包含系统和应用余量的编辑估计,并非最低运行保证。文本模型按 4bit、4K–8K 输入 token、单模型使用估算。长文档、图片输入与并行应用会增加需求。A3B 不表示整个模型仅需 3GB。

面向 Apple Silicon Mac,需要兼容的文本、Whisper、图像或视频应用。内存容量不能单独决定速度,先在现有 Mac 上尝试短输入。

此模型的实测

2026-11-06 JST · Mac mini · mlx-whisper 0.4.3

处理时间18.17 s
字符错误率(CER)10.5%
峰值内存未测量

判定:未通过

已生成转录,但未满足「十時」「三部」的完全匹配条件。此结果仅针对包含数字格式差异的一个任务,并非总体准确率;未采样峰值内存。

测试条件
{
  "language": "ja",
  "task": "transcribe",
  "temperature": 0,
  "word_timestamps": false,
  "model": "mlx-community/whisper-large-v3-turbo",
  "revision": "a4aaeec0636e6fef84abdcbe3544cb2bf7e9f6fb",
  "platform": "macOS-27.2-arm64-arm-64bit",
  "input": "voice-asr-synthetic-ja-v1"
}

实际转录

明日の会議は10時からです。資料は3部用意してください。メールはベンチマークのexample.comに送ってください。