LLM on Mac / Model
Whisper large-v3-turbo
MLX / FP16
起步内存参考
16 GB
逐项尝试短任务的参考
官方约 6GB 指 GPU 内存,不是 Mac 总内存。包含系统与音频应用,以 16GB 为起步参考;分段处理录音,摘要模型另行运行。
适合尝试的任务
将录音转为文字,再用 Qwen3.5-9B 等文本模型整理会议要点。
仍需检查
说话人区分是另一功能,需检查噪声、重叠发言和无声时编造的文字。
使用条件
内存数字是包含系统和应用余量的编辑估计,并非最低运行保证。文本模型按 4bit、4K–8K 输入 token、单模型使用估算。长文档、图片输入与并行应用会增加需求。A3B 不表示整个模型仅需 3GB。
面向 Apple Silicon Mac,需要兼容的文本、Whisper、图像或视频应用。内存容量不能单独决定速度,先在现有 Mac 上尝试短输入。
此模型的实测
处理时间18.17 s
字符错误率(CER)10.5%
峰值内存未测量
判定:未通过
已生成转录,但未满足「十時」「三部」的完全匹配条件。此结果仅针对包含数字格式差异的一个任务,并非总体准确率;未采样峰值内存。
测试条件
{
"language": "ja",
"task": "transcribe",
"temperature": 0,
"word_timestamps": false,
"model": "mlx-community/whisper-large-v3-turbo",
"revision": "a4aaeec0636e6fef84abdcbe3544cb2bf7e9f6fb",
"platform": "macOS-27.2-arm64-arm-64bit",
"input": "voice-asr-synthetic-ja-v1"
}实际转录
明日の会議は10時からです。資料は3部用意してください。メールはベンチマークのexample.comに送ってください。