Whisper large-v3-turbo
MLX / FP16
- 最低メモリの目安
- 16 GB
短い作業を1つずつ試す場合の目安
公式の約6GBはGPUメモリの参考値で、Mac全体のRAMではありません。OS・音声処理アプリ分を含め16GBを試す目安とします。録音を分割し、要約モデルは別に動かします。
話した内容をアプリに入力できる文に整えます。TypelessやAqua Voiceを比較候補にし、処理場所を確認します。
MLX / FP16
短い作業を1つずつ試す場合の目安
公式の約6GBはGPUメモリの参考値で、Mac全体のRAMではありません。OS・音声処理アプリ分を含め16GBを試す目安とします。録音を分割し、要約モデルは別に動かします。
録音から文字起こしを作る。会議メモにする場合は、文字起こし後にQwen3.5-9Bなどで要点を整理します。
話者分離は別機能です。無音・雑音・同時発話での誤記や、実際には話していない文の挿入を確認します。
メモリは最低動作保証ではなく、OS・アプリの余裕を含めた編集上の目安です。文章モデルは4bit、入力4K〜8Kトークン、1モデルずつの利用を想定。長い資料・画像入力・複数アプリの同時利用では増えます。A3Bは動く部分の大きさで、モデル全体が3GBに収まる意味ではありません。
Apple SiliconのMacを想定。文章は対応するLM Studio等、音声はWhisper対応アプリ、画像・動画は各モデルに対応したアプリが必要です。RAM容量だけでは速度は決まりません。まず手持ちのMacで短い入力を試してください。
文字起こしの速さが評価されています。
無音での架空の文や言語・録音条件による精度差が報告されています。VAD(発話区間の検出)を使っても結果の確認は必要です。
公開された議論を質的に要約しています。全利用者の総意や満足度調査ではありません。PCやクラウドでの報告も含むため、Macでの速度や必要メモリの根拠にはしていません。個人名・体験談の転載は行っていません。
2026-11-15、Mac Studio(M5 Ultra・96GB)で Qwen3.6 35B-A3B に、音声認識の結果を入力用の文に整える作業(数字の書き方をそろえる・英語を残す・聞き取った内容を変えない)を1件試しました。採点の11項目すべてに合格し、所要時間は約8秒、人の手直しはありませんでした。11/14 には Qwen3.8 27B も同じ種類の作業に合格しています。一方、11/6・11/8 に試した音声の文字起こしは不合格で、その後は測っていません。文字起こしから整えるまでを通した確認と、使ったメモリの量はまだです。
Whisper large-v3-turbo · Qwen3-ASR 1.7B · Qwen3.5 4B / 9B · Gemma 4 12B
同じ日本語・英語・中国語の録音で、認識の誤り、句読点や固有名詞の修正、待ち時間、アプリへ入力できるまでの手順を比べます。
認識と文章整形を別々に見ます。候補のMac上の動作と操作手順は未検証です。
Run: 20261106T212629-mac-llm-bench-a06d · Input SHA-256: 7d3514b0d992c62531467aa46b9217bef83f061f6ace8c750658b4b824616002
Mac mini M6・16GB、mlx-whisper 0.4.3、mlx-community/whisper-large-v3-turbo(revision a4aaeec0636e6fef84abdcbe3544cb2bf7e9f6fb)、日本語 transcribe、temperature 0。推論18.173797秒。ピークメモリは計測器がなく未取得。
実推論1回。入力: voice-asr-synthetic-ja-v1(日本語)。文字起こし: 「明日の会議は10時からです。資料は3部用意してください。メールはベンチマークのexample.comに送ってください。」CERは0.105263。独立採点では「十時」「三部」が不一致で不合格。認識結果の整形はしていません。
応答時間: 18.1738秒 · CER: 0.105263 · ピークメモリ: 結果は未測定
先行実行(queue 20261106T185152-mac-llm-bench-fcfa)はffmpeg不在で4.265656秒後に停止し、文字起こしはありません。この失敗も履歴に保持しています。
今回の固定ケースは音声認識単体の不合格記録です。数字表記の正規化や文章整形を含む用途全体の代替性能は未検証です。次巡では今回の数字・固有名詞の誤りを踏まえ、認識と後処理を分けて検査できる課題を選びます。
Run: 20261108T115454-mac-llm-bench-5254 · Input SHA-256: 7d3514b0d992c62531467aa46b9217bef83f061f6ace8c750658b4b824616002
Mac mini・16 GB、mlx-whisper 0.4.3、mlx-community/whisper-large-v3-mlx(revision 49e6aa286ad60c14352c404340ded53710378a11)、日本語 transcribe、temperature 0。入力SHA-256: 7d3514b0d992c62531467aa46b9217bef83f061f6ace8c750658b4b824616002。
queue 20261108T115454-mac-llm-bench-5254、2026-11-08 11:54:58–11:55:13 JST。文字起こし:「明日の会議は10時からです。資料は3部用意してください。メールはbenchmarkのexample.comに送ってください。」アダプターの推論時間8.675082秒。独立採点は不合格(CER 0.2631578947、基準超過)。必須句「十時」「三部」が不一致。修正0件。ピークメモリは未計測。
別条件の第1巡(2026-11-06、whisper-large-v3-turbo、18.173797秒)も独立採点不合格(CER 0.105263、必須句2件不一致)。結果は別記録で保持しています。
このASR単体の失敗から音声入力全体の代替性能は判断できません。次巡では数字・固有名詞の誤りを踏まえ、認識と後処理を分けて測る課題を選びます。
Run: 20261114T155631-mac-llm-bench-61fc · Input SHA-256: 41f540063da27ec8b4b8b526e25594365aea2f2c8769ce7f509108288c8546da
Mac Studio 1号機、Qwen3.8 27B(Q4_K_M、digest aaee06c39dcf2437cde036998d960e1fc1494b8191be7cc9657d01e509097813)、固定ケースvoice-postprocess-001。ollama-chat 0.34.3、temperature 0、seed 42、num_ctx 4096、num_predict 512。入力SHA-256: 41f540063da27ec8b4b8b526e25594365aea2f2c8769ce7f509108288c8546da。
queue 20261114T155631-mac-llm-bench-61fc、2026-11-14 15:56:34–15:56:37 JST。推論時間3.417818秒。独立採点10項目すべて合格(数字の漢数字正規化・英文保持一致)。修正0件。ピークメモリは未計装のため未測定。1ケースの結果で用途全体の性能合格とはしません。
第1巡(11/6、Whisper Turbo不合格、18.173797秒)および第2巡(11/8、Whisper Large v3 MLX不合格、8.675082秒)の実測も別記録として保持しています。用途状態は保留(held)を維持します。
次は音声認識と後処理の統合検証、他モデル・多言語の比較、アプリ入力までの連携、ピークメモリ計測です。
Run: 20261115T161327-mac-llm-bench-d1d1 · Input SHA-256: 182ab18da6a4e4b21ce6f80d754a774d1616d5b934ea37d01bee5a1b28a90b6d
Mac Studio 2号機(96GB)、Qwen3.6 35B-A3B(digest a7eb95c53bcf96b4bdd008d0fab4a5dac88047d9c1a7a9ab88ed453423fbd87c)、固定ケースvoice-postprocess-mem-001。ollama-chat 0.40.5、temperature 0、seed 42、num_ctx 4096、num_predict 512、think false、format json。入力SHA-256: 182ab18da6a4e4b21ce6f80d754a774d1616d5b934ea37d01bee5a1b28a90b6d。
queue 20261115T161327-mac-llm-bench-d1d1、2026-11-15 16:13:32–16:13:42 JST。推論時間8.363363秒。採点器による11項目すべて合格(数字の漢数字正規化・英文保持一致・認識結果の変更なし)。修正0件。ピークメモリは取得値46,039,040バイトですが、Ollama本体のRSS最大値でモデル重みを含まないため実効値とせず、未確定として扱います。1ケースの結果で用途全体の性能合格とはしません。
第3巡(11/14、Qwen3.8 27B・Mac Studio 1、voice-postprocess-001、3.418秒)も後処理1件の別記録として保持しています。モデルと実機が違うため、第3巡と比べて速さや精度の優劣は言えません。音声認識の不合格記録(第1巡 11/6、第2巡 11/8)も別記録のまま残し、用途状態は保留(held)を維持します。
今回も音声認識(ASR)は含めていません。用途全体の合格にはまだ不足があり、音声認識と後処理をつないだ検証、複数の固定ケース、モデル重みを含むピークメモリの計測法、アプリへの入力手順の確認が必要です。