LLM on Mac / Model

Whisper large-v3-turbo

MLX / FP16

最低メモリの目安

16 GB

短い作業を1つずつ試す場合の目安

公式の約6GBはGPUメモリの参考値で、Mac全体のRAMではありません。OS・音声処理アプリ分を含め16GBを試す目安とします。録音を分割し、要約モデルは別に動かします。

試せる作業

録音から文字起こしを作る。会議メモにする場合は、文字起こし後にQwen3.5-9Bなどで要点を整理します。

任せきりにしないこと

話者分離は別機能です。無音・雑音・同時発話での誤記や、実際には話していない文の挿入を確認します。

使い始める条件

メモリは最低動作保証ではなく、OS・アプリの余裕を含めた編集上の目安です。文章モデルは4bit、入力4K〜8Kトークン、1モデルずつの利用を想定。長い資料・画像入力・複数アプリの同時利用では増えます。A3Bは動く部分の大きさで、モデル全体が3GBに収まる意味ではありません。

Apple SiliconのMacを想定。文章は対応するLM Studio等、音声はWhisper対応アプリ、画像・動画は各モデルに対応したアプリが必要です。RAM容量だけでは速度は決まりません。まず手持ちのMacで短い入力を試してください。

このモデルの実測

2026-11-06 JST · Mac mini · mlx-whisper 0.4.3

処理時間18.17 s
文字誤り率(CER)10.5%
ピークメモリ未測定

判定:不合格

文字起こしは生成できましたが、「十時」「三部」の完全一致条件を満たさず不合格でした。数字表記の違いを含む、この1課題の結果です。ピークメモリは計測していません。

測定条件
{
  "language": "ja",
  "task": "transcribe",
  "temperature": 0,
  "word_timestamps": false,
  "model": "mlx-community/whisper-large-v3-turbo",
  "revision": "a4aaeec0636e6fef84abdcbe3544cb2bf7e9f6fb",
  "platform": "macOS-27.2-arm64-arm-64bit",
  "input": "voice-asr-synthetic-ja-v1"
}

実際の文字起こし

明日の会議は10時からです。資料は3部用意してください。メールはベンチマークのexample.comに送ってください。