LLM on Mac / Model
Whisper large-v3-turbo
MLX / FP16
最低メモリの目安
16 GB
短い作業を1つずつ試す場合の目安
公式の約6GBはGPUメモリの参考値で、Mac全体のRAMではありません。OS・音声処理アプリ分を含め16GBを試す目安とします。録音を分割し、要約モデルは別に動かします。
試せる作業
録音から文字起こしを作る。会議メモにする場合は、文字起こし後にQwen3.5-9Bなどで要点を整理します。
任せきりにしないこと
話者分離は別機能です。無音・雑音・同時発話での誤記や、実際には話していない文の挿入を確認します。
使い始める条件
メモリは最低動作保証ではなく、OS・アプリの余裕を含めた編集上の目安です。文章モデルは4bit、入力4K〜8Kトークン、1モデルずつの利用を想定。長い資料・画像入力・複数アプリの同時利用では増えます。A3Bは動く部分の大きさで、モデル全体が3GBに収まる意味ではありません。
Apple SiliconのMacを想定。文章は対応するLM Studio等、音声はWhisper対応アプリ、画像・動画は各モデルに対応したアプリが必要です。RAM容量だけでは速度は決まりません。まず手持ちのMacで短い入力を試してください。
このモデルの実測
処理時間18.17 s
文字誤り率(CER)10.5%
ピークメモリ未測定
判定:不合格
文字起こしは生成できましたが、「十時」「三部」の完全一致条件を満たさず不合格でした。数字表記の違いを含む、この1課題の結果です。ピークメモリは計測していません。
測定条件
{
"language": "ja",
"task": "transcribe",
"temperature": 0,
"word_timestamps": false,
"model": "mlx-community/whisper-large-v3-turbo",
"revision": "a4aaeec0636e6fef84abdcbe3544cb2bf7e9f6fb",
"platform": "macOS-27.2-arm64-arm-64bit",
"input": "voice-asr-synthetic-ja-v1"
}実際の文字起こし
明日の会議は10時からです。資料は3部用意してください。メールはベンチマークのexample.comに送ってください。