はじめての方へ

Mac でローカル LLM を
始めるには

ローカル LLM が初めての人へ。どんな Mac が必要か、Ollama での始め方、メモリ別に最初に試すモデル、このサイトの数字の見方を、実測をもとに順番に説明します。

ローカル LLM とは

ChatGPT のような会話できる AI を、インターネット上のサービスではなく、自分の Mac の中で動かすものです。モデル（AI の本体）のファイルを Mac に入れて使います。

必要なもの

Apple シリコン（M1 以降）の Mac と、モデルのファイルを置く数GB〜20GBほどの空き容量です。いちばん大事なのはメモリの量で、モデルがメモリに収まらないと動きません。目安は、モデルが使うメモリが Mac のメモリの半分までなら、ほかのアプリと一緒に快適に使えます。

メモリ別に動くモデル: 8GB ・ 16GB ・ 24GB ・ 32GB ・ 36GB ・ 48GB 以上

始め方（Ollama）

  1. ollama.com から Mac 版の Ollama を入れて起動します（無料）。
  2. 「ターミナル」を開いて、下の表の1行を入力します。初回はモデルのダウンロードが始まります。
  3. ダウンロードが終わると、そのまま文字で会話できます。終わるときは /bye と入力します。

メモリ別、最初に試すモデル

Mac のメモリ最初に試すモデルと入力する1行使うメモリ返事の速さ
8GBMiniCPM5-2Bollama run hf.co/openbmb/MiniCPM5-2B-GGUF:Q4_K_M2GB約1.5秒
16GBOrnith-1.0-9Bollama run hf.co/ornith-ai/Ornith-1.0-9B-GGUF:Q4_K_M6.2GB約3.6秒
24GBOrnith-1.0-9Bollama run hf.co/ornith-ai/Ornith-1.0-9B-GGUF:Q4_K_M6.2GB約3.6秒
32GBOrnith-1.0-9Bollama run hf.co/ornith-ai/Ornith-1.0-9B-GGUF:Q4_K_M6.2GB約3.6秒
36GBOrnith-1.0-9Bollama run hf.co/ornith-ai/Ornith-1.0-9B-GGUF:Q4_K_M6.2GB約3.6秒
48GB 以上gemma4:26bollama run gemma4:26b18.7GB約3秒

メモリに快適に収まるモデルの中から、返事が5秒以内でいちばん賢いもの（文章のページの「迷ったらこれ」と同じルール）。返事の速さはこのサイトの Mac Studio（M5 Max）での値で、処理の遅いチップでは長くなります。

このサイトの数字の見方

数字意味
返事の速さかんたんな質問1問に答え終わるまでの秒数（50問の真ん中の値）。考えてから答えるタイプは、考えている時間も入るので長くなる。
知識問題高校〜大学レベルの日本語の4択問題の正答率。でたらめに選ぶと25%。
算数日本語の文章題の正答率。答えの数字が合っていれば正解。
使うメモリ動かしている間に使ったメモリ。Mac のメモリの半分までなら、ほかのアプリと一緒に快適に使える目安。
翻訳の点数プロの訳とどれだけ同じ文字を使っているかの100点満点。人の訳でも100点にはならないので、モデル同士を比べる目安。
誤差（±）問題の数が限られるので数字には幅がある。「80%（±6）」なら本当の実力はおおむね74〜86%。差が誤差の中なら「ほぼ同じ」と読む。

もっと知りたいとき