AI 最新テクノロジー

Macの中のAIが、写真を見て答えるまで3.13倍速くなる

更新日:

DRAFT MODEL ONLINE — SPECULATIVE DECODING CHECK
AI × オンデバイス
LFM2.5-VL-DSparkMacの中のAIが写真に答える速さが最大3.13倍になります。

LFM2.5-VL-DSparkは、画像を読むAIの返事を速くするための小さな下書き役です。本体に足すのは約280Mパラメータで、答えの中身は変えずに、返事を書く時間を短くします。Liquid AIがHugging Faceで公開した、実験的なドラフトモデルです。私は、公開された数値と、速くなる範囲・速くならない範囲を、発表資料に沿って読み直しました。

発表 2026年9月24日読了約5分AI を仕事と暮らしに使う人に
Macの中のAIが、写真を見て答えるまで3.13倍速くなる
VIEW 00 — この記事の題を描いた、私の自前の画像

1. 小さな下書き役が、返事を速くする

LFM2.5-VL-DSparkは、画像を読むAI「LFM2.5-VL-3B」の隣に置く、小さな下書き役です。足すパラメータは約280Mで、3Bの本体に対して8.9%の増加です。

01. 280Mを足して、8.9%だけ重くなる

SIZE — 下書き役の大きさLFM2.5-VL-3B
足すパラメータ約280M内訳の合計は279.5M本体に対する増加8.9%3Bの本体に足す量下書き役の層の数4層注意機構だけの簡素なつくり
PARTS — 279.5Mの内訳
デコーダ(4層)193.0MMarkovヘッド65.5M隠れ状態の射影21.0M正規化と確信度ヘッド6.4k
Liquid AIの発表にある、ドラフトモデルの構成です。

02. 画像も文章も、同じ形にして渡している

仕組みは、先に公開されたテキスト版のLFM2.5-DSparkと同じです。下書き役は、本体の決められた層から途中の状態を受け取り、それを手がかりに次のトークンをk個まとめて下書きします。

画像のパッチも文章のトークンも、その層より手前で同じ形のベクトルに変換されています。下書き役に届く時点で、写真と言葉の区別はありません。発表資料は、推論の手順はテキスト版から変わっていないと説明しています。

手元の機器でAIを動かす組み方の全体は、こちらにまとめています。

JARVIS
Amazon Echo Show 8 最新モデル
現実版J.A.R.V.I.S.の作り方2026 — Alexa+・HomePod・Geminiで家をAI化する

作中でトニーがJ.A.R.V.I.S.とF.R.I.D.A.Y.に出した指示を21件数え直し、2026年の市販品でどこまで届くかを1件ずつ突き合わせました。そのまま作れるのは7件です。

2. 答えは変わらない、という約束

速くなると聞くと、その分だけ答えが雑になっていないかが気になります。発表はこの点を先に説明しています。投機的デコーディングは厳密で、下書きされたトークンは本体がすべて検証します。

01. 下書きは、本体が確かめる

VERIFY — 下書きが答えになるまでDSPARK
下書き役が書く次のトークンをk個まとめて本体が確かめるLFM2.5-VL-3Bがすべて検証本体だけの出力と一致貪欲法での出力の場合
下書きをそのまま採用せず、本体の検証を通したものだけが答えになります。

発表の説明では、貪欲法での出力は、本体だけで動かしたときと一致します。速い版と正確な版を使い分ける必要はありません。応答ごとに draft_n/draft_n_accepted という形で、下書きした数と受け入れられた数も記録されます。

02. 初日から、三つの環境で動く

SUPPORT — 動く環境と、要るビルドDAY ONE
RUNTIME — 対応する三つの環境
llama.cpp(PR #29339 のビルドが必要)MLX-VLM(PR #2280 のビルドが必要)SGLang(PR #40651 のビルドが必要)
FORMAT — 配られている形式
SafetensorsGGUF重みは公開
黄色の三つは、DSpark対応を含む専用のビルドで動きます。

ドラフトモデルはHugging Faceで配られています。発表は、LFM2.5のモデルを、制限なくダウンロードし、微調整し、展開できる公開重みだと説明しています。ブロックサイズは設定ファイルやサイドカーのメタデータから読まれるので、手で合わせる箇所は多くありません。

3. 速くなる場所と、変わらない場所

この発表は、限界を自分で書いています。投機的デコーディングが速くするのはデコードだけです。画像をエンコードする時間も、プロンプトを読み込むprefillも、速くなりません。

01. 写真を読む時間は、削れない

画像を扱うモデルは、まず画像エンコーダに写真を通し、それから言語側が数百の視覚トークンと文章を一緒に処理します。端末のチップはデータセンターのGPUより計算力が小さいので、この前半が全体の時間に占める割合は大きくなります。

速くならない部分画像のエンコードとprefillは、今回の仕組みでは速くなりません。発表資料はこれをアムダールの法則として説明しています。全体の伸びは、加速されない部分の長さで頭打ちになります。M5のGPUの各コアに載るニューラルアクセラレータが、この差を縮めるとも書かれています。

02. 数字は、環境でこれだけ違う

SPEEDUP — 環境ごとの伸びBLOCK SIZE 8
MLX / M5 Max
デコード2.30〜3.13倍返事を書く部分だけの伸び全体1.56〜2.62倍写真の読み込みを含む時間
llama.cpp / M3 Ultra
デコード1.57〜2.14倍全体1.30〜1.77倍
SGLang / H100
デコード最大2.66倍全体1.64〜2.27倍
幅は、六つの画像タスクごとの値の違いです。Liquid AIの発表の数字です。

評価は、一般VQA、テキストVQA、画像の説明、チャートVQA、複雑な推論、複数ターンの会話の六つのタスクで、MMSpecベンチマークに沿って行われています。推論時のブロックサイズは、ハードウェアに応じて8か9が推奨されています。

4. いま試せる環境と、専用ビルドの条件

Apple Siliconのマシンでローカルのモデルをすでに動かしている人は、今日ダウンロードして自分の環境で測れます。アプリの中でAIを使っているだけの人には、まだ触れる場所がありません。

WHO — 自分はどちらに当たるか緑=いま試せる
手元のMacで動かすMLX・llama.cppを使っている人いま試せる本体にドラフトを添えて起動する
サーバーで動かすSGLangで自前の口を立てている人いま試せる比べる相手は投機用のフラグを外した同じコマンド
ビルドを触らないアプリの中でAIを使う人標準のリリースを待つ三つの環境とも専用ビルドが前提
発表にある対応環境と条件から、私が分けました。

01. もう試せる人

MLX-VLMの場合、発表に載っている起動のコマンドは次の1行です。本体のLFM2.5-VL-3Bに、ドラフトモデルを添えて立ち上げます。

RUN — MLX-VLMで起動するPR #2280
terminal
mlx_vlm.server --model LiquidAI/LFM2.5-VL-3B --draft-model LiquidAI/LFM2.5-VL-3B-DSpark
発表の原文にあるコマンドです。私はまだ実行していません。

レシートや図表を読ませる、スクリーンショットの中身を説明させる、といった作業で、返事を書く部分の時間が短くなります。伸びた量は、draft_n/draft_n_accepted の記録と、フラグを外した同じ条件との比較で確かめられます。

02. 標準のリリースを待つ場合

三つの環境はいずれも専用ビルドが前提で、PRの番号を追う手間があります。発表自身が、これは実験的なドラフトモデルだと断っています。普段からビルドを触っていない人は、標準のリリースに取り込まれてから試せば足ります。

画像を読ませる前半の時間は変わりません。写真1枚を渡して短い答えをもらう使い方では、全体の時間の多くを前半が占めます。長い説明を書かせる作業ほど、デコードの時間が長いので、短くなる時間も増えます。

📄

Hugging Faceの公式発表を原文で確認する

一次情報:Accelerating vision-language models with LFM2.5-VL-…

公式発表を読む

5. よくある質問

LFM2.5-VL-DSparkとは何ですか

Liquid AIの画像対応モデルLFM2.5-VL-3B向けに公開された、実験的なドラフトモデルです。投機的デコーディングの経路を追加し、わずかなメモリ増加と引き換えに生成の速度を上げます。出力の品質は変えない設計だと説明されています。

出力の品質は落ちますか

落ちない設計です。投機的デコーディングは厳密で、下書きされたトークンを本体がすべて検証します。そのため貪欲法での出力は、ドラフトを使わず本体だけで生成した場合と一致します。

どれくらい速くなりますか

デコード自体は端末上で最大3.13倍、H100で最大2.66倍と発表されています。画像の読み込みを含む全体の時間では、それぞれ最大2.62倍と最大2.27倍です。六つの画像タスクで測った値で、環境とタスクによって幅があります。

メモリはどれだけ増えますか

ドラフトモデルは約280Mパラメータで、3Bの本体に対して8.9%の増加です。内訳は4層のデコーダが193.0M、隠れ状態の射影が21.0M、Markovヘッドが65.5Mなどで、合計279.5Mです。

どの環境で動きますか

llama.cpp、MLX-VLM、SGLangの三つに初日から対応しています。それぞれDSpark対応を含むビルドが必要で、SGLangはPR #40651、llama.cppはPR #29339、MLX-VLMはPR #2280が案内されています。

日本語でも同じだけ速くなりますか

今回示されたのはMMSpecベンチマークに沿った六つの画像タスクの結果で、言語別の内訳は公式発表では未公表です。日本語での数値は示されていません。

6. まとめ

LFM2.5-VL-DSparkは、本体のLFM2.5-VL-3Bに約280Mの下書き役を足して、返事を書く時間を短くします。答えの中身は、本体だけで動かしたときと同じです。速くなるのはデコードだけで、画像を読み込む前半は変わりません。そのため、デコードが最大3.13倍でも、全体では最大2.62倍です。重みは公開されていて、三つの環境で専用ビルドを使えば試せます。

  • 対象確認:本体はLFM2.5-VL-3B。ドラフトは本体に添えて使う
  • 容量を見る:追加は約280M、本体比8.9%
  • 環境を選ぶ:llama.cpp/MLX-VLM/SGLangの対応ビルド
  • 数値を測る:投機用のフラグを外した同じ条件と比べる
  • 速くならない部分:画像のエンコードとprefill

出典:Liquid AIがHugging Faceに載せた発表「Accelerating vision-language models with LFM2.5-VL-DSpark」を、2026年10月13日に原文で確認しました。発表日は2026年9月24日です。数値と仕様は発表時点のものです。

-AI, 最新テクノロジー

Copyright© Killer Picks Express , 2026 All Rights Reserved.