LFM2.5-24B-A2B:高速なオンデバイスエージェントのために

本日、総パラメータ数 24B に対しアクティブパラメータはわずか 2B の推論モデル LFM2.5-24B-A2B をリリースします。高速かつプライベートなオンデバイスエージェントのために設計したモデルです。LFM2.5 ファミリーで最大にして最後のモデルであり、これによりファミリーは LFM2.5-230M から LFM2.5-24B-A2B まで、2 桁にわたる規模をカバーすることになります。

LFM2.5-24B-A2B は、総パラメータ数・アクティブパラメータ数がいずれも約 50% 多い Qwen3.6-35B-A3B に対し、8 つのエージェント・ツール使用ベンチマークのうち 5 つで互角の性能を示しました。LiveClaw では 48.09 対 38.19、AutomationBench では 27.69 対 8.72 というスコアを記録しています。トークンあたりのアクティブパラメータが 2B のみであるため、オンデバイスでは同等の MoE より最大 1.7 倍高速に動作し、Apple M5 Max で 184 tok/s、NVIDIA B300 GPU 1 基で最大 21K 出力 tok/s を達成します。

ベースモデル(LFM2.5-24B-A2B-Base)と事後学習済みモデル(LFM2.5-24B-A2B)はオープンウェイトで、本日より Hugging Face と Playground で利用できます。ローカルでの実行方法とファインチューニング方法については、ドキュメントをご覧ください。

LFM2-24B-A2B からの変更点

LFM2.5-24B-A2B は、以前リリースした LFM2-24B-A2B をベースに、語彙とコンテキストウィンドウを拡張し、事前学習の規模を拡大したうえで、大規模な強化学習を施したモデルです。前モデルとは異なり、LFM2.5-24B-A2B は推論専用モデルで、最終回答の前に明示的な思考の連鎖(chain of thought)を生成します。この方針を採用したのは、高いデコード速度を活かして回答品質を向上させるためです。

アーキテクチャ。40 層、MoE ブロックあたり 64 エキスパート(top-4 ルーティング)という構成と、ゲート付き短畳み込みと GQA を組み合わせたハイブリッド構造はそのまま維持しています。アーキテクチャ上の変更点は 2 つです。コンテキストウィンドウを 32,768 トークンから 131,072 トークンに拡張したことと、インプレースのトークナイザー拡張によって語彙を 65K から 128K トークンへ倍増させ、非ラテン文字のトークン化を改善したことです。

事前学習の規模を 17T トークンから 33T トークンに拡大しました。

ミッドトレーニングは 2 つのフェーズで構成されます。第 1 フェーズでは、推論、数学、コード、指示追従、多言語テキストに重点を置いて厳選した高品質データを用い、32K コンテキストで 2T トークンを学習します。第 2 フェーズでは、長文コンテキストデータに重点を置き、131K コンテキストで 300B トークンを学習します。エージェント型ワークロードに備えるため、どちらのフェーズにもツール呼び出しとマルチターンの軌跡を全体にわたって含めています。

事後学習では、以下に示す 5 段階のパイプラインによって、LFM2.5-24B-A2B-Base をエージェント向けの LFM2.5-24B-A2B に仕上げます。(1)教師ありファインチューニング(SFT)、(2)教師モデルの特化、(3)非エージェント型および(4)エージェント型のマルチドメイン・オンポリシー蒸留(MOPD)、(5)エージェント型強化学習(Agentic RL)です。最後の段階では、OpenClaw、Hermes Agent、Pi、OpenCode などのエージェントハーネス内でモデルを学習させます。
Figure 2: LFM2.5-24B-A2B Post-training recipe

教師モデルの特化段階で、LFM2.5-24B-A2B はよく知られた報酬ハッキングの挙動を示しました。リポジトリの git 履歴や、GitHub、PyPI、Hugging Face などのプラットフォームで最終的な答えを探すといった挙動です。さらに驚くべきことに、以下の例に示すように、自らがサンドボックス内にいることに気付くことさえありました。

この挙動は創発的なものに見えますが、類似のパターンを含む学習データによって説明できる可能性もあります。これを受けてサンドボックスを強化しており、以下で報告するすべての結果は、隔離された評価環境で得られたものです。

ベンチマーク

LFM2.5-24B-A2B を、ツール使用とエージェントワークフロー、知識、指示追従、数学、コーディングにわたる 16 のベンチマークで評価しました。総パラメータ数・アクティブパラメータ数ともに最も小さいモデルでありながら、Qwen3.6-35B-A3B など、総パラメータ数・アクティブパラメータ数が約 50% 多い大規模な MoE と互角の性能を示し、多くの場合それを上回ります。

ベンチマーク

LFM2.5-24B-A2B

Qwen3.6-35B-A3B

Gemma-4-26B-A4B-it

Nemotron-3.5-Lightning (30B-A3B)

AutomationBench

27.69

8.72

5.46

2.61

BFCLv4

65.01

65.00

57.09

53.78

ToolSandbox

80.71

75.02

72.09

75.13

LiveClaw

48.09

38.19

41.25

37.72

PinchBench

83.18

89.93

77.12

84.20

τ³-Bench Banking

8.04

7.63

4.54

7.01

WebArena Verified

26.75

37.62

25.62

28.69

GPQA Diamond

74.42

83.69

74.90

72.42

AA-Omniscience

-24.90

-24.35

-59.39

-3.58

HLE

7.40

7.69

8.57

5.65

IFEval

96.75

93.06

92.00

94.19

IFBench

74.69

64.21

47.44

71.67

Multi-IF

84.38

81.53

82.19

82.34

MATH-500

96.04

96.73

95.66

96.40

SWE-Bench Verified (OpenCode)

51.00

66.20

25.80

53.40

SciCode

32.71

37.35

35.42

27.78

表 1:LFM2.5-24B-A2B のベンチマーク性能*

LFM2.5-24B-A2B は、8 つのツール使用・エージェントベンチマークのうち 5 つ(AutomationBench、BFCLv4、ToolSandbox、LiveClaw、τ³-Bench Banking)で、競合モデルを上回るか同等の性能を示しました。最も大きな差をつけたのは AutomationBench で、次点のモデルの 3 倍以上のスコアを記録しています。また、3 つの指示追従ベンチマークすべてでトップとなりました。一方、GPQA Diamond、HLE、AA-Omniscience といった知識量が問われるベンチマークや、SWE-Bench Verified (OpenCode)、SciCode といったコーディングベンチマークでは、より大規模なモデルが優位を保っています。

これらの結果から、LFM2.5-24B-A2B は、推論し、ツールを呼び出し、デバイス上で安定して動作する必要があるエージェントにとって理想的な基盤と言えます。知識量が求められるワークロードでは、ツール呼び出しの強みを活かせるよう、LFM2.5-24B-A2B を検索(リトリーバル)や Web 検索と組み合わせることをおすすめします。

あらゆる環境で高速推論

LFM2.5-24B-A2B は、リリース初日から推論エコシステム全体でサポートされています。

  • llama.cpp — 効率的なエッジ推論のための GGUF チェックポイント
  • MLX — Apple Silicon 向けに最適化された推論
  • vLLM — 本番環境のスループットを支える GPU 高速化サービング
  • SGLang — 高性能な GPU サービングフレームワーク
  • ONNX — 多様なアクセラレータに対応するクロスプラットフォーム推論

すべての計測は、Liquid AI が公開しているデバイス性能データと同じベンチマーク基盤である Pipette で実施しました。

エッジ推論。効率的な LFM2 アーキテクチャにより、LFM2.5-24B-A2B は比較した MoE の中で、プロンプトの読み込みと回答の生成のいずれにおいても最速です。Apple M5 Max で 184 tok/s、AMD Ryzen AI Max+ 395 で 114 tok/s のデコード速度を達成し、次点のモデルより最大 1.7 倍高速でありながら、メモリ使用量は最小です。

GPU 推論。LFM アーキテクチャの競争力を示すため、GPU 推論のスループットを同規模の他の MoE モデルと比較しました。GPU スループット(総出力トークン数 / 実時間)は、NVIDIA B300 GPU 1 基を用い、持続負荷の設定で計測しています。各同時実行レベルにおいて、処理中のリクエスト数を常に目標値に保ち、完了したリクエストは直ちに新しいリクエストに置き換えます。

各モデルは SGLang 0.5.22 を使用し、入力 1,024 トークン、出力最大 256 トークン、BF16 の条件でベンチマークしました。LFM2.5-24B-A2B は同サイズクラスで最速のモデルであり、高い同時実行数で毎秒 21K を超える出力トークンを達成します。

LFM2.5-24B-A2B でローカルエージェントを実行

LFM2.5-24B-A2B のサイズ、速度、機能は、自分のハードウェア上で常時稼働するエージェントに最適です。以下のデモでは、M5 Max 搭載の MacBook Pro 上の Hermes Agent 内でモデルを実行しています。クラウド API を一切呼び出すことなく、計画の立案、ツール呼び出し、実際のタスクの遂行をすべてオンデバイスで行っています。

動画 1:LFM2.5-24B-A2B を使ったローカルの Hermes Agent が、Hugging Face で話題のモデルに関するモーニングブリーフィングを作成し、追加の質問に回答する様子。

このデモのポイントは、個々のツールではありません。コンシューマー向けハードウェア上で、ツールディスパッチのループがインタラクティブに感じられることです。質問、提案、確認、実行、そして繰り返し。1 回のディスパッチにかかる時間は 1 秒を大きく下回り、完全な監査証跡が残り、データがデバイスの外に出ることはありません。モデルをローカルでサービングし、お好みのエージェントハーネスと接続する方法については、ローカルエージェントガイドをご覧ください。

今すぐ始める

Hugging Face で公開中の LFM2.5-24B-A2B で、今すぐ開発を始めましょう。

API 経由で推論を利用する場合は、Liquid Console に登録することもできます。登録すると、すぐに使える $2 分のクレジットが付与されます。料金は入力 $.10/1M トークン(キャッシュ入力は $.05)、出力 $1.00/1M トークンです。

LFM2.5 によって、私たちは「どこでも動く AI」というビジョンを実現しつつあります。これらのモデルの特長は次のとおりです。

  • オープンウェイト — ダウンロード、ファインチューニング、デプロイが可能です。モデルライセンスをご覧ください。
  • 初日から高速 — Apple、AMD、Qualcomm、Nvidia のハードウェアで llama.cpp、MLX、vLLM をネイティブサポート
  • 充実したファミリー — カスタマイズ用のベースモデルから、音声・ビジョンに特化したバリアントまで、1 つのアーキテクチャで多様なユースケースをカバー

皆さんが何を作り出すのか、楽しみにしています。

hugging face logo liquid AIHugging Face でダウンロードLiquid AI logoLFM2.5-24B-A2B でお好みのハーネスをローカル実行Liquid AI logoAPI と統合する

引用

引用の際は、以下の参考文献または BibTeX をご利用ください。

Liquid AI, "LFM2.5-24B-A2B: Built for Fast On-Device Agents", Liquid AI Blog, Oct 2026.

@article{liquidAI202624BA2B,
  author = {Liquid AI},
  title = {LFM2.5-24B-A2B: Built for Fast On-Device Agents},
  journal = {Liquid AI Blog},
  year = {2026},
  note = {www.liquid.ai/blog/lfm2-5-24b-a2b},
}

*すべてのモデルは vLLM を使用し、以下の生成パラメータで評価しました。

  • AutomationBench:temperature = 0.6、top_p = 0.95、最大出力トークン数の上限なし(モデルのコンテキストウィンドウによる制限のみ)。
  • BFCLv4:temperature = 0.001、最大出力トークン数 = 4096。
  • ToolSandbox:temperature = 0、最大出力トークン数 = 1024。ユーザーシミュレーター:GPT-4o-2024-08-06、temperature = 0、最大出力トークン数 = 1024。
  • LiveClaw:temperature = 1.0(vLLM のデフォルト。エージェント側では temperature を設定しない)、最大出力トークン数 = 8192。
  • τ³-Bench Banking:公式ユーザーモデル(GPT-5.2、reasoning effort は low)、デフォルトの BM25 検索、temperature = 0、ターンあたりの最大出力トークン数 = 16384。
  • WebArena:temperature = 0.6、top_p=0.95、max_turns=40(許可されるブラウザ操作の回数)、最大出力トークン数の上限なし(モデルのコンテキストウィンドウによる制限のみ)。
  • その他の評価:temperature = 0.6、最大出力トークン数 = 32768。