RIPL：1 ミリ秒が勝負を分ける場面のためのリアルタイムインテリジェンス

本日、Liquid RIPL（Real-time Inference Pipeline）を発表します。RIPL は、Liquid Foundation Models（LFM）をライブリクエストの経路に直接組み込むために構築された低レイテンシ推論エンジンです。生成されたモデルの完全な応答をエンドツーエンドで 50 ms 未満で返し、ピーク負荷時にトラフィックが絶え間なく届く状況でも、その性能を維持し続けます。

現在のサービング基盤の多くは、別の用途を想定して構築されています。汎用モデル、大規模なバッチ、そして 1 リクエストあたり数秒かかっても許容される長時間のエージェント型ワークフローです。エンタープライズのリアルタイムワークロードでは、許容されるレイテンシははるかに小さくなります。検索ランキング、商品レコメンド、不正判定、決済承認などのリアルタイムワークロードでは、ミリ秒単位で答えを返す必要があります。わずかな遅延でもユーザー体験に摩擦が生じます。たとえばチェックアウトが遅くなれば、コンバージョンが低下します。そのため、こうしたシステムでは従来、勾配ブースティング木や小規模な埋め込みモデルなど、高速ではあるものの精度で劣る手法が使われてきました。

Liquid の RIPL は、このトレードオフを覆します。リアルタイムの制約を前提に構築されており、より高速で応答性の高い生成 AI 体験を提供することで、顧客の検索、発見、取引、インタラクションのあり方を向上させます。

リアルタイムワークロードにおける結果

図 1 では、低レイテンシな LLM 推論によって実現される、エンタープライズのリアルタイムワークフローにおける小規模 LLM のユースケースをいくつか紹介しています。

図 2 の 2 つのワークロード全体で、Liquid RIPL 上の LFM2.5-1.2B は、vLLM 上の Qwen3.5-0.8B と比べて p95 レイテンシが 14.4〜28.4 分の 1 です。LFM2.5-2.6B は、Qwen3.5-2B と比べて p95 レイテンシが 5.6〜7.7 分の 1 です。

本番環境での実績

Shopify は、レイテンシに敏感なコマースのワークロード全体で LFM を本番環境に導入しています。こうしたワークロードでは、大量のリクエスト下でシームレスなユーザー体験を提供するために、高速で信頼性の高い推論が欠かせません。

その一例が検索の強化で、LFM は実際の本番ワークロードで 20 ms 未満の推論を実現しています。LFM はパラメータ数が約 50% 少ないにもかかわらず代替モデルを上回る性能を発揮し、品質を損なうことなく 2〜10 倍高速な推論を実現しています。

これはまさに、効率的でタスクに特化したモデルが真価を発揮する領域です。特に Liquid の RIPL のような高性能推論エンジンと組み合わせることで、大規模環境でも極めて低いエンドツーエンドのレイテンシと高いスループットを実現できます。

数値を確認する

GPU とリクエストの形状を選ぶと、リクエストレートの上昇に応じた LFM2.5 モデルのエンドツーエンドレイテンシを推定できます。

利用を開始する

RIPL は現在、NVIDIA GPU（H100、H200、B200、RTX PRO 6000 など）上での LFM のエンタープライズ向けデプロイで利用可能です。厳しいレイテンシ要件のあるリクエスト経路をお持ちでしたら、ぜひお聞かせください。

引用

@article{liquidAI2026lowlatency,
  author  = {Liquid AI},
  title   = {RIPL: Real-time Intelligence When Every Millisecond Counts},
  journal = {Liquid AI Blog},
  year    = {2026},
}