あらゆるデバイスに最適化された、プロアクティブなエッジAIエージェント。

Liquidは、ユーザーの意図を理解し、ローカルで行動できる高性能で信頼できるエージェントを構築します。クラウドコストを膨らませたり、個人のコンテキストを他社サーバーへ送ったりする必要はありません。

オンデバイスAIエージェント構築の課題

クラウドエージェントは高価なフロンティアモデルに依存しています。エージェントがより長いタスクを担い、より頻繁に行動するほど、レイテンシとトークンコストは積み上がります。インテリジェンスをオンデバイスで実行すれば、プロアクティブで常時利用可能なエージェントは現実的になります。ただし、それにはモデル、ハーネス、ハードウェアを一体で設計する必要があります。

オンデバイスエージェントには、3つの主要な課題があります。

デバイスには厳しい制約があります。
多くのエージェントはクラウド規模の計算資源とメモリを前提に作られています。オンデバイスエージェントは、メモリ、電力、レイテンシの厳しい制約内で推論し、行動しなければなりません。
モデルとハーネスは一体で設計されていません。
エージェントの有効性は、モデルとハーネスがどれだけ連携できるかで決まります。別々に設計されると、エラー、無駄な計算、不安定な行動が増えます。
クラウドフォールバックはエッジの価値を損ないます。
クラウドへの受け渡しは、そのたびにコストとレイテンシを増やし、より多くの個人コンテキストをデバイス外へ送ります。優れたエッジエージェントは、能力を犠牲にせずインテリジェンスをローカルに保ちます。