Lexi — コードを変更せずにAIコストを削減

概要

Lexi は、本番環境で AI ワークロードを運用しており、アプリケーションロジックを変更せずにトークン使用量を削減したいチーム向けの API レイヤー製品です。アプリと対応モデルプロバイダーの間に配置され、各リクエストの前に会話コンテキストを再構成し、顧客自身のプロバイダーキーを使ってリクエストを転送します。

この製品は、コンテキストの増大がコストや性能上の問題を引き起こす、長時間実行のチャットやエージェントワークフロー向けの低摩擦な最適化レイヤーとして位置付けられています。ページの内容によると、OpenAI、Anthropic、Google、xAI、DeepSeek、Meta のモデルを単一エンドポイント経由で利用しているエンジニアリングチームを対象としており、料金モデルは固定のプラットフォーム利用料ではなく、実際に得られた削減額に連動しています。

機能

• STONE によるコンテキスト再構成 — Lexi は会話履歴を制限された形式に書き換え、関連する事実や意思決定を保持しながら、モデルに送信するトークン数を削減します。
• 最小限の統合変更 — ドキュメント化されたセットアップは、ベース URL の差し替えと結合 API キー形式の使用のみであり、既存アプリケーションの移行工数を抑えます。
• 主要な API 動作に対する透過的な互換性 — ストリーミング、ツール呼び出し、構造化出力は変更なしで透過的に処理されるとされており、チームは既存のワークフローを維持しやすくなります。
• 1 つのエンドポイントによるマルチプロバイダーモデルアクセス — Lexi は 6 つのプロバイダーにまたがる 28 のモデルをサポートし、リクエスト内のモデル名からプロバイダーを判別します。
• 削減額ベースの商用モデル — Lexi は自らが生み出した削減額の 40% を課金し、再構成による効果がないリクエストについては、顧客はプロバイダー直接利用時と同等のコストを支払うとしています。
• リクエスト単位のコストとトークンの可視化 — レスポンスヘッダーには、元のトークン数、再構成後のトークン数、削減量、リクエストコスト、残高が含まれ、ログ記録や監視に活用できます。

役立つヒント

• まずは長く複数ターンにわたるワークロードで評価する — 文書化されている効果は長時間の会話で最も大きいように見えるため、短いプロンプトではなく、サポートボット、コパイロット、エージェントセッションで Lexi をベンチマークしてください。
• ドメイン固有タスクで品質を検証する — Lexi は事実保持とゼロネガティブなフォールバックを主張していますが、機密性の高いワークフローやエッジケースにおける想起精度は、各チームが自ら検証すべきです。
• レスポンスヘッダーを運用に活用する — 公開されるコストおよび削減関連の項目は、ダッシュボード、アラート、AI 利用ガバナンス向けの社内チャージバックモデルを支えることができます。
• プロバイダーとモデルの対応範囲を慎重に確認する — サイトには対応プロバイダーとモデル数が記載されているため、本番で使用している正確なモデルが導入前に含まれているか確認してください。
• ベンチマーク数値は参考値として扱う — ページには強力なベンチマーク結果が示されていますが、結果はコンテンツや会話パターンによって異なるとも明記されています。

OpenClaw スキル

Lexi は、長い会話メモリに依存するあらゆるスキルやエージェントにとって、OpenClaw エコシステム内で強力なインフラ層になり得ます。想定されるユースケースには、リサーチエージェント、カスタマーサポート用コパイロット、社内ナレッジアシスタント、コーディングエージェント、そして多数のターンにわたってコンテキストを蓄積するワークフローオーケストレーターが含まれます。重要な事実を保持しながら重複するトークン送信を減らすことで、Lexi はこれらのエージェントを、より深い対話でも低コストで運用できるようにする可能性があります。

OpenClaw 内では、プロンプトルーティング、メモリ認識型タスク実行、利用状況分析、プロバイダー仲裁のためのスキルと Lexi を組み合わせるのが実用的なパターンになりそうです。想定されるワークフローでは、OpenClaw エージェントがモデルを選択し、トラフィックを Lexi 経由で流して制約付きコンテキスト最適化を行い、その後 Lexi のレスポンスヘッダーを使ってレポートや最適化ポリシーを発動します。適切に実装されれば、この組み合わせは、運用、サポート、プロダクト、エンジニアリングの各チームが、より厳密なコスト管理のもとで長時間実行の AI ワークフローを維持する助けとなる可能性がありますが、元ページでは OpenClaw とのネイティブ統合は確認されていません。