LithosAILithosAI
EN立即体验

Agent 推理。
真的快，快出圈。

原生精度，通用 GPU。

立即体验

通用 GPU，极速推理

专为 Agent 场景深度优化，每一步响应都更快。

HARNESSClaude Code•Codex•自研 harness
模型Kimi K3•DeepSeek V4.1 Flash•GLM-5.3•Qwen 3.8•Gemma 4•GPT OSS•Nemotron•自有模型

未使用 Lithos

50–150 tokens/秒
pool.rs
主流服务商（极速模式）
速度
– tok/s
已生成
– tokens
用时
– s

使用 Lithos

800 tokens/秒 最高提速 16 倍
pool.rs
Lithos 引擎
速度
– tok/s
已生成
– tokens
用时
– s

数据为单用户每秒 token 数峰值，基于 Kimi K3（2.8 万亿参数）、单台 8×B300 节点测得，2026 年 8 月。“未使用 Lithos”为速度靠前的主流服务商部署同一模型的区间。

  • 单用户极速输出

    单用户速度直接决定 Agent 完成任务的快慢，总吞吐量再高也替代不了。

  • 全链路低延迟

    规划、调用工具、观察、重试，上千步的 Agent 循环全程流畅不卡顿。

  • 原生精度，效果无损

    提速来自推理引擎本身，不量化、不降精度，模型效果完全一致。

两种接入方式

Lithos API

托管式 OpenAI 兼容 API。只需替换 base URL，现有 Agent 即刻提速。

  • 兼容各类 Agent harness，仅需修改 API 地址
  • 支持 Kimi K3、DeepSeek V4.1 Flash、GLM-5.3、Qwen 3.8、GPT OSS 等主流模型
  • 推理引擎针对 Agent 负载动态调优
  • 免部署、免运维，开箱即用
  • 获取 API key，几分钟即可上手
获取 API key

私有化部署

Lithos 引擎部署在自有 GPU 上，全程运行于企业内网。

  • 兼容现有 GPU 硬件，无需额外采购
  • 支持 Kimi K3、DeepSeek V4.1 Flash、GLM-5.3、Qwen 3.8、GPT OSS 等主流模型
  • 推理引擎针对 Agent 负载动态调优
  • 提示词与数据不出 VPC，安全可控
  • 速度与模型效果和托管 API 一致

极速 Agent，开启无限可能

立即体验