推理优化工程师Inference Optimization Engineer
旧金山或匹兹堡
端到端地让前沿模型推理更快。你会在 GPU kernel、编译器、运行时、批处理、调度和推理服务等各个层面工作,把系统研究变成线上的实际性能。
计算机科学或相关专业的本科、硕士或博士学位。
申请 →在 Lithos,我们在整个技术栈里抠毫秒:从 GPU kernel 到调度器,再到推理服务。如果你觉得我们现在还不够快,欢迎来聊。
我们正在招聘机器学习、推理优化和核心系统方向的工程师,也在招市场和销售等非工程岗位。如果没看到合适的岗位,但觉得自己适合这里,请发邮件到 jobs@lithosai.com
福利: 股权;完善的医疗、牙科和视力保险;401(k) 公司匹配。
签证担保: 视个人情况提供工作签证担保。
旧金山或匹兹堡
端到端地让前沿模型推理更快。你会在 GPU kernel、编译器、运行时、批处理、调度和推理服务等各个层面工作,把系统研究变成线上的实际性能。
计算机科学或相关专业的本科、硕士或博士学位。
申请 →旧金山或匹兹堡
让模型本身更容易跑快。你会做投机解码、注意力和 KV cache 优化,以及其他模型层面的技术,在保持完整模型质量的前提下提高每秒 token 数。
计算机科学或相关专业的本科、硕士或博士学位。
申请 →旧金山或匹兹堡
构建支撑高速、可靠推理服务的分布式系统。作为通才,你会参与核心基础设施、资源管理、容错、可观测性和 API 等方向,负责让 Lithos 大规模运行的各个系统。
计算机科学或相关专业的本科、硕士或博士学位。
申请 →远程,或旧金山、匹兹堡
帮助开发者用 Lithos 构建更快的 Agent。你会写技术内容和示例,直接和用户打交道,把他们的需求带回工程团队,并围绕高性能模型推理建立社区。
计算机科学或相关专业的本科、硕士或博士学位。
申请 →