AI产品经理 – AI Router方向

Gate.io

AI Product Manager leading AI infrastructure for model routing and support for Multi-LLM aggregation. Collaborating with experts to build a highly available global AI routing platform.

Posted 6/9/2026full-timeRemote • 🇨🇳 ChinaJuniorMid-LevelWebsite

About the role

Key responsibilities & impact

负责海量通用大模型（如 OpenAI, Anthropic, DeepSeek 等）的标准化接入、适配与封装，统一输出高兼容性的标准化 API 接口，彻底解决多模型版本兼容与调用不一致痛点。
设计并持续迭代 AI 流量路由策略，主导智能路由、动态负载均衡（Load Balancing）、并发限流（Rate Limiting）、模型降级与故障熔断机制的设计，保障平台在极端高并发下的绝对稳定性。
构建企业级 AI 权限体系、多租户账号体系、调用配额管理以及精细化的 Token 计费账单（Metering & Billing）、日志审计与风控防刷系统，支撑 B 端企业与 C 端用户的大规模商业化接入。
协同研发、测试、运维团队高效推进版本迭代，梳理全链路业务流，跟进线上问题闭环，持续优化中转平台的吞吐量性能与综合成本结构（Cost Optimization）。
跟踪全球 AI 产业动态与模型迭代趋势，将客户痛点转化为标准化的中台能力，对内赋能多元业务线，对外实现高价值的商业化输出。

Requirements

What you’ll need

2-3 年 AI 产品、大模型平台、API 中台或高性能 SaaS 平台的产品实战经验。
懂技术、知底层：深刻理解大模型调用链路、API 转发逻辑、网络协议、并发控制、超时重试等底层逻辑，能与 Infra 工程师进行无障碍的技术对话。
熟悉全球主流大模型（LLMs）的能力特性，对大模型微调（Fine-tuning）、知识库（RAG）、上下文管理、对话记忆与 Prompt 工程有扎实的基础认知。
具备极强的逻辑抽象与架构设计能力，可独立独立输出高质量、高严谨度的 PRD、时序流程图与高保真原型。
具备强烈的 Owner 意识、卓越的数据敏感度与项目推进力，抗压能力强，乐于挑战技术未知。
有成熟 AI 中转平台、API 分发平台、算力调度中心或企业级 AI 中台完整从 0 到 1 落地经验者优先。
熟悉各类大模型适配层、对话接口及 Embedding 向量接口调用逻辑。
具备丰富的 B 端高并发 SaaS 商业化计费、多级权限体系及反套利风控设计经验。
熟练掌握现代全栈开发辅助工具（如 Cursor/Claude Code 等），具备代码级沟通与极客思维。

Benefits

Comp & perks

处于 AI 大模型基础设施（Infra）的黄金赛道，业务呈爆发式增长，想象空间巨大。
直接操盘平台核心基建，全方位接触模型编排、高并发调度、商业化闭环等高含金量技术流。
紧跟全球最前沿的 AI 技术演进与商业模式，全面跃升为行业稀缺的底层平台型 AI 产品专家。

ATS Keywords

✓ Tailor your resume

Applicant Tracking System Keywords

Tip: use these terms in your resume and cover letter to boost ATS matches.

Hard Skills & Tools

API大模型平台高性能 SaaS并发控制超时重试微调知识库上下文管理对话记忆Prompt 工程

Soft Skills

逻辑抽象能力架构设计能力项目推进力抗压能力Owner 意识数据敏感度