职位详情

工作内容/职位描述： 1.负责AI模型从训练完成到推理上线的全链路工程化，包括模型量化压缩、API服务封装、容器化部署、推理性能调优与灰度发布，保障模型高效稳定上线；2.参与AI大模型推理服务平台核心功能研发，包括模型服务编排、推理请求调度与负载均衡、多租户资源隔离、弹性扩缩容等模块的设计与实现；3.负责Token服务体系建设与运营开发，包括Token计量计费、多模型路由调度、推理并发优化、缓存策略等核心能力研发，实现从裸算力到按Token交付服务能力；4.建设Token服务运营分析体系，对Token调用量、推理延迟、算力利用率、服务成本等指标进行量化分析，识别瓶颈与优化空间，驱动平台能力迭代与定价策略优化；5.负责AI Agent应用的工程开发，实现工具调用、任务编排、知识检索等Agent核心能力的架构设计与技术落地，支撑智能客服、智能运维等场景的Agent产品化；6.研发RAG系统的工程化方案，包括文档解析、向量化建库、混合检索、重排序等模块，构建高质量的知识增强检索服务；7.对接政企客户AI业务需求，协助完成模型部署方案与服务接入设计，保障推理服务可用性与客户业务稳定运行，推动AI平台运营流程标准化与自动化。 任职要求： 1.熟练掌握Python/Go/Java中至少一种编程语言，代码能力扎实，有实际项目开发经验，了解设计模式与软件工程最佳实践；2.熟悉容器化与云原生技术栈（Docker、Kubernetes、CI/CD等），了解微服务架构设计，有分布式系统开发经验者优先；3.了解大模型推理服务基本流程，对Token计量、推理调度、模型路由等MaaS服务化技术有认知或实践经验；4.有AI应用工程化开发经验者优先，包括大模型推理服务部署、AI Agent工程开发、RAG系统搭建、模型服务化封装等；5.了解主流AI推理框架（如vLLM、Triton Inference Server等）及GPU/NPU推理优化技术者优先；6.具备较强的系统思维与工程落地能力，善于从运营数据中发现问题并驱动改进，有技术方案文档化与客户沟通经验；7.加分项：有开源项目贡献（GitHub可查）；有Token服务/MaaS平台开发经验或计费系统开发经验者优先。 立即申请 推荐给朋友 返回工作内容/职位描述：

1.负责AI模型从训练完成到推理上线的全链路工程化，包括模型量化压缩、API服务封装、容器化部署、推理性能调优与灰度发布，保障模型高效稳定上线；2.参与AI大模型推理服务平台核心功能研发，包括模型服务编排、推理请求调度与负载均衡、多租户资源隔离、弹性扩缩容等模块的设计与实现；3.负责Token服务体系建设与运营开发，包括Token计量计费、多模型路由调度、推理并发优化、缓存策略等核心能力研发，实现从裸算力到按Token交付服务能力；4.建设Token服务运营分析体系，对Token调用量、推理延迟、算力利用率、服务成本等指标进行量化分析，识别瓶颈与优化空间，驱动平台能力迭代与定价策略优化；5.负责AI Agent应用的工程开发，实现工具调用、任务编排、知识检索等Agent核心能力的架构设计与技术落地，支撑智能客服、智能运维等场景的Agent产品化；6.研发RAG系统的工程化方案，包括文档解析、向量化建库、混合检索、重排序等模块，构建高质量的知识增强检索服务；7.对接政企客户AI业务需求，协助完成模型部署方案与服务接入设计，保障推理服务可用性与客户业务稳定运行，推动AI平台运营流程标准化与自动化。