Lead
Verified 5d agoPosted last month
1. AI智能体研发:负责多智能体协同、任务规划、记忆管理核心算法设计与云原生工程落地;通过实验调优迭代模型效果,跨团队协同实现产品商业化落地。2. 大模型推理优化:搭建稳定高效的推理服务体系,负责推理引擎调优、算子优化、量化压缩、显存/内存调度优化,降低推理时延、提升吞吐,保障线上服务高可用。3. 向量存储与记忆体系:研发向量网关、SDK及底层引擎,搭建AI智能体长期记忆框架;优化向量索引、IO链路及元数据架构,解决高并发海量数据存储性能瓶颈。4. HPKV高性能缓存研发:负责KVCache存储、管控服务及vLLM框架开发迭代,针对GPU调度、内存通信、读写链路做全链路性能优化,保障缓存服务高效稳定运行。5. 大模型核心算法:开展大模型预训练、微调、推理优化及底层算子开发调优;通过强化学习与对齐策略迭代,提升模型泛化能力与决策质量。6. 云电脑智能体科研(博士专项):基于多模态行为数据构建智能体任务预测与理解模型,结合模仿化学习实现自主任务执行,搭建评测体系驱动智能体持续迭代。