工作描述:
1.负责ViT、CNN及LLM等模型在生产环境的工程化落地,包括模型转换(ONNX/TensorRT/OpenVINO)、推理服务开发(Python/C++/Triton)及接口封装;
2.基于Docker构建算法服务镜像,编写Kubernetes部署资源清单(Deployment/Service/Ingress),配置HPA弹性伸缩与资源配额,保障服务韧性
3.负责推理服务与Redis、Kafka/RabbitMQ等中间件的对接,实现请求缓存、异步队列削峰、结果暂存等生产级能力
4.参与线上问题的排查与修复(服务OOM、GPU显存泄漏、延迟抖动等),编写健康检查、存活探针及监控告警规则(Prometheus + Grafana)
5.搭建算法服务的持续集成流水线(模型版本管理、镜像构建、灰度发布),配合业务方完成商用软件的迭代与交付
6.针对推理延迟(Latency)与吞吐(Throughput)进行压测与分析,优化批处理策略与GPU利用率
职位要求:
1.计算机、软件工程、自动化、人工智能等相关专业本科及以上学历;
2.2~5年算法工程化或AI后端开发经验,有实际生产环境部署经历(非仅实验室/POC);
3.熟练掌握Python,熟悉C++/Go者优先;具备良好的代码规范与工程质量意识;
4.熟悉ONNX Runtime、TensorRT、OpenVINO中至少一种推理后端,有实际模型加速与落地经验;
5.熟练使用Docker与Kubernetes,理解Pod生命周期、Service暴露、ConfigMap/Secret管理,有GPU节点调度经验(如NVIDIA GPU Operator);
6.熟悉Redis(缓存/限流/分布式锁),了解消息队列(Kafka/RabbitMQ)在异步推理场景的应用;
7.有过ViT(Vision Transformer)、CLIP等视觉Transformer模型的部署经验;对LLM推理框架(vLLM、TGI)有了解者加分;
8.熟练使用Git,了解GitFlow或Trunk-Based开发流程
9.能预见并发、容灾、数据一致性等潜在问题;良好的跨团队协作能力,能与算法研究员、后端开发、运维高效对齐需求;关注API兼容性、版本迭代策略、文档规范与交付质量
【加分项】
加分项
- 有商用级SaaS软件或企业级AI中台的开发/交付经验
- 熟悉MLOps体系(如MLflow、Kubeflow、BentoML)
- 有分布式训练或模型并行/流水线并行部署经验
- 对GPU显存优化(FlashAttention、PagedAttention)有实践
- 熟悉安全合规要求(如敏感数据脱敏、API鉴权与限流)
- 有边缘端(Jetson/Android NN)或国产化芯片(昇腾/寒武纪)部署经验
此岗位为深圳科创学院下孵创业团队的在招岗位——oncepick团队
【团队介绍】
用AI定义面部美学新范式,以AI赋能面部美学,让每个人都能高效、精准、轻松地绽放独特魅力。
清华系,计算美学科技型公司,有华为,香港理工、欧曼谛、毛戈平等行业专家与科技专家,与李泽湘深圳科创学院紧密合作。聚焦Al计算美学+智能美业方向,自研面部美学智能设备,打造下一代美学入口。
收藏
取消收藏
已投递