About the job
1. 负责金融行业AI基础设施解决方案设计与POC验证，面向银行、证券、保险等客户开展大模型算力平台技术交流、方案规划和落地验证。
2. 负责国产AI算力平台（PPU）的大模型部署、性能评测及优化工作，推动算力平台在金融行业规模化应用。
3. 深入分析大模型推理链路，包括Prefill/Decode、KV Cache、Continuous Batching、TP/DP/CP/PP并行、PD分离等关键技术，并进行性能调优。
4. 负责Qwen、DeepSeek、GLM等主流大模型在AI加速平台上的适配验证、部署和Benchmark测试，输出性能分析报告及优化建议。
5. 建立AI Infra性能评测体系，覆盖TTFT、TPOT、吞吐、P95/P99延迟、资源利用率、功耗等指标。
6. 支撑客户技术交流、POC实施、售前问题定位，输出技术方案、最佳实践和竞品分析材料。
Responsibilities
1. 负责金融行业AI基础设施解决方案设计与POC验证，面向银行、证券、保险等客户开展大模型算力平台技术交流、方案规划和落地验证。
2. 负责国产AI算力平台（PPU）的大模型部署、性能评测及优化工作，推动算力平台在金融行业规模化应用。
3. 深入分析大模型推理链路，包括Prefill/Decode、KV Cache、Continuous Batching、TP/DP/CP/PP并行、PD分离等关键技术，并进行性能调优。
4. 负责Qwen、DeepSeek、GLM等主流大模型在AI加速平台上的适配验证、部署和Benchmark测试，输出性能分析报告及优化建议。
5. 建立AI Infra性能评测体系，覆盖TTFT、TPOT、吞吐、P95/P99延迟、资源利用率、功耗等指标。
6. 支撑客户技术交流、POC实施、售前问题定位，输出技术方案、最佳实践和竞品分析材料。
Qualifications
Minimum
1. 计算机、人工智能、电子工程等相关专业，本科及以上学历。
2. 熟悉Linux环境，具备Python/Shell/C++开发能力，能够完成环境搭建、自动化测试及问题分析。
3. 理解Transformer、大模型推理流程、Attention机制、MoE模型等基础原理。
4. 熟悉vLLM、SGLang、TensorRT-LLM等大模型推理框架，有模型部署和性能优化经验。
5. 熟悉AI算力系统架构，包括GPU/NPU/国产AI芯片、显存、互联、分布式通信等。
6. 具备良好的客户沟通能力和技术方案输出能力。
Preferred
No preferred qualifications listed.