大模型应用工程师

发布时间：2025-06-05 10:20:22 | 责任编辑：吴卓 | 浏览量：7 次

是专注于将大型预训练模型应用到实际业务场景中的专业人员。以下是的主要职责、工作内容和技能要求：

岗位职责

1. 模型适配与落地：根据具体业务需求，选择合适的大模型，并进行场景适配，包括微调和优化，以满足特定任务的要求。

2. 技术方案设计：分析业务需求，设计基于大模型的技术解决方案，将业务问题转化为技术问题，并构建系统架构。

3. 数据处理与管理：负责数据的收集、清洗、预处理等工作，确保数据的可靠性和一致性。同时，运用数据挖掘和分析技术，为模型训练提供支持。

4. 模型部署与优化：将训练好的模型部署到实际生产环境中，考虑硬件资源、延迟、并发等因素，选择合适的平台和工具进行部署和集成。持续监测模型表现，并根据反馈进行优化。

5. 项目管理：参与项目规划、任务分配、进度跟踪和质量控制，协助团队管理和建设。

工作内容

1. 场景落地：将大模型应用于垂直领域，如医疗、法律、金融等。

2. Prompt工程：设计高质量的Prompt模板及Few-shot示例。

3. RAG开发：构建检索增强生成系统，实现向量数据库与大模型的协同工作。

4. 工具链搭建：部署LangChain、LLamaIndex等应用框架。

5. API调用与微调：熟悉主流大模型API（如GPT-4、Claude、Gemini）的调用及微调。

6. 知识图谱构建：掌握知识图谱构建、文本向量化（BERT、Contriever）技术。

7. 模型优化技术：熟悉大模型优化技术链，如SFT、RLHF、DPO。

技能要求

1. 编程和开发技能：熟练掌握Python、Java或C++等编程语言，熟悉软件开发生命周期和敏捷开发方法。

2. 数据处理和分析技能：掌握数据预处理技术，如数据清洗、特征工程等，熟练使用数据分析工具（Pandas、NumPy、Matplotlib）。

3. 机器学习和深度学习知识：熟悉常用机器学习算法和深度学习架构，如CNN、RNN、Transformer等。

4. 系统架构和设计技能：熟悉分布式计算和存储系统（Hadoop、Spark、NoSQL数据库），了解微服务架构和容器化技术（Docker、Kubernetes）。

5. 性能优化和监控技能：熟悉性能评估指标，掌握监控工具（Prometheus、Grafana、ELK Stack）。

6. 安全和合规性知识：了解数据隐私和保护措施，熟悉网络安全最佳实践。

7. 项目管理和团队协作技能：具备良好的沟通能力和团队协作精神，能够制定项目计划和时间表。

8. 持续学习能力：关注行业动态和技术发展趋势，快速适应新技术和新工具。

需要具备广泛的技能和知识，以有效地管理和部署大型机器学习模型。通过不断学习和实践，他们可以不断提升自己的专业水平，为公司创造更大的价值。