PROBLEM
金融问答需要
专业、可评估
通用模型在金融监管与专业知识问答中容易出现表述不完整、术语不准确的问题；训练数据与评估尺度也需要面向业务重新构建。
01 · MODEL TRAINING
金融垂域
问答模型训练
面向金融知识问答，完成数据构建、指令微调、偏好优化、昇腾推理加速与服务化交付的模型全链路实践。
金融问答需要
METHOD
数据 — 训练 — 评测
— 部署
以数据增强和 LLM 评审生成训练样本，完成 ChatGLM3 SFT、DPO 训练；使用 GPT-4 作为评审，并在 910B / 昇腾 NPU 环境部署多卡推理。
RESULT
问答质量与
推理效率同步提升
金融微调模型相对 GPT-3.5 的平均评测得分提升 10.8 个百分点；Qwen2.5-14B 在昇腾 NPU 上推理性能提升 35.1%，可支持 20–30 人并发使用。
BUSINESS ADAPTATION
从业务适配到
推理部署验证
完整保留项目汇报中的组织适配、模型训练评测及并发推理数据，用真实业务指标呈现从模型能力到服务交付的闭环。
6已适配组织
21开源模型适配
+35.1%NPU 推理提升
20–3014B 单卡支持人数
MODEL QUALITY
同题对比，聚焦答案质量
两张问答图构成同一问题上的对照关系，因此并列呈现；评分与批量生成界面则作为独立的评测证据。
TECHNOLOGY
技术栈
模型训练Python · PyTorch · ChatGLM3 · SFT · DPO
推理服务Ascend NPU · FastChat · OpenAI-compatible API
应用编排LangChain · RAG · 多模型服务平台