刘腾

研究图文跨模态对齐的统一表征学习方法，以提高全网搜索场景下多模态网页与文档的检索召回效果。

• 使用 Qwen3-VL-30B-A3B 完成 2D BBox 标注并修正 MSCOCO 错误标注，围绕不同检索目标生成任务感知的 COT 推理轨迹。
• 基于 Qwen3-VL-2B 训练 Embedding 模型，将 30B Teacher 推理数据蒸馏至 Qwen3-VL-8B Reasoner，并结合 GRPO 优化推理效果。
• 采用基于 SVD 的多任务 LoRA 适配器融合；在 MMEBv1 上，8B / 30B Reasoner 较 Btoks-2B 基线分别提升 2.6% 和 3.8%。

构建合同全生命周期辅助方案，提供智能模板推荐、风险审查与规章比对服务。

• 利用 LLM 和提示词设计生成实体与关系类型，使用 PMI 筛选高频贡献实体类型对；通过 LightRAG 构建知识图谱，检索召回率较企业内部模板检索系统提升 32%。
• 采用 PlanAndExecute 架构结合 MCP，集成检索、摘要、对比工具链，构建模板推荐 Agent。
• 通过 DOM 解析和行级锚点注入实现审查结果行级追溯，结合规则审查与知识库 RAG；法务采纳率 90%，已落地应用。

设计并优化金融垂域问答模型，解决通用大模型在金融政策场景下理解不足、回复准确性差的问题。

• 基于规则进行问答对数据增强，使用 LLM 作为裁判对扩充数据进行多维度质量筛选。
• 对 ChatGLM3 进行 SFT 与 DPO 两阶段训练，并以 GPT-4 为裁判进行自动评估，问答质量较 GPT-3.5 提升 10.8%。
• 在 910B 平台解决 FastChat 的模型多卡部署问题，使用 LangChain 搭建兼容多模型的问答平台。

面向 DWG、PDF 等多类建筑工程文件，自动识别预定义字段并结构化输出。

• 采用适配器模式构建统一解析组件；针对 CAD 图纸元素内容不连续，利用 SCREENtree 加速的 DBSCAN 进行文本逻辑聚合，结合特征点矩阵识别表格拓扑、提取表数据并按空间坐标排序。
• 基于种子数据和规则进行数据增强，使用 K-Global Pointer 微调模型完成内容预筛选，剔除低置信度片段以控制大模型上下文。
• 结合大模型完成字段抽取，业务数据字段抽取准确率达到 93.7%。