MATHEMATICAL REASONING

逐步表达链
解数学题

以子表达式为最小生成单元和推理节点,在每一步并行生成候选子表达式,再按顺序组合为完整数学推理链。

MATH WORD PROBLEMREASONINGMODEL TRAININGLLM
Q: 8 × (2 + 5) − 3 = ?
2 + 5 = 7→8 × 7 = 56→56 − 3 = 53
REASONING ADVICE TO LLM

将逐步表达链作为可检查的解题思路,而不是只提供最终答案。

组织
浙江大学 DCD Lab
角色
模型与实验
时间
2022.07—2024.05
成果
IEEE/ACM TASLP
01 / TWO THREADS

从专用模型,
到大模型协同推理。

本科阶段的工作分成两条相连的线:毕业论文探索 GPT-3.5 时代的多角色解题;论文研究则把逐步表达链作为 LLM 的思路建议。

PART 01 / THESIS

毕业论文:多角色协同解题

前期参与常规神经网络数学应用题求解,包括训练、模型修改与数据集测试;在效果不理想后,转向探索通用大模型。

  • 面向 GPT-3.5 设计多专家与多角色场景
  • 通过多轮纠错提升数学应用题求解能力
  • 毕业论文 91/100,获评浙江大学优秀毕业论文
PART 02 / PAPER

论文:逐步表达链辅助 LLM

模型按子表达式逐步生成结构化推理链,再将生成结果作为 LLM 的解题思路建议,帮助大模型获得更明确、可检查的中间过程。

  • 实现数学问题求解逻辑与训练流程
  • 完成数据集精度测试与实验分析
  • 论文于 2024 年发表于 IEEE/ACM TASLP
查看论文 ↗
RESULT

TASLP 已发表;本科毕业论文 91/100。