GPT无需计算器就能解决数学问题

通过在大规模算术运算数据集上微调,一个20亿参数的语言模型可以在没有数据泄露的情况下,准确地执行多位数字的算术运算,准确率接近100%,明显超过GPT-4(其多位数乘法准确率仅为4.3%)。研究者还通过在包含多步骤算术运算和文本描述数学问题的数据集上微调GLM-10B,使得到的MathGLM在一个包含5000个样本的中文数学问题测试集上,取得了与GPT-4相当的表现。这表明足够的数据和微调,大模型确实可以无需计算器准确执行数学运算和解决数学问题。这一发现挑战了此前大模型无法精确执行乘法等算术运算的假设。