背景介绍
前面介绍拟合线性回归模型时都是按照最小二乘法进行的（回顾：数据分析技术：多重线性模型；也难也不难的建模从这里开始吧！），最小二乘法的原理是以预测值和实测值之差（残差）的平方和达到最小作为判断模型优劣的评判标准，应用十分广泛。没有放之四海而皆准的真理，最小二乘法同样不是万能的，它也有自身的弱点，最主要的缺点就是对强影响点（极端数据值）特别敏感。大家可以想象，最小二乘法评价模型好坏的标准是残差平方和，因此，绝对值越大的残差（极端值），平方之后，该数据值的影响就会被放得更大，从而导致回归线会明显偏向强影响点。因此，在存在异常值（极端值）时，可以考虑采用其它的回归模型拟合方法。本篇文章介绍的就是其中一种替代性方法，最小一乘法。
最小一乘法的原理其实很简单，就是将最小二乘法中考察的残差平方和换成残差绝对值，这样可以在一定程度上减小极端值（异常值）对模型趋势的影响力。由于原理简单，本篇文章就不在原理上多费笔墨，直接用例题来介绍如何使用最小一乘法，以及它的效果如何。
应用实例
超耗是制造企业都不愿意看到额外成本支出，特别是快消品类的制造企业，提高生产稳定性，减低超耗成本直接关系到企业的生产成本。某国际知名的食品公司在中国投巨资建设了一家高度自动化的熟食制造企业，在产品调试过程中超耗异常严重，所以计划部门在前期物料准备时都按仓库的最大存储量备货。生产逐步稳定以后，计划部门希望能够通过对前期数据的分析，找到合理的原料储备量，这样既能够减低原料过期风险，也能够减少滞留在原料上的生产成本。已知该工厂生产的产品由5种原料构成，但是成本主要受其中两种原材料的影响，为及时调整生产，协调库存，计划部门收集了一批产品产量与两种原材料消耗量的数据，希望建立原材料消耗量与产品产量间的回归方程，用于生产原料预测和采购参考。
分析思路
案例共有两个自变量（两种生产原料），一个因变量（产品产量）。根据常识可知，标准化生产的产品都是固定规格的，因此原料和产量间的关系是非常明确的线性关系，但是由于生产线上残次品，生产工艺缺陷原因造成的物料损耗等必然超耗的存在，每种原料的真实使用量与产品规格内原料比例存在差异。这里的超耗可以分成两种情况，如果是由生产线不稳定引起的，那么超耗的波动是很大的，而且时高时低；如果是由工艺缺陷引起的超耗，那么这部分损耗在工艺缺陷没有改进取值会一直稳定的存在。根据以上的分析，可以先对数据进行多元线性回归分析，然后与原有规格比例对比。
线性回归分析
线性回归分析的SPSS操作过程已经在前面介绍过了（回顾：数据分析技术：多重线性模型；也难也不难的建模从这里开始吧！），这里省略操作步骤，直接解释结果。
由上表的分析结果可知，两种原材料都和产品产量有线性关系，相应的二元线性回归方程为：
为了观察数据分布情况和回归方程的拟合情况，绘制两种原材料消耗量与产品产量之间散点图：
从上图可以看出，两种原料消耗量和产量间均呈较明显的线性关系，图中还分别绘制出采用最小二乘法拟合出的两个自变量回归方程的回归线。但其中原料1和原料2都存在一些数据点偏离主要趋势较远的情况出现，这也充分体现了新生产线生产过程不稳定的特点，偶尔出现生产故障导致的原料消耗过多，在回归模型中表现为强影响点（异常值）。由于后期生产会越来越稳定，在保证生产的前提下，原料的使用量受极端值的影响情况会越来越少，因此可以考虑降低极端值对回归曲线的影响力，采用最小一乘法拟合线性模型。
操作步骤
1、选择菜单【分析】-【回归】-【非线性回归】，在跳出的对话框中进行如下操作。在因变量框中选择产量，在模型表达式框中输入二元线性回归方程a+b1*x1+b2*x2。由于线性回归模型比较简单，可以将模型的三个参数初始拟合值都选为1。
2、由于我们希望对数据进行最小一乘法拟合，所以还需要进行损失设置。点击右上角的【损失】按钮，在跳出的对话框中进行如下操作。
3、点击继续，完成设置，然后点击确定，输出结果。
结果分析
由于最小一乘法在统计理论上无法进行最小二乘法那样严密的推导，所以分析结果非常简单，仅给出了迭代计算过程，最终迭代终止时的参数值即为参数估计值。下表是结果输出的迭代计算记录表，进行了14次迭代计算。
从最后的迭代计算结果可知，最小的残差绝对值之和为1029. 896。根据第14次的结果，可以写出生产数据经过最小一乘法拟合之后，得到的回归方程结果为：
究竟哪个模型更为合理？由于过往用于判断模型效果的决定系数、剩余标准差等指标都是基于最小二乘法推导而来，因此无法使用它们来判断。不过我们可以通过残差分布图来直观判断两种结果的效果。
从散点图可知，对于大部分纪录，最小一乘法的预测残差都要小于最小二乘法残差，这说明一乘法模型对大部分散点的拟合效果是比二乘法好的。注意红框中的两个数据点，最小一乘法的残差明显大于最小二乘法的，这说明最小一乘法对于强影响点（极端值）更有耐受力。我们可以做出下面的结论：最小一乘法拟合的模型对大多数散点的拟合效果比最小二乘法拟合的模型好，但对于个别强影响点的拟合效果是更差的。
所有例题的数据文件都会上传到QQ群中，需要对照练习的朋友可以前往下载，QQ群号见下方温馨提示。
温馨提示：
SPSS教学视频，请点击：《SPSS入门基础》视频教程；
生活统计学QQ群：134373751，用于分享文章提到的各种案例资料、软件、数据文件等。支持各种资料的直接下载和百度云盘下载。
生活统计学微信交流群，用于各自行业的数据研究项目及其成果交流分享；由于人数大于100人，请添加微信possitive2，拉您入群。
数据分析咨询，请点击首页下方“互动咨询”板块，获取咨询流程！