本文是将文章《8.3.2 前向分步算法与 AdaBoost》中的公式单独拿出来做一个详细的解析，便于初学者更好的理解。

接下来我们解析公式（8.22）具体的简化过程：
$$\sum _{i=1}^N{w}_{mi}\exp (-y_i\alpha G(x_i))=\sum _{y_i=G_m(x_i)}{w}_{mi}{e}^{-\alpha }+\sum _{y_i\ne G_m(x_i)}{w}_{mi}{e}^{\alpha }$$

$$=(e^{\alpha }-e^{-\alpha })\sum _{i=1}^N{w}_{mi}I(y_i\ne G(x_i))+e^{-\alpha }\sum _{i=1}^N{w}_{mi}$$

公式（8.22）第1部分

第1部分是：

$$\sum _{i=1}^N{w}_{mi}\exp (-y_i\alpha G(x_i))=\sum _{y_i=G_m(x_i)}{w}_{mi}{e}^{-\alpha }+\sum _{y_i\ne G_m(x_i)}{w}_{mi}{e}^{\alpha }$$

这个公式将样本分成了两部分：

1. 正确分类的样本（即 $y_i=G_m(x_i)$），这些样本的权重乘以 $e^{-\alpha }$。
2. 错误分类的样本（即 $y_i\ne G_m(x_i)$），这些样本的权重乘以 $e^{\alpha }$。

使用指示函数 $I(y_i\ne G(x_i))$

为了将正确分类和错误分类合并成一个表达式，我们可以引入指示函数 $I(y_i\ne G(x_i))$，它的定义是：

$$I(y_i\ne G(x_i))=\{\begin{array}{ll}1,& \text{如果 }{y}_i\ne G(x_i)\\ 0,& \text{如果 }{y}_i=G(x_i)\end{array}$$

利用这个指示函数，我们可以将两个部分合并：

• 对于正确分类的样本（$y_i=G(x_i)$），指示函数 $I(y_i\ne G(x_i))=0$，因此这部分的项为 $w_{mi}{e}^{-\alpha }$。
• 对于错误分类的样本（$y_i\ne G(x_i)$），指示函数 $I(y_i\ne G(x_i))=1$，因此这部分的项为 $w_{mi}{e}^{\alpha }$。

重写公式第1部分

将公式第1部分用指示函数表示，可以得到：

$$\sum _{i=1}^N{w}_{mi}\exp (-y_i\alpha G(x_i))=\sum _{i=1}^N{w}_{mi}\left(e^{-\alpha }(1-I(y_i\ne G(x_i)))+e^{\alpha }I(y_i\ne G(x_i))\right)$$

在这个表达式中：

• 当 $y_i=G(x_i)$ 时，$I(y_i\ne G(x_i))=0$，该项为 $w_{mi}{e}^{-\alpha }$。
• 当 $y_i\ne G(x_i)$ 时，$I(y_i\ne G(x_i))=1$，该项为 $w_{mi}{e}^{\alpha }$。

提取公因式

现在，我们可以将 $e^{\alpha }$ 和 $e^{-\alpha }$ 提取出来：

$$=e^{-\alpha }\sum _{i=1}^N{w}_{mi}(1-I(y_i\ne G(x_i)))+e^{\alpha }\sum _{i=1}^N{w}_{mi}I(y_i\ne G(x_i))$$

进一步分解并整理得到：

$$=(e^{\alpha }-e^{-\alpha })\sum _{i=1}^N{w}_{mi}I(y_i\ne G(x_i))+e^{-\alpha }\sum _{i=1}^N{w}_{mi}$$

最终结果

通过以上步骤，我们将第1部分中的公式成功地合并成一个公式，即第2部分 中的结果：

$$=(e^{\alpha }-e^{-\alpha })\sum _{i=1}^N{w}_{mi}I(y_i\ne G(x_i))+e^{-\alpha }\sum _{i=1}^N{w}_{mi}$$

总结

通过使用指示函数 $I(y_i\ne G(x_i))$，我们能够将正确分类和错误分类的项合并到一个表达式中。这样做的好处是简化了公式，使得我们可以在同一个公式中处理不同的分类情况，并便于后续计算。