随机森林算法

• 随机森林的基本概念：随机森林是由决策树构成的集成算法，每棵决策树都是独立构建的，没有关联性。随机森林通过集成多个决策树的结果来提高整体模型的准确性和泛化性能。

• 随机森林的构造步骤：随机森林的构造包括以下四个步骤：
1. 随机选择训练集的子集作为每棵决策树的训练数据。
2. 随机选择特征子集作为每棵决策树的特征。
3. 使用选定的特征和训练数据构建决策树。
4. 重复步骤1-3，构建多棵决策树。

• 随机森林的优缺点：随机森林具有以下优点和缺点：
• 优点：
• 能够处理大量的输入特征和样本数据。
• 具有较高的准确性和泛化性能。
• 能够评估特征的重要性。
• 对于缺失数据和噪声具有较好的鲁棒性。
• 缺点：
• 训练时间较长，特别是对于大规模数据集。
• 随机森林模型的结果不易解释。

构造训练集与测试集

• 其中cvpartition 指定了构造的随机分区的大小

• 然后分别划分训练集与测试集

随机森林模型建立

朴素贝叶斯分类算法

• 联合概率分布：表示包含多个条件并且所有的条件都同时成立的概率。
对于两个随机变量X和Y而言，它们的联合概率分布可以表示为P(X=x, Y=y)，其中x和y分别表示X和Y的可能取值。联合概率分布可以通过概率密度函数（对于连续型随机变量）或概率质量函数（对于离散型随机变量）来描述。

• 贝叶斯定理：在给定一些先验信息的情况下，如何根据新的观察数据来更新我们对事件的概率估计。贝叶斯定理的数学公式如下：
贝叶斯定理通过将事件B发生的概率表示为在事件A发生的条件下的概率，从而提供了根据观察到的数据更新先验概率的方法。它可以用于推断未知的事件、进行分类、估计参数等。

• y代表的是类。

• 表示每个类与特征的似然度估计值，其越大表示，整个表示式的总体值越大。

• 是一个先验概率，表示一个固定的值。

• 朴素贝叶斯算法的优缺点：朴素贝叶斯算法具有以下优点和缺点：
• 优点：
• 算法简单，容易实现和理解。
• 对于大规模数据集具有较高的训练和预测速度。
• 对于高维数据集表现良好。
• 对于缺失数据具有较好的鲁棒性。
• 缺点：
• 朴素贝叶斯算法假设特征之间是独立的，这在某些情况下可能不成立。
• 对输入数据的分布做了较强的假设，可能导致准确性下降。
• 由于使用了简化的假设，对于复杂的分类问题可能表现不佳。

代码实现