1.PCA降维

不是每个数据特征对分析的问题都有用。即使有用，对问题的重要程度也不一样。而我们需要过滤和筛选一些特征，去除冗余。

数据降维是指采取某种映射方法，把高维空间中可能包含冗余信息和噪声的数据点映射到低维空间，在低维空间重新表示高维空间中的数据，挖掘数据内部本质结构特征，提高识别精度、减少计算量和空间复杂度。

PCA主成分分析，通过对矩阵进行奇异值分解，并期望在投影后的维度上方差最大，使得投影后的维度尽可能少，同时保留尽可能多的原数据特征。

pca = PCA(n_components=None, whiten=False, svd_solver='auto', iterated_power='auto', random_state=None)

其中：

· n_components指定要保留的成分的数量。

· svd设置奇异值分解的方法，如auto, full, arpack, randomized.

PCA对象的常用属性：

pca.components_：表示特征空间中的主成分，表示数据中最大方差的方向。

常用方法：

· fit(X)：用X训练模型。

· fit_transform(X)：用X拟合模型，并对X降维。

· transform(X)：对X进行降维。

2.交叉验证 CV

确定模型后，应该设置合适的模型参数。

为了对模型进行评估，不同的数据集划分会影响结果。因此可以使用不同的划分评估并求平均值。

crossvalidation交叉验证，会反复划分数据集并评估模型。//相当于就直接train了然后直接求score。

cross_val_score(estimator, X, y=None, cv=None)

其中：

· estimator指定被评估的模型。

· X和y指定数据集和对应的label。

· cv指定划分策略，设置为整数时表示把数据集拆成几个部分对模型进行训练和评分、设置为None默认使用3折叠交叉验证。

scores = cross_val_score(..., cv=shuffleSpilt(test size=, train size=, n_splits=)) //交叉验证 随机拆分

3.网格搜索

代替多次交叉验证取得最优参数的过程。

gscv = GridSearchCV(estimator, paramgrid, scoring=None, fit_params=None, cv=None, refit=True)

其中：

· estimator用来设置待选择参数的模型。

· param设置待测试和选择的参数。

· scoring设置选择参数的评分函数。

· cv同上。

· refit设置是否使用在整个数据集上发现的最佳参数对模型进行重新拟合。

GridSearchCV类对象的属性：

· cv_results：交叉验证结果。

· best_estimator：得分最高的模型。

· best_score：最佳模型的平均得分。

· best_params：最佳参数。

· scorer：使用的评分函数。

· n_splits：交叉验证时折叠的数量。

~的方法：

· fit(X, y=None)：使用所有参数拟合模型。

· predict(X)：使用最佳参数调用模型的predict()方法。

· score(X, y=None)：返回模型在指定数据上的得分。

· transform(X)：使用最佳参数调用模型的transform()方法。