特征选择 特征工程在工业上有这么一句广为流传的话：数据和特征决定了机器学习的上限，而模型和算法只是逼近这个上限而已。接下来将给你介绍特征工程的第一个分支，特征选择。 对于一个学习任务来说，如果某一个特征和我们的学习任务没有太大关系，我们把它称之为无关特征(irrelevant feature)，如个人…
第二节：特征选择
第三节：主成分分析(PCA)
主成分分析(PCA) 维数灾难和降维 在KNN算法中曾讲到，对于高维数据，会出现数据样本稀疏、距离计算困难等问题。但是这种问题并不是仅仅针对KNN算法，只是在KNN算法中这种问题会被放大，而其他的机器学习算法也会因为高维数据对训练模型造成极大的障碍，这种问题一般被称为维数灾难(curse of dimensionality)…
第四节：scikit-learn库之主成分分析
scikit-learn库之主成分分析 PCA在scikit-leran库中的sklearn.decomposition包下，PCA即最普通的PCA，PCA也有很多变种，我们主要会讲解PCA，然后聊一聊KernelPCA、IncremetalPCA、SparsePCA、MiniBatchSparsePCA。 &e…