机器学习中的kNN算法及Matlab实例(2)

Mdl = fitcknn(X,Y,'NumNeiors',4);

既然有了模型，我们能否利用它来执行以下预测分类呢，具体来说此时我们需要使用predict()函数，例如

[plain] view plain copy

>> flwr = [5.0 3.0 5.0 1.45];

>> flwrClass = predict(Mdl,flwr)

flwrClass =

'versicolor'

书中还涉及从数据预处理到建模再到模型评估和选择的整个过程，以及背后的统计思想，涉及各种回归技术和分类技术。将被标记的原始数据集分成训练集和检验集两份，训练集用于训练分类模型，检验集用于评估分类模型性能。这个推出于 １９９１年的 ＣＭＭ１．０ 集中了四年来对软件公司评估的经验以及广泛的用户反馈，在成熟度框架的基础上建立了一个可用的模型，这个模型可以更加有效地帮助软件企业建立和实施过程改进计划。

[plain] view plain copy

CVMdl = crossval(Mdl);

然后再来看看cross-validation loss，它给出了在对那些没有用来训练的数据进行预测时每一个交叉检验模型的平均损失

[plain] view plain copy

>> kloss = kfoldLoss(CVMdl)

kloss =

0.0333

再来检验一下resubstitution loss, which，默认情况下，它给出的是模型Mdl预测结果中被错误分类的数据占比。

[plain] view plain copy

>> rloss = resubLoss(Mdl)

rloss =

0.0400

t：相同观察值的祖数 样本1 485.5 39 5411 48 5.5 41 5914.5 49 5914.5 52 10 47 6516 56 12 51 5713 原假设：总体分布相同 备选假设：总体分布不完全相同 显著性水平：95% 1612 自由度为2，风险水平是0.05的临界值为5.991，h>5.991,则拒绝原假设，认为总体分布存在差异。“基于实例的迁移学习的基本思想是，尽管辅助训练数据和源训练数据或多或少会有些不同，但是辅助训练数据中应该还是会存在一部分比较适合用来训练一个有效的分类模型，并且适应测试数据。williamkruskal （1919-2005） allenwallis （1912-1998） 从总体中抽取的样本必须是独立的用于检验多个总体是否相同(对应的参数方 法—方差分析) kruskal-wallis检验不需要总体服从正态 分布且方差相等这些假设 该检验可用于顺序数据，也可用于数值型 数据 ：并非所有总体都相同或等价于 不全相同1、合并所有的样本 2、将合并后的样本值从低到高排序 3、将排序后的值用秩代替，从最小值1开始 4、统计量 样本k的秩和样本k的样本容量 6、如果样本至少包含5个观测值，样本统计量h的分布就非常近似于自由度为k-1的卡方分布 n：观察值个数。

四、关于k值的选择

《算法学习与应用从入门到精通》320 个实例、753 分钟视频、5 个综合案例、74 个技术解惑，一本书的容量，讲解了入门类、范例类和项目实战类三类图书的内容。[2014][美国][喜剧][邻居大战/恶邻缠身/恶邻居/贱邻50][1080p-7.73g/23.98g][mkv]dts。依次经过forward向前刺激，权值矫正值计算，权值调整，样本均分误差计算。

从另外一个角度来说，算法中k值的选择对模型本身及其对数据分类的判定结果都会产生重要影响。如果选择较小的k值，就相当于用较小的领域中的训练实例来进行预测，学习的近似误差会减小，只有与输入实例较为接近（相似的）训练实例才会对预测结果起作用。但缺点是“学习”的估计误差会增大。预测结果会对近邻的实例点非常敏感。如果临近的实例点恰巧是噪声，预测就会出现错误。换言之，k值的减小意味着整体模型变得复杂，容易发成过拟合。数据分析师培训

过拟合表现在训练数据上的误差非常小，而在测试数据上误差反而增大。过拟合是指在模型学习训练中，训练样本达到非常高的逼近精度，但对检验样本的逼近误差随着训练次数而呈现出先下降后上升的现象。提取所述多维的词向量集合的特征数据，将所述特征数据与标注数据同时输入至svc模型中进行模型训练，得到短文本语义相似性判别模型的技术方案，在社交网络文本分析场景中，将待判别的两个短文本输入到上一步训练的模型中，即可输出语义相似性的判别结果，创新地将深度学习算法应用于解决自然语言处理中的短文本语义相似性判别。

在应用中，k值一般推荐取一个相对比较小的数值。并可以通过交叉验证法来帮助选取最优k值。

本文来自电脑杂谈，转载请注明本文网址：
https://www.pc-fly.com/a/jisuanjixue/article-106253-2.html