如何计算小数据集支持向量机分类的概率(置信度)?

电脑杂谈  发布时间:2020-04-19 20:22:04  来源:网络整理

svm测试数据集_数据有效性测试_svm测试数据集

用例:

我有一个小型数据集,每个班级大约有3-10个样本. 我正在使用sklearn SVC对rbf内核进行分类.

我需要预测的信心和预测的类型. 我使用了SVC的predict_proba方法.

数据有效性测试_svm测试数据集_svm测试数据集

我得到了奇怪的结果. 我搜索后发现它仅适用于较大的数据集.

在堆栈上找到此问题.

问题的作者通过将数据集相乘,从而复制数据集来验证这一点.

svm测试数据集_数据有效性测试_svm测试数据集

我的问题:

1)如果我将数据集乘以100,每个样本100次,它将增加“ predict_proba”的“正确性”. 有什么副作用?过拟合?

2)还有其他方法可以计算分类器的置信度吗?就像超级飞机的距离一样?

svm测试数据集_svm测试数据集_数据有效性测试

3)对于这个小样本,建议使用SVM算法还是应该选择其他方法?

首先: 出于任何实际目的,您的数据集似乎很小. 话虽这么说,让我们看看我们能做什么.

SVM主要在高维环境中流行. 尚不清楚这是否适用于您的项目. 他们在几个(甚至单个)支持实例上建造飞机,并且通常在大型神经网络训练集的情况下执行. 先验地svm测试数据集,它们可能不是您更糟糕的选择.

数据有效性测试_svm测试数据集_svm测试数据集

对数据进行过采样对使用SVM的方法影响很小. SVM基于支持向量的概念,后者基本上是类的异常值,用于定义类中的内容和未定义的内容. 构造一个新的支持向量(我假设您已将训练集用作测试集).

除了通过不平衡的过采样构造的工件外,在这种情况下svm测试数据集,简单的过采样不会为您提供有关置信度的任何新信息,因为实例将是精确的副本,并且不会发生分布. 您可以使用(合成少量过采样技术)来查找一些信息. 您将基本上根据您拥有的实例生成综合实例. 从理论上讲,这将为您提供新实例,而不是您自己的实例. 具有实例的精确副本,因此它可能会偏离常规分类. 注意: 根据定义,所有这些示例都将位于示例空间中的原始示例之间. 这并不意味着它们将在您预测的SVM空间之间,这可能是学习效果不是真实的.

最后,您可以估计距超平面的距离的置信度. 请参阅:


本文来自电脑杂谈,转载请注明本文网址:
https://www.pc-fly.com/a/jisuanjixue/article-181571-1.html

    相关阅读
      发表评论  请自觉遵守互联网相关的政策法规,严禁发布、暴力、反动的言论

      热点图片
      拼命载入中...