目前普遍认为接收器工作特性（Receiver Operating Characteristic，ROC）曲线下的面积 ——AUC 是评估分类模型准确性的标准方法。 AUC 是 1，但是二元交叉熵非常大，因为预测结果和真实标签之间的误差太大）；根据 auc 的公式我们可以知道 auc 对于具体的概率值不敏感，它的计算过程事先会把概率值转化为 rank 排序，所以 auc (2) AUC 反应了太过笼统的信息。 无法反应这类信息），AUC 只关注正负样本之间的排序，并不关心正样本内部，或者负样本内部的排序，这样我们也无法衡量样本对于好坏客户的好坏程度的刻画能力； (5) 最重要的一点，AUC 的 misleading 如图，modelA 和 modelB 的 ROC 曲线下面积 AUC 是相等的，但是两个模型在不同区域的预测能力是不相同的，所以我们不能单纯根据 AUC 的大小来判断模型的好坏。
AUC数值即为ROC曲线下的面积。ROC曲线从0点开始上升越快，说明模型错分正样本的比例越小，模型对正样本识别的能力越强。 在ROC曲线的基础上，抛开阈值的调节，ROC曲线下半部分的面积值就是AUC值。AUC值介于0到1之间，是一种概率值。 本质上AUC是在模型预测的数据集中，比较正负样本，评估正样本分数排在负样本之上的能力，进而估计模型对正样本预测的可信程度。 由于AUC指标能较好地概括不平衡类别的样本集下分类器的性能，因此成为很多机器学习系统中的最终判定标准。
发布文章赢千元好礼！
这篇博文简单介绍ROC和AUC的特点，以及更为深入地，讨论如何作出ROC曲线图以及计算AUC。 ROC曲线 需要提前说明的是，我们这里只讨论二值分类器。 AUC值的计算 AUC（Area Under Curve）被定义为ROC曲线下的面积，显然这个面积的数值不会大于1。 使用AUC值作为评价标准是因为很多时候ROC曲线并不能清晰的说明哪个分类器的效果更好，而作为一个数值，对应AUC更大的分类器效果 更好。 在此推荐scikit-learn中关于计算AUC的代码。 AUC意味着什么 那么AUC值的含义是什么呢？ 当然，AUC值越大，当前的分类算法越有可能将正样本排在负样本前面，即能够更好的分类。 为什么使用ROC曲线 既然已经这么多评价标准，为什么还要使用ROC和AUC呢？
什么是 AUC？ 代码？ ---- ROC 曲线和 AUC 常被用来评价一个二值分类器的优劣。 先来看一下混淆矩阵中的各个元素，在后面会用到： ? ---- 1. 有交叉时，需要用 AUC 进行比较。 2. AUC： 是 ROC 曲线下的面积，它是一个数值，当仅仅看 ROC 曲线分辨不出哪个分类器的效果更好时，用这个数值来判断。 ? 从上面定义可知，意思是随机挑选一个正样本和一个负样本，当前分类算法得到的 Score 将这个正样本排在负样本前面的概率就是 AUC 值。AUC 值是一个概率值，AUC 值越大，分类算法越好。 6. = np.array([0.1, 0.4, 0.35, 0.8]) roc_auc_score(y_true, y_scores) 0.75 ---- 学习资料： 《机器学习》，周志华 http
我们用一个标量值AUC来量化他。 AUC AUC值为ROC曲线所覆盖的区域面积,显然,AUC越大,分类器分类效果越好。 AUC = 1，是完美分类器，采用这个预测模型时，不管设定什么阈值都能得出完美预测。绝大多数预测的场合，不存在完美分类器。 0.5 < AUC < 1，优于随机猜测。 AUC = 0.5，跟随机猜测一样（例：丢铜板），模型没有预测价值。 AUC < 0.5，比随机猜测还差；但只要总是反预测而行，就优于随机猜测。 计算AUC: 第一种方法:AUC为ROC曲线下的面积,那我们直接计算面积可得。面积为一个个小的梯形面积之和。计算的精度与阈值的精度有关。 AUC matlab代码: function [result]=AUC(test_targets,output) %计算AUC值,test_targets为原始样本标签,output为分类器得到的标签
ROC曲线及AUC值 参考文献：【ROC曲线与AUC值】，【ROC，AUC最透彻的讲解（实例分析+matlab代码）】，【AUC计算方法与Python实现】，【AUC曲线计算方法及代码实现】 1. 于是Area Under roc Curve(AUC)就出现了。 顾名思义，AUC的值就是处于ROC curve下方的那部分面积的大小。 通常，AUC的值介于0.5到1.0之间，较大的AUC代表了较好的performance。 2. AUC值 6.1 AUC值的定义 AUC值为ROC曲线所覆盖的区域面积，显然，AUC越大，分类器分类效果越好。 AUC=1，是完美分类器，采用这个预测模型时，不管设定什么阈值都能得出完美预测。 ，与后面自己写的方法作对比 print('sklearn AUC:', roc_auc_score(y_labels, y_scores)) print('diy AUC:',calAUC
ROC代表曲线，而AUC代表一条曲线与下方以及右侧轴形成的面积。如果某种方法的准确率为100%，则AUC=1×1=1，AUC的区间在0-1之间，越大越好。 ? = classifier.fit(X_train, y_train).decision_function(X_test) # 计算ROC fpr = dict() tpr = dict() roc_auc ) for i in range(n_classes): fpr[i], tpr[i], _ = roc_curve(y_test[:, i], y_score[:, i]) roc_auc [i] = auc(fpr[i], tpr[i]) fpr["micro"], tpr["micro"], _ = roc_curve(y_test.ravel(), y_score.ravel()) roc_auc["micro"] = auc(fpr["micro"], tpr["micro"]) #显示到当前界面，保存为svm.png plt.figure() lw = 2 plt.plot(fpr
这里如果有感谢兴趣的朋友，也可以查看下 这篇博客， 应该是我找到的比较有深度的 auc 的计算了 为什么需要 AUC 前面我们说了 ROC曲线 可以用来给一个模型确定阈值， 那么 AUC 则是来评判一个 如果 AUC = 1:完美预测，基本不会存在的情况。 如果 0.5 < AUC < 1：除了完美预测，那就乘这个区间的最有价值了。 如果 AUC = 0.5：因为是二分类，随机猜测也就是这个概率了，完全就没有价值 如果 AUC < 0.5：比随机猜测的概率还低！！！但是反过来说，非黑即白，如果取个反呢？ 用 ROC 和 AUC 来评判就是可以很好的避免这个问题了， 具体你可以自己算算这个列子的 ROC 曲线就可以理解了。 AUC 计算 首先还是这篇博客。 所以这里我就贴一个工作中计算方式： 1.首先我们计算AUC肯定得有一份打完分了的数据，假设数据auc.text,内容如下： -1 0.12 -1 0.13 -1 0.16 1
文章目录 1 AUC的两种解读视角： 1.1 ROC曲线与坐标轴形成面积 1.2 古典概率模型——求导AUC 2 AUC的特性与优劣 3 AUC多大才算好？ 4 线上、线下AUC差异较大成因分析 4.1 业务场景使用AUC：点击模型与购买模型的差异 4.2 线上、线下AUC有差异 5 AUC逻辑升级 - GAUC 参考文献 1 AUC的两种解读视角： 1.1 （3）auc非常适合评价样本不平衡中的分类器性能 3 AUC多大才算好？ 多高的AUC才算高？ 首先AUC = 1可能吗？ 6 线下AUC提升为什么不能带来线上效果提升？–测试和评估的一些真相 7 精确率、召回率、F1 值、ROC、AUC 各自的优缺点是什么？ 8 如何解决离线和线上auc和线上点击率不一致的问题？ 9 AUC 的缺陷是什么？ 10 线下auc涨，线上ctr/cpm跌的原因和解决办法
[正因为这个原因，AUC也只是衡量模型排序能力的指标，不能保证模型预测的精准性；比如在ctr预估中，不能保证pctr接近ctr，可以保证正例的pctr，高于负例的ctr。 AUC计算伪代码 ? AUC的计算过程和ROC曲线的绘制算法相似，不同之处在于每次不再是向列表中添加坐标点，而是计算一个梯形面积，通过面积的不断叠加，从而得到最终的AUC指标。 AUC表示的ROC曲线包围的面积，AUC的取值范围[0,1]之间。计算这个面积，理论上可以使用积分法，但是也可以通过叠加各个小梯形的面积来得到。 AUC是ROC曲线包围的面积，也继承了ROC本身的特点，是一种衡量模型排序能力的指标，等效于–对于任意一对正负例样本,模型将正样本预测为正例的可能性大于 将负例预测为正例的可能性的概率。 ? = 1 else: auc = auc_temp / total_area return auc Reference An introduction to ROC analysis
以load_breast_cancer数据集为例，模型细节不重要，重点是画AUC的代码。 = metrics.auc(fpr, tpr) plt.figure(figsize=(6,6)) plt.title('Validation ROC') plt.plot(fpr, tpr, 'b' , label = 'Val AUC = %0.3f' % roc_auc) plt.legend(loc = 'lower right') plt.plot([0, 1], [0, 1],'r--') 补充拓展：Python机器学习中的roc_auc曲线绘制 废话不多说，直接上代码 from sklearn.metrics import roc_curve,auc from sklearn.ensemble =auc(fpr,tpr) plt.figure(figsize=(10,10)) plt.plot(fpr, tpr, color='darkorange', lw=2, label='ROC curve
六、AUC （一）AUC的计算 AUC (Area Under Curve) 被定义为ROC曲线下的面积，显然这个面积的数值不会大于1。 例 2中的AUC值为0.75 （二）AUC的含义 根据(Fawcett, 2006)，AUC的值的含义是： The AUC value is equivalent to the probability 这句话的意思是：首先AUC值是一个概率值，当你随机挑选一个正样本以及一个负样本，当前的分类算法根据计算得到的Score值将这个正样本排在负样本前面的概率就是AUC值。 0.5 < AUC < 1，优于随机猜测。这个分类器（模型）妥善设定阈值的话，能有预测价值。 AUC = 0.5，跟随机猜测一样（例：丢铜板），模型没有预测价值。 AUC < 0.5，比随机猜测还差；但只要总是反预测而行，就优于随机猜测。 三种AUC值示例： ? 4.png 七、为什么使用ROC曲线 既然已经这么多评价标准，为什么还要使用ROC和AUC呢？
我就废话不多说了，大家还是直接看代码吧~ import tensorflow as tf from sklearn.metrics import roc_auc_score def auroc(y_true , y_pred): return tf.py_func(roc_auc_score, (y_true, y_pred), tf.double) # Build Model... model.compile(loss='categorical_crossentropy', optimizer='adam',metrics=['accuracy', auroc]) 完整例子： def auc (y_true, y_pred): auc = tf.metrics.auc(y_true, y_pred)[1] K.get_session().run(tf.local_variables_initializer adam = optimizers.Adam(lr=0.01) model.compile(optimizer=adam,loss='binary_crossentropy',metrics = [auc
AUC曲线 AUC（Area Under Curve）被定义为ROC曲线下的面积，这个面积的数值不会大于1。又由于ROC曲线一般都处于y=x这条直线的上方，所以AUC的取值范围在0.5和1之间。 使用AUC值作为评价标准是因为很多时候ROC曲线并不能清晰的说明哪个分类器的效果更好，而作为一个数值，对应AUC更大的分类器效果更好。 为什么呢，因为ROC曲线越接近左上角，AUC面积就越大，分类器性能就越好。 参考文献：孔明的博客、百度百科
输入：预测值prob和标签label 输出：auc xgboost xgboost基于“从集合中任意选择一个正样本和负样本，正样本预测值大于负样本预测值的概率”实现了带weight的auc。 def eval_auc(items): items.sort(key=lambda e: e.prob, reverse=True) auc, sum_pos, sum_neg = 0.0 += sum_pos sum_neg += 1 auc = auc / (sum_pos + sum_neg) return auc 这样的实现缺少考虑存在若干个 (sum_pos * sum_neg) sklearn.metrics.roc_auc_score sklearn通过计算roc曲线下的面积得到auc的值。 由于测试样本有限，auc曲线呈现阶梯形状，当多个测试样本的prob相等且label不完全相同时，auc在该区域表现为梯形。
目录： （1）ROC曲线的由来 （2）什么是ROC曲线 （3）ROC曲线的意义 （4）AUC面积的由来 （5）什么是AUC面积 （6）AUC面积的意义 （7）讨论：在多分类问题下能不能使用ROC曲线 五、什么是AUC面积 AUC就是ROC曲线下的面积，衡量学习器优劣的一种性能指标。从定义可知，AUC可通过对ROC曲线下各部分的面积求和而得。假定ROC曲线是由坐标为 ? 的点按序连接而形成，参见图2，则AUC可估算为公式3。 ? 六、AUC面积的意义 AUC是衡量二分类模型优劣的一种评价指标，表示预测的正例排在负例前面的概率。 的概率就等于AUC。所以AUC反映的是分类器对样本的排序能力。根据这个解释，如果我们完全随机的对样本分类，那么AUC应该接近0.5。 AUC对样本类别是否均衡并不敏感，这也是不均衡样本通常用AUC评价学习器性能的一个原因。
数据挖掘面试：不得不学的AUC！ 关于作者：Milter，一名机器学习爱好者、NLP从业者、终生学习者，欢迎志同道合的朋友多多交流。 为什么AUC值一定是大于0.5的？ 0x01 预备知识 为了上述问题，需要大家对ROC PR曲线有基本的认识，由于不是本文重点，仅给出一些参考资料。 0x04 为什么AUC值一定是大于0.5的？ 因为当AUC小于0.5时，只要将所有的预测概率P换成1-P，就可以让AUC大于0.5了。这是一道抖机灵题哈。
导语 机器学习模型的评估指标很多，对于分类问题常会看到AUC作为性能衡量指标，大家往往对AUC值本身感兴趣，如其具体值的物理含义等。本文希望不引入太多公式，简单讨论下AUC指标。 显然AUC是0.5的话，就说明这个模型和随便猜没什么两样。 AUC代表分类器的辨识度，AUC越大，往往表明分类辨识效果越好。 然而有些场景下AUC值不一定适宜表征分类器性能，对于数据高度不平衡的场景，AUC值会偏高。虽然AUC对不平衡类别不敏感，但是会产生有误导的结果。 = metrics.roc_auc_score(label,rand_preds) good_auc = metrics.roc_auc_score(label,good_preds) better_auc AUC。
-AUC计算方法 -AUC的Python实现方式 AUC计算方法 AUC是ROC曲线下的面积，它是机器学习用于二分类模型的评价指标，AUC反应的是模型对样本的排序能力。 AUC的计算主要以下几种方法： 1、计算ROC曲线下的面积。这是比较直接的一种方法，可以近似计算ROC曲线一个个小梯形的面积。几乎不会用这种方法 2、从AUC统计意义去计算。 AUC的Python实现 通过上面方法二的公式，AUC计算的Python实现如下： def calAUC(prob,labels): f = list(zip(prob,labels)) rank = 0 auc = (sum(rankList)- (posNum*(posNum+1))/2)/(posNum*negNum) print(auc) return auc 其中输入prob 是得到的概率值，labels是分类的标签（1，-1） 以上这篇AUC计算方法与Python实现代码就是小编分享给大家的全部内容了，希望能给大家一个参考。
全球应用加速(GAAP)依赖全球节点之间的高速通道、转发集群及智能路由技术，实现各地用户的就近接入，通过高速通道直达源站区域，帮助业务解决全球用户访问卡顿或者延迟过高的问题……
扫码关注腾讯云开发者
领取腾讯云代金券
云服务器
网站备案
文件存储
命令行工具
SSL 证书
