首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

【深度学习】回归模型相关重要知识点总结

一、线性回归的假设是什么 线性回归有四个假设: 线性:自变量(x)和因变量(y)之间应该存在线性关系,这意味着x值的变化也应该在相同方向上改变y值。...例如,如果我们有一个从 1 到 100000 的列,那么将值增加 10% 不会改变较低的值,但在较高的值时则会产生非常大的差异,从而产生很大的方差差异的数据点。 九、方差膨胀因子的作用是什么?...它将每个实际值和预测值的差值相加,最后除以观察次数。为了使回归模型被认为是一个好的模型,MAE 应该尽可能小。 MAE的优点是:简单易懂。结果将具有与输出相同的单位。...指标二:均方误差(MSE) MSE取每个实际值和预测值之间的差值,然后将差值平方并将它们相加,最后除以观测数量。为了使回归模型被认为是一个好的模型,MSE 应该尽可能小。...指标三:均方根误差 (RMSE) 均方根误差(RMSE)取每个实际值和预测值之间的差值,然后将差值平方并将它们相加,最后除以观测数量。然后取结果的平方根。因此,RMSE 是 MSE 的平方根。

53110
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    机器学习回归模型相关重要知识点总结

    线性回归有四个假设: 线性:自变量(x)和因变量(y)之间应该存在线性关系,这意味着x值的变化也应该在相同方向上改变y值。 独立性:特征应该相互独立,这意味着最小的多重共线性。...例如,如果我们有一个从 1 到 100000 的列,那么将值增加 10% 不会改变较低的值,但在较高的值时则会产生非常大的差异,从而产生很大的方差差异的数据点。...它将每个实际值和预测值的差值相加,最后除以观察次数。为了使回归模型被认为是一个好的模型,MAE 应该尽可能小。 MAE的优点是:简单易懂。结果将具有与输出相同的单位。...指标二:均方误差(MSE) MSE取每个实际值和预测值之间的差值,然后将差值平方并将它们相加,最后除以观测数量。为了使回归模型被认为是一个好的模型,MSE 应该尽可能小。...指标三:均方根误差 (RMSE) 均方根误差(RMSE)取每个实际值和预测值之间的差值,然后将差值平方并将它们相加,最后除以观测数量。然后取结果的平方根。因此,RMSE 是 MSE 的平方根。

    1.3K30

    回归问题的评价指标和重要知识点总结

    线性回归有四个假设 线性:自变量(x)和因变量(y)之间应该存在线性关系,这意味着x值的变化也应该在相同方向上改变y值。 独立性:特征应该相互独立,这意味着最小的多重共线性。...例如,如果我们有一个从 1 到 100000 的列,那么将值增加 10% 不会改变较低的值,但在较高的值时则会产生非常大的差异,从而产生很大的方差差异的数据点。...它将每个实际值和预测值的差值相加,最后除以观察次数。为了使回归模型被认为是一个好的模型,MAE 应该尽可能小。 MAE的优点是: 简单易懂。结果将具有与输出相同的单位。...2、均方误差(MSE): MSE取每个实际值和预测值之间的差值,然后将差值平方并将它们相加,最后除以观测数量。为了使回归模型被认为是一个好的模型,MSE 应该尽可能小。...3、均方根误差 (RMSE): 均方根误差(RMSE)取每个实际值和预测值之间的差值,然后将差值平方并将它们相加,最后除以观测数量。然后取结果的平方根。因此,RMSE 是 MSE 的平方根。

    1.7K10

    【深度学习】回归模型相关重要知识点总结

    一、线性回归的假设是什么 线性回归有四个假设: 线性:自变量(x)和因变量(y)之间应该存在线性关系,这意味着x值的变化也应该在相同方向上改变y值。...例如,如果我们有一个从 1 到 100000 的列,那么将值增加 10% 不会改变较低的值,但在较高的值时则会产生非常大的差异,从而产生很大的方差差异的数据点。 九、方差膨胀因子的作用是什么?...它将每个实际值和预测值的差值相加,最后除以观察次数。为了使回归模型被认为是一个好的模型,MAE 应该尽可能小。 MAE的优点是:简单易懂。结果将具有与输出相同的单位。...指标二:均方误差(MSE) MSE取每个实际值和预测值之间的差值,然后将差值平方并将它们相加,最后除以观测数量。为了使回归模型被认为是一个好的模型,MSE 应该尽可能小。...指标三:均方根误差 (RMSE) 均方根误差(RMSE)取每个实际值和预测值之间的差值,然后将差值平方并将它们相加,最后除以观测数量。然后取结果的平方根。因此,RMSE 是 MSE 的平方根。

    35110

    数学和统计方法

    如果观察值有偶数个,通常取最中间的 两个数值的平均数作为中位数。 3、众数:出现次数最多的那个数 4、加权平均数:加权平均值即将各数值乘以相应的权数,然后加总求和得到总体值,再除以总的单位数。...在日常生活中,人们常常 把“权数”理解为事物所占的“权重” x占a% y占b% z占c% n占m% 加权平均数=(ax+by+cz+mn)/(x+y+z+n) 一维数组 沿轴向进行计算,一维数组只有一个...将一维数组转成Pandas的Series,然后调用mode()方法 将二维数组转成Pandas的DataFrame,然后调用mode()方法 Numpy的axis参数的用途 axis=0代表行...[1,4,3]]) print(f'数组:\n{a}') print('-'*30) print(np.sum(a,axis=0)) # 每行中的每个对应元素相加,返回一维数组 print('-'*30...) print(np.sum(a,axis=1)) # 每列中的每个元素相加,返回一维数 其中思路正好是反的:axis=0 求每列的和。

    13010

    Matlab数据处理

    其中的[]不可省略 %例二 求矩阵A的每行及每列的最大元素,并求整个矩阵的最大元素 max(A) %求每列的最大值 max(A,[],2) %将矩阵转置求每行的最大值 max(max(A)) %两次调用...多项式除法 [Q,r]=deconv(P1,P2):多项式相除i函数。其中,Q返回多项式Pl除以P2的商式,r返回Pl除以P2的余式。这里,Q和r仍是多项式系数向量。...若x为标量,则求多项式在该点的值;若x为向量或矩阵,则对向量或矩阵中的每个元素求多项式的值。 polyvalm(p,x) 其调用格式与polyval相同,但含义不同。...每个分段内构造一个三次多项式,使其插值函数除满足插值条件外,还要求在各节点处具有连续的一阶和二阶导数。 多项式次数并非越高越好。...interp2( ): 二维插值函数 调用格式: Z1=interp2(X,Y,Z,X1,Y1,method) 其中,X、Y是两个向量,表示两个参数的采样点,Z是采样点对应的函数值。

    18210

    GPT 大型语言模型可视化教程

    我们在聚合层中计算并存储这些值,因为我们要将它们应用于列中的所有值。 最后,在得到归一化值后,我们将列中的每个元素乘以一个学习权重 (γ),然后加上一个偏置 (β),最终得到我们的归一化值。...我们会经常看到的点乘操作非常简单:我们将第一个向量中的每个元素与第二个向量中的相应元素配对,将配对的元素相乘,然后将结果相加。...我们查看归一化自我关注矩阵的 (t = 5) 行,并对每个元素乘以其他列的相应 V 向量。 然后,我们就可以将这些相加得出输出向量。因此,输出向量将以高分列的 V 向量为主。...相反,每个输入值都要先进行指数化处理。 a = exp(x_1) 这样做的效果是使所有值都为正。有了指数化值的向量后,我们就可以用每个值除以所有值的总和。这将确保所有数值之和为 1.0。...对于每一行,我们都会存储该行的最大值以及移位值和指数值之和。然后,为了生成相应的输出行,我们可以执行一小套操作:减去最大值、指数化和除以总和。 为什么叫 "softmax"?

    18310

    【Unity3d游戏开发】Unity3D中的3D数学基础---向量

    书写向量时,用方括号将一列数括起来,如[1,2,3] 水平书写的向量叫行向量 垂直书写的向量叫做列向量 2、向量的几何意义 几何意义上说,向量是有大小和方向的有向线段。...标量与向量的乘法非常直接,将向量的每个分量都与标量相乘即可。如:k[x,y,z] = [xk,yk,zk] 向量也能除以非零向量,效果等同于乘以标量的倒数。...如:[x,y,z]/k = [x/k,y/k,z/k] 标量与向量相乘时,不需要些乘号,将两个量挨着写即表示相乘。...例如:[x,y,z] + [a,b,c] = [x+a,y+b,z+c] 减法解释为加负向量,a-b=a+(-b) 例如: [x,y,z] – [a,b,c] = [x-a,y-b,c-z] 向量不能与标量或维数不同的向量相加减...如果参数的顺序是相反的结果向量将指向正好相反的方向,但将有相同长度。向量叉乘的结果的大小等于输入向量的乘积,然后通过它们之间的角度的正弦值乘以该值的大小。 ?

    2.2K10

    R语言中管道操作符 %>%, %T>%, %$% 和 %%

    2.求这个10000个数的绝对值,然后乘以50。 3.把结果转换成一个100行100列的矩阵。 4.计算矩阵中每行的均值,并四舍五入只保留整数。 5.把结果除以7求余数,并话出余数的直方图。...1.取10000个符合正态分布的随机数。 2.求这个10000个数的绝对值,然后乘以50。 3.把结果转换成一个100行100列的矩阵。 4.计算矩阵中每行的均值,并四舍五入只保留整数。...下面定义一个10行3列的data.frame,列名分别为x,y,z,获取x列大于5的数据集。使用 %$% 把列名x直接传到右侧进行判断。这里.代表左侧的完整数据对象。...[x>5,] 如果不使用%$%,我们通常的代码写法为: library(magrittr) set.seed(123) dfx=1:10,y=rnorm(10),z=letters...>%操作符,你会发现取完绝对值,排完序之后的结果直接覆盖掉了原来的x。

    4.5K30

    Python数学建模算法与应用 - 常用Python命令及程序注解

    这意味着当一个矩阵与多个矩阵的和相乘时,它可以分别与每个矩阵相乘,然后将结果相加。 需要注意的是,矩阵乘法不满足交换律,即 A * B ≠ B * A。乘法顺序的改变将导致结果不同。...x = z**2 * np.sin(z):这行代码使用NumPy的数组运算,将z数组的每个元素进行平方、再与z数组的每个元素的正弦值相乘,生成一个新的数组,并将其赋值给变量x。...这个操作将用于生成3D图形中的x坐标。 y = z**2 * np.cos(z):这行代码与上一行类似,只不过这里将z数组的每个元素的余弦值与平方相乘,生成一个新的数组,并将其赋值给变量y。...z = 50 * np.sin(x + y):这行代码使用NumPy的数组运算,将x数组和y数组的对应元素相加,再取正弦值,并与常数50相乘,生成一个新的数组,并将其赋值给变量z。...Z = np.sin(np.sqrt(X**2 + Y**2)):这行代码使用NumPy的数组运算,首先计算X数组和Y数组的每个对应元素的平方和的平方根,然后取正弦值,生成一个新的数组,并将其赋值给变量

    1.5K30

    EIE结构与算法映射

    将每一列的v向量按列号依次连接,z向量按列号依次连接,获得矩阵的v和z向量,为了区分不同列,额外引入u向量,u向量长度为列数加1,表示每一列的v或z向量在矩阵v和z向量中的位置,即第i列的v和z向量在矩阵的...一般来说,在ReLU函数之前的输出数据并不具有稀疏性,但是ReLU函数将所有负数输出置为0,引入了输入\输出数据的稀疏性,因此需要将输出数据进行CSC编码,CSC编码器结构如下所示: ?...论文中PE以4个一组,每个PE输出一个输出数据及其绝对标号,非零数据检测器从PE0的输出数据开始依次检测,若发现非0数据,则通过绝对标号计算CSC格式的相对标号,同时输出器数据和相对标号,实现CSC编码...累加完成后,输出缓存每个地址存储的就是对应绝对位置的输出结果,完成矩阵-向量乘法映射。...卷积在EIE上实现的可能方案。每个PE计算一个输出通道为CO+1,输入通道为CI+1的 ? 卷积,所有PE计算完成后,将结果错位相加即可获得 ? 卷积的计算结果,错位相加过程如下所示: ?

    95420

    【深度学习基础】预备知识 | 数据操作

    以X == Y为例:对于每个位置,如果X和Y在该位置相等,则新张量中相应项的值为1。这意味着逻辑语句X == Y在该位置处为True,否则该位置为False。...我们将两个矩阵广播为一个更大的 3\times2 矩阵,如下所示:矩阵a将复制列,矩阵b将复制行,然后再按元素相加。...X[1, 2] = 9 X   如果我们想为多个元素赋值相同的值,我们只需要索引所有元素,然后为它们赋值。例如,[0:2, :]访问第1行和第2行,其中“:”代表沿轴1(列)的所有元素。...这是因为Python首先计算Y + X,为结果分配新的内存,然后使Y指向内存中的这个新位置。...Z = torch.zeros_like(Y) print('id(Z):', id(Z)) Z[:] = X + Y print('id(Z):', id(Z))   如果在后续计算中没有重复使用X,

    4600

    R语言用标准最小二乘OLS,广义相加模型GAM ,样条函数进行逻辑回归LOGISTIC分类

    logistic回归基于以下假设:给定协变量x,Y具有伯努利分布, ? 目的是估计参数β。 回想一下,针对该概率使用该函数是 ? (对数)似然函数 对数似然 ? 其中 ? 。...(如果该差为正,则为x和s之间的差,否则为0)。如 ? 是以下连续的分段线性函数,在s处划分。 ? 对于较小的x值,线性增加,斜率β1;对于较大的x值,线性减少。因此,β2被解释为斜率的变化。...获得正值的函数如下 pos = function(x,s) (x-s)*(x<=s) 然后我们可以在回归模型中直接使用它 回归的输出在这里 Coefficients: Estimate...如我们所见,此处定义的函数与之前的函数不同,但是在每个段(5,15)(15,25)和(25,55)。但是这些函数(两组函数)的线性组合将生成相同的空间。...相加模型 现在考虑第二个数据集,包含两个变量。这里考虑一个模型 ? ? ? 然后我们用glm函数来实现相加模型的思想。

    1.4K20

    特征工程中的缩放和编码的方法总结

    z-score标准化,即零-均值标准化(常用方法) 标准化(或z分数归一化)缩放后,特征就变为具有标准正态分布,具有μ= 0和σ= 1,其中μ均值,σ是平均值的标准差。...MinMaxScaler norm = MinMaxScaler().fit(data) transformed_data = norm.transform(data) 将特征的每个值除以最大值是规范化的另一种方法...规范化将这些值重新缩放到[0,1]的范围内。在所有参数都需要具有相同的正刻度的情况下是非常有效的。但是数据集中的异常值会丢失。...这种方法根据输出计算每个分类变量的平均值,然后对它们进行排名。...如下表所示 在序数类别中,我们可以应用这项技术,因为我们最后输出的结果包含了顺序的信息。 平均数编码(MEAN ENCODING) 在这种方法将根据输出将类别转换为其平均值。

    1.1K10

    矩阵模拟!Transformer大模型3D可视化,GPT-3、Nano-GPT每一层清晰可见

    为此,我们要找出该列的这两个量(平均值 (μ) 和标准偏差 (σ)),然后减去平均值,再除以标准偏差。 这里我们使用E[x]表示平均值,Var[x]表示方差(长度为C的列)。方差就是标准差的平方。...我们会经常看到的点乘运算非常简单:我们将第一个向量中的每个元素与第二个向量中的相应元素配对,将这对元素相乘,然后将结果相加。...最后,我们就可以得出这一列(t=5)的输出向量。我们查看归一化自注意力矩阵的(t=5)行,并将每个元素与其他列的相应V向量相乘。 然后,我们可以将这些向量相加,得出输出向量。...但这并不是简单地将各值除以总和那么简单。相反,每个输入值都会先被求指数。 a = exp(x_1) 这样处理的效果是让所有值变为正数。...一旦得到了一个指数化的值向量,就可以将每个值除以所有值的总和,从而确保所有值的和为1.0。由于所有指数化的值都是正的,那么最终的值将介于0.0和1.0之间,也就是为原始值提供了一个概率分布。

    1.5K10

    【科学计算包NumPy】NumPy数组的基本操作

    比较运算返回的结果是一个布尔数组,每个元素为每个数组对应元素的比较结果。 (3)逻辑运算: np.any 函数表示逻辑 “or”, np.all 函数表示逻辑 “and”,运算结果返回布尔值。...("s/t =",s/t) # 逐元素相除 print("2**s=",2**s) # 逐元素求以2为底数的幂 print("|s-3t| =",np.abs(s-3*t)) # 逐元素求绝对值...np.where() 函数的用法 where()的用法:np.where(condition, x, y),满足条件 (condition) ,输出 x ,不满足则输出 y 。...用法1:当满足 con 条件时,用数组 x 的值填充原数组元素,否则就用数组 y 的值填充原数组元素,此时 where 函数有三个参数。...:",z.argmax(axis=1)) 输出: z的最大值: 95 z的最大值所在的索引: 10 z的每行最大值: [63 74 95] z的每行最大值所在的索引: [3 1 2] 统计满足条件的元素个数

    12210

    python 数据标准化常用方法,z-scoremin-max标准化

    设minA和maxA分别为属性A的最小值和最大值,将A的一个原始值x通过min-max标准化映射成在区间[0,1]中的值x’,其公式为: 新数据=(原数据-最小值)/(最大值-最小值) z-score...将A的原始值x使用z-score标准化到x’。z-score标准化方法适用于属性A的最大值和最小值未知的情况,或有超出取值范围的离群数据的情况。将数据按其属性(按列进行)减去其均值,然后除以其方差。...最后得到的结果是,对每个属性/每列来说所有数据都聚集在0附近,方差值为1。...axis=0, copy=True): 数据的缩放比例为绝对值最大值,并保留正负号,即在区间 [-1.0, 1.0] 内。...(X,value=1.0): 在 X 的第一列插入值为 value 的列 自定义数据转换 可以使用自定义的 python函数来转换数据 classpreprocessing.FunctionTransformer

    17K62
    领券