二分类问题的解决利器：逻辑回归算法详解（一）

🍋引言

逻辑回归是机器学习领域中一种重要的分类算法，它常用于解决二分类问题。无论是垃圾邮件过滤、疾病诊断还是客户流失预测，逻辑回归都是一个强大的工具。本文将深入探讨逻辑回归的原理、应用场景以及如何在Python中实现它。

🍋逻辑回归的原理

逻辑回归是一种广义线性模型（Generalized Linear Model，简称GLM），它的目标是根据输入特征的线性组合来预测二分类问题中的概率。具体来说，逻辑回归通过使用Sigmoid函数（又称为Logistic函数）将线性输出映射到0到1之间的概率值。Sigmoid函数的数学表达式如下：

其中，P ( Y = 1 ∣ X ) P(Y=1|X)P(Y=1∣X) 表示在给定输入特征X的条件下，目标变量Y等于1的概率。β 0 , β 1 , … , β n \beta_0, \beta_1, \ldots, \beta_nβ0​,β1​,…,βn​ 是模型的权重参数，X 1 , X 2 , … , X n X_1, X_2, \ldots, X_nX1​,X2​,…,Xn​ 是输入特征。

逻辑回归的训练目标是找到最佳的权重参数，使得模型的预测结果与实际观测值尽可能一致。这通常通过最大化似然函数或最小化对数损失函数来实现。

🍋逻辑回归的应用场景

逻辑回归在各个领域都有广泛的应用，以下是一些常见的场景：

• 垃圾邮件检测： 逻辑回归可以根据邮件的内容和特征来预测一封邮件是否是垃圾邮件。
• 医学诊断： 在医学领域，逻辑回归可以用于预测患者是否患有某种疾病，基于患者的临床特征和实验室检测结果。
• 金融风险管理： 逻辑回归可用于评估客户违约的概率，帮助银行和金融机构做出信贷决策。
• 社交网络分析： 逻辑回归可以用于社交网络中的用户行为分析，例如预测用户是否会点击广告或关注某个话题。

🍋逻辑回归的实现

这里我们准备封装一个逻辑回归的py文件，命名为LogisticRegression.py 这里我们首先需要导入需要的库

from sklearn.metrics import accuracy_score
import numpy as np

accuracy_score函数用于计算分类模型的准确率，它是一个评估分类模型性能的常用指标。准确率表示正确分类的样本数量占总样本数量的比例。在机器学习中，通常希望模型的准确率越高越好，因为它衡量了模型对数据的分类能力。

之后我们定义一个LogisticRegression类，接下来的代码，我们将写在此类中 首先是初始化函数

def __init__(self):
        """初始化LinearRegression模型"""
        self.coef_ = None  # 系数
        self.interception_ = None  # 截距
        self._theta = None

self.coef_ = None 创建了一个对象属性coef_，并将其初始化为None。coef_通常用来存储线性回归模型的系数（也称为权重），这些系数用于预测目标变量。在初始化时，这些系数还没有被计算，因此被设置为None。

self.interception_ = None 创建了一个对象属性interception_，并将其初始化为None。interception_通常用来存储线性回归模型的截距，也就是模型在特征值为零时的预测值。在初始化时，截距也还没有被计算，因此被设置为None。

self._theta = None 最后一行代码创建了一个对象属性_theta，同样初始化为None。这个属性可能用于存储模型的参数（系数和截距），但是它以一个下划线 _ 开头，这通常表示该属性是类内部使用的，不应该直接被外部访问或修改。

之后我们定义一个逻辑回归特有的函数

def sigmoid(self, t):
        return 1 / (1 + np.exp(-t))

这个函数用来计算Sigmoid函数的值。Sigmoid函数的数学表达式如下：

其中，t tt 是输入参数。函数使用NumPy库中的np.exp()函数计算e ee的负t次方，然后将1除以这个结果，得到Sigmoid函数的值。Sigmoid函数的输出范围是0到1之间，当t tt趋向于正无穷时，Sigmoid函数趋近于1，而当t tt趋向于负无穷时，Sigmoid函数趋近于0。这使得Sigmoid函数在二分类问题中常用于将线性输出映射到概率值。

之后我们定义fit函数用于训练模型，采用的方法是批量梯度下降来最小化逻辑回归的损失函数，从而找到最优的模型参数，这里我将进行详细说明

def fit(self, x_train, y_train, eta=0.01, n_iters=1e4, epsilon=1e-8):
        """根据给定的x_train和y_train 使用梯度下降法训练LogisticRegression模型"""

        def J(theta, X_b, y):  # 计算损失函数J的值，theta是参数
            y_hat = self.sigmoid(X_b.dot(theta))
            try:
                return -np.sum(y * np.log(y_hat) + (1 - y) * np.log(1 - y_hat)) / len(
                    X_b)  # 稍微有点理解迷糊，y真实减去y预测 平方，然后除以个数
            except:
                # 返回一个float的最大值
                return float('inf')

        def dJ(theta, X_b, y):  # theta是一个向量
            y_hat = self.sigmoid(X_b.dot(theta))
            return X_b.T.dot(y_hat - y) / len(X_b)

        def gradient_descent(X_b, y, initial_theta, eta, n_iters, epsilon):  # 传入一个最大迭代次数，1万
            theta = initial_theta
            iters = 0
            while iters < n_iters:
                gradient = dJ(theta, X_b, y)
                last_theta = theta
                theta = theta - gradient * eta
                if abs(J(theta, X_b, y) - J(last_theta, X_b, y)).all() < epsilon:  # 这里应该是all还是any?  结果好像是一样，不加会报错
                    break
                iters += 1
            return theta

        X_b = np.hstack([np.ones((len(x_train), 1)), x_train])
        # 根据给定的x_train计算出X_b
        initial_theta = np.zeros(X_b.shape[1])
        # 创建出一个空的theta向量
        self._theta = gradient_descent(X_b, y_train, initial_theta, eta, n_iters, epsilon)
        self.interception_ = self._theta[0]
        self.coef_ = self._theta[1:]
        return self

def fit(self, x_train, y_train, eta=0.01, n_iters=1e4, epsilon=1e-8): 这是fit方法的定义，它接受训练数据x_train和对应的目标变量y_train作为输入，还包括三个可选参数：eta（学习率，默认为0.01）、n_iters（最大迭代次数，默认为1万）、epsilon（用于判断收敛的小量值，默认为1e-8）。

def J(theta, X_b, y): 这是一个内部函数，用于计算损失函数的值。传入参数包括模型参数theta、带有偏置项的训练数据X_b，以及目标变量y。损失函数的定义使用了逻辑回归的交叉熵损失函数。

def dJ(theta, X_b, y): 这是另一个内部函数，用于计算损失函数关于参数theta的梯度。梯度是损失函数关于参数的导数，它告诉我们在当前参数值下，损失函数增加最快的方向。这里使用了逻辑回归的梯度计算公式。

def gradient_descent(X_b, y, initial_theta, eta, n_iters, epsilon): 这是用于执行梯度下降法的内部函数。它接受训练数据X_b、目标变量y、初始参数initial_theta、学习率eta、最大迭代次数n_iters以及收敛判定值epsilon。在循环中，它计算梯度并更新参数，直到满足停止条件（收敛或达到最大迭代次数）。

X_b = np.hstack([np.ones((len(x_train), 1)), x_train]) 这一行代码创建了一个新的特征矩阵X_b，通过在训练数据前面添加一列全为1的列来实现，以处理截距项。

initial_theta = np.zeros(X_b.shape[1]) 这一行代码创建了一个初始的参数向量initial_theta，并将其初始化为全零向量。

self._theta = gradient_descent(X_b, y_train, initial_theta, eta, n_iters, epsilon) 这一行代码调用了gradient_descent函数，使用梯度下降法来训练模型并获得最优的参数向量self._theta。

self.interception_ = self.theta[0] self.coef = self.theta[1:] 这两行代码将参数向量self.theta中的第一个元素作为截距项赋值给self.interception，将其余的元素作为系数赋值给self.coef。

return self 最后，fit方法返回模型对象自身，以便进行链式操作。

这里我们再定义一个随机梯度下降

def fit_sgd(self, X_train, y_train, n_iters=5, t0=5, t1=50):  # 这里的n_iters代表 整个数据看几轮，不能取10000
        assert X_train.shape[0] == y_train.shape[0]

        def dJ_sgd(theta, X_b_i, y_i):  # 计算梯度,不需要m了，因为是随机挑选出一行数据
            return X_b_i.T.dot(X_b_i.dot(theta) - y_i) * 2

        def sgd(X_b, y, initial_theta, n_iters, t0=5, t1=50):  # 随机梯度下降法
            def learning_rate(t):
                return t0 / (t + t1)

            theta = initial_theta
            m = len(X_b)
            
            for cur_iter in range(n_iters):             
                random_indexs = np.random.permutation(m)  # 随机打乱样本
                X_b_new = X_b[random_indexs]
                y_new = y[random_indexs]
               
                for i in range(m):
                    gradient = dJ_sgd(theta, X_b_new[i], y_new[i])
                    theta = theta - gradient * learning_rate(cur_iter * m + i)
            return theta

        X_b = np.hstack([np.ones((len(X_train), 1)), X_train])
        initial_theta = np.random.randn(X_b.shape[1])
        self._theta = sgd(X_b, y_train, initial_theta, n_iters, t0=5, t1=50)
        self.interception_ = self._theta[0]
        self.coef_ = self._theta[1:]

def fit_sgd(self, X_train, y_train, n_iters=5, t0=5, t1=50):

这是fit_sgd方法的定义，与之前的方法不同，它使用随机梯度下降来训练模型。接受训练数据X_train和对应的目标变量y_train，以及可选的参数：n_iters（迭代轮数，默认为5，表示整个数据集会被遍历5次）、t0 和 t1（用于计算学习率的超参数，默认分别为5和50）。

assert X_train.shape[0] == y_train.shape[0] 这一行代码用于确保训练数据X_train和目标变量y_train的样本数量一致，以避免数据维度不匹配的问题。

def dJ_sgd(theta, X_b_i, y_i): 这是一个内部函数，用于计算随机梯度下降的梯度。传入参数包括模型参数 theta、一个样本的特征向量 X_b_i，以及对应的目标变量 y_i。梯度计算使用了逻辑回归的梯度公式，但仅针对单个样本。

def sgd(X_b, y, initial_theta, n_iters, t0=5, t1=50): 这是执行随机梯度下降的内部函数。它接受特征矩阵 X_b、目标变量 y、初始参数 initial_theta、迭代轮数 n_iters，以及学习率计算的超参数 t0 和 t1。

learning_rate(t) 是一个学习率调度函数，根据当前迭代轮数 t 来计算学习率。学习率在每轮迭代中都会发生变化，起初较大，后来逐渐减小，这有助于随机梯度下降的收敛。

随机梯度下降的主要循环包括迭代整个数据集 n_iters 次。在每次迭代中，首先对样本进行随机打乱（打乱顺序），然后遍历每个样本，计算梯度并更新参数。

X_b = np.hstack([np.ones((len(X_train), 1)), X_train]) 这一行代码与之前类似，将原始特征矩阵 X_train 转换为带有截距项的特征矩阵 X_b。

initial_theta = np.random.randn(X_b.shape[1]) 这一行代码创建了一个随机初始化的参数向量 initial_theta，用作随机梯度下降的起点。

self._theta = sgd(X_b, y_train, initial_theta, n_iters, t0=5, t1=50) 这一行代码调用了 sgd 函数来执行随机梯度下降，训练模型，并获取最优的参数向量 self._theta。

self.interception_ = self.theta[0] self.coef = self.theta[1:] 这两行代码将参数向量 self.theta 中的第一个元素作为截距项赋值给 self.interception，将其余的元素作为系数赋值给 self.coef。

最后我们进行预测的处理

def predict_prob(self, X_predict):
        X_b = np.hstack([np.ones((len(X_predict), 1)), X_predict])
        return self.sigmoid(X_b.dot(self._theta))

    def predict(self, X_predict):
        return np.array(self.predict_prob(X_predict) >= 0.5, dtype='int')

    def score(self, x_predict, y_test):
        y_predict = self.predict(x_predict)
        return accuracy_score(y_test, y_predict)

    def __repr__(self):
        return "LogisticRegression()"

predict_prob(self, X_predict): 这个方法用于对输入的特征数据 X_predict 进行预测，并返回预测的概率值。首先，它将输入数据 X_predict 扩展为带有截距项的特征矩阵 X_b，然后使用模型的参数 _theta 和 sigmoid 函数来计算每个样本的概率值。这个方法返回的是每个样本属于正类别的概率值，范围在0到1之间。

predict(self, X_predict): 这个方法使用 predict_prob 方法返回的概率值来进行二分类预测。它将概率值与阈值0.5进行比较，如果概率值大于等于0.5，则预测为正类别（1），否则预测为负类别（0）。返回的结果是一个包含0和1的数组，表示每个样本的预测类别。

score(self, x_predict, y_test): 这个方法用于评估模型的性能。它接受输入数据 x_predict 和对应的真实目标变量 y_test，并使用 predict 方法来进行预测。然后，它计算模型的准确率（Accuracy）分数，通过与真实标签进行比较来确定模型的预测精度。最终，这个方法返回模型的准确率作为性能评估的指标。

repr(self): 这是一个特殊方法，用于定义模型对象的字符串表示。当您创建模型对象并尝试打印它时，将返回该字符串，以便更好地描述模型。在这里，字符串表示简单地返回了 “LinearRegression()”，表示这是一个线性回归模型。

接下来我们用鸢尾花数据进行实践一下 首先还是导入库

from sklearn.datasets import load_iris
from LogisticRegression import LogisticRegression
import numpy as np

之后做一些前期数据选择，分割数据集的准备

iris = load_iris()
y = iris.target
X = iris.data[y<2,:2]
y = y[y<2]
plt.scatter(X[y==0,0],X[y==0,1])
plt.scatter(X[y==1,0],X[y==1,1])
plt.show()
X_train,X_test,y_train,y_test = train_test_split(X,y)

运行结果如下

之后我们进行拟合预测

log_reg = LogisticRegression()
log_reg.fit(X_train,y_train)
log_reg.score(X_test,y_test)

运行结果如下

之后我们创建一个用于可视化模型决策会边界的函数

def x2(clf,x1):
    return (-clf.interception_-x1*clf.coef_[0])/clf.coef_[1]

并绘制图像

x_plot = np.linspace(4,7,100)
y_plot = x2(log_reg,x_plot)
plt.plot(x_plot,y_plot,color='r')
plt.scatter(X[y==0,0],X[y==0,1])
plt.scatter(X[y==1,0],X[y==1,1])
plt.show()

plt.scatter(X[y == 0,0], X[y == 0,1]) 和 plt.scatter(X[y == 1,0], X[y == 1,1])： 这两行代码用于绘制数据点的散点图。第一行绘制了属于类别0的数据点，第二行绘制了属于类别1的数据点。这样，你可以在图中看到不同类别的数据点的分布情况。

运行结果如下

接下来我们用测试集来演示一下

plt.plot(x_plot,y_plot,color='r')
plt.scatter(X_test[y_test==0,0],X_test[y_test==0,1])
plt.scatter(X_test[y_test==1,0],X_test[y_test==1,1])
plt.show()

我正在参与2023腾讯技术创作特训营第三期有奖征文，组队打卡瓜分大奖！