逻辑回归的直观理解

逻辑回归是一种用于 二分类问题 的模型，它不是预测一个具体数值，而是预测某个事件发生的概率。

📌 核心思想

逻辑回归并不是“回归数值”，而是“回归事件发生的概率”。

它建立一个假设：

特征的线性组合可以决定某个事件发生的 对数几率（log odds）

🧮 数学表达

逻辑回归的公式如下：

log(p / (1 - p)) = w₀ + w₁x₁ + w₂x₂ + … + wₙxₙ

其中：

• p：表示事件发生的概率（如某人违约的概率）
• p / (1 - p)：表示发生与不发生的比值（几率 odds）
• log(...)：将几率转为对数，称为对数几率（log odds）
• 右边是特征的线性组合

🔄 概率计算方式

通过 Sigmoid 函数将对数几率转换为概率：

p = 1 / (1 + exp(-z))，其中 z = w₀ + w₁x₁ + … + wₙxₙ

这就把任何实数压缩到 (0, 1) 区间。

📈 图像直观

• 横轴是线性函数值 z
• 纵轴是概率 p

p
↑
|                        ●●●●●●●●●●●●
|                     ●●●
|                  ●●
|               ●●
|            ●
|         ●
|      ●
|   ●
|●
+--------------------------------→ z
           0

这条曲线就是 Sigmoid 函数图像，是一个平滑的“S”形。