机器学习02：监督学习03：逻辑回归

06-机器学习

$---by:Rianusr$

1 提出问题

- 分类问题：预测的目标是类别值
- 回归问题：预测的目标是连续值
问题：为什么要用“回归”的方法来解决“分类”的问题？

线性函数数不太适合拟合离散性变量（0-1型变量）

设想这样一种曲线sigmoid函数来拟合离散变量值

逻辑回归是一种广义的线性回归模型，P的logit变换

2.逻辑回归模型参数求解

2.1模型的构成

• 模型结果=模型假设（sigmoid） + 目标函数 + 优化算法
  
• 参数求解方法：最大似然估计，寻找β0，β1
  
  
  
  梯度下降法：
  

3 逻辑回归的正则化方法：

3.1过拟合产生的原因：

- 特征数量过大（参数过多）
- 正则化方法：砍掉一些参数

3.2 逻辑回归代码：关键参数

3.3 逻辑回归模型的自动化调参

代码演示：


自动调参，就是给定一定组合的参数，自动选择一个

逻辑回归中的多分类问题

多分类问题转为二分类问题

有多少个类就有多少个二分类模型，然后：

机器学习的一个经典问题：

代码演示：

类别型特征变量的转换

one-hot编码


结果：

连续型特征变量的转换

实际情况下并不是一直线性相关


代码演示：

特征变量的组合

总结：

预测概率转换为分数

总结：