我们知道逻辑回归主要使用了函数 $$ y= \frac{1}{1+e^{-x}} $$ 可以把所有的$x$全部映射到[0,1]

我们再加上一个线性回归，然后使用sigmoid函数 进行映射，就可以得到一个逻辑回归模型。

Sigmoid函数是一个常用的激活函数，你可以发现<0时，对输出产生很大的抑制作用，而>0时，快速接近1

但是它的损失函数如果使用均方误差，会发现有多个局部最优点，不利于优化。 我们使用交叉熵损失函数，可以避免这个问题。