多元逻辑回归（Multinomial Logistic Regression）

二分类逻辑回归

我们定义为类别为1（二分类0，1）的概率，表示类别为1的概率与类别为0的概率比的对数，当，则为类别1。

可以看到最后的standard logistic function是sigmoid function。

多分类逻辑回归

以一个三分类（0，1，2）为例，定义三组二分类逻辑回归的权重，则定义每个类别概率

可以看到最后的standard logistic function是softmax function。