生成模型与判别模型的区别是什么

生成模型与判别模型的区别是：1、优化准则不同；2、对于观察序列的处理不同；3、训练复杂度不同；4、是否支持无指导训练；5、本质区别。训练时，二者优化准则不同，生成模型优化训练数据的联合分布概率，而判别模型优化训练数据的条件分布概率。

1、优化准则不同

训练时，二者优化准则不同:生成模型优化训练数据的联合分布概率，而判别模型优化训练数据的条件分布概率。从这里可以看出，判别模型与序列标记问题有较好的对应性。

2、对于观察序列的处理不同

生成模型中，观察序列作为模型的一部分，而判别模型中，观察序列只作为条件，因此可以针对观察序列设计灵活的特征。

3、训练复杂度不同

由于需要归一化，判别模型训练复杂度较高。

4、是否支持无指导训练

生成模型支持无指导训练，而判别模型不支持。

5、本质区别

判别模型(discriminative model )估计的是条件概率分布(conditional distribution)p(class context)，而生成模型( generative model)估计的是联合 概率分布( joint  probability)

延伸阅读：

什么是判别模型？

判别模型是一种对未观测数据y与已观测数据x之间关系进行建模的方法，直接对条件概率p(y|x;θ)建模。

在机器学习领域判别模型是一种对未知数据 y 与已知数据 x 之间关系进行建模的方法。判别模型是一种基于概率理论的方法。已知输入变量 x ，判别模型通过构建条件概率分布 P(y|x) 预测 y 。

在概率框架内，已知输入变量x，判别模型通过求解条件概率分布P(y|x)预测y。

常见的判别式模型有线性回归模型、线性判别分析、支持向量机SVM、神经网络等。

与生成模型不同，判别模型不考虑x与y间的联合分布。但对于诸如分类和回归问题，由于不考虑联合概率分布，采用判别模型可以取得更好的效果。另一方面，生成模型在刻画复杂学习任务中的依赖关系方面较判别模型更加灵活。

大部分判别模型本身是监督学习模型，不易扩展用于非监督学习过程。具体应用的特点最终决定判别模型和生成模型的适用性。

50万+团队都在用的项目协作工具一个工具满足团队所需：任务、项目、文档、IM、目标、 日历、 甘特图、工时、审批以及更多，让工作更简单

智能化研发管理工具PingCode 是简单易用的新一代研发管理平台，让研发管理自动化、数据化、智能化，帮助企业提升研发效能