Alex_McAvoy

想要成为渔夫的猎手

无监督学习三要素

【概述】

机器学习 中,对机器学习进行了简单的介绍,即机器学习是由模型、策略、算法构成的,可以表示为:方法 = 模型 + 策略 + 算法

对于非监督学习来说,处理的是未标注数据,希望能找到隐含在数据内部的结构信息,此时,相应的模型、策略、算法就不那么具体了

【三要素】

模型就是函数 $Z=g(X;\boldsymbol{\theta})$、条件概率分布 $P_{\boldsymbol{\theta}}(Z|X)$,或条件概率分布 $P_{\boldsymbol{\theta}}(X|Z)$,在聚类、降维、概率模型估计中拥有不同的形式

例如:聚类中模型的输出是类别,降维中模型的输出是低维向量,概率模型估计中的模型可以是混合概率模型,也可以是有向概率图模型和无向概率图模型等

【策略】

策略在不同的问题中有不同的形式,但都可以表示为目标函数的优化

例如:聚类中样本与所属类别中心距离的最小化,降维中样本从高维空间转换到低维空间过程中信息损失的最小化,概率模型估计中模型生成数据概率的最大化等

【算法】

算法通常是迭代算法,通过迭代达到目标函数的最优化

例如:梯度下降法、牛顿迭代法、拟牛顿迭代法等

感谢您对我的支持,让我继续努力分享有用的技术与知识点!